大林舊名「大莆林」。地名由來說法有二,一種說法係指本地在開墾初期乃為廣大的森林地帶,故有此稱;另一種說法為往昔此地有來自潮州府大埔之林地的移民,而有此稱。後來才改為『大林』。
在清治康熙年間由薛大有率眾來此墾拓居住,居民祖先多從福建、漳泉二州及廣東渡海遠來,陸續發展成聚落,政府設衙門於此,天主教堂、商店舖愈來多,相當的繁榮。1920年台灣地方改制,於本地設置「大林庄」,1943年10月1日升格為「大林街」,隸屬台南州嘉義郡管轄。戰後初期設置台南縣嘉義區大林鎮,1950年台灣行政區域調整改為
嘉義縣大林鎮至今。