日據時期，因日本人強烈殖民高壓統治政策，引起愛國烈士激烈抵抗，因而爆發慘絕人寰的「噍吧哖事件」。民國4年，日方為鎮壓抗暴群眾成立「噍吧哖所」，事件平息後於舊分局〈樹糖街〉現址設立「玉井警察分室」隸屬於台南州新化郡役所，分室主任管轄玉井、楠西、南化三鄉。
民國35年台灣光復之初原玉井警察分室改為玉井分駐所，所址即今舊分局現址，事隔7年，政府基於治安需要，於民國42年由原玉井分駐所擴編為玉井分局，民國48年玉井鄉公所基於地方治安需要，捐出30坪土地供建派出所，即玉井派出所。
       民國78年玉井分局及玉井派出所因廳舍老舊不敷現今狀況需要，乃在玉井大橋北端上坡地覓地興建玉井分局新辦公大樓，於民國84年4月份完工，於同年7月遷入新建廳舍辦公。

       本分局成立於民國42年11月1日，轄區位置位居臺南市東南隅。東與高雄市甲仙區毗鄰，北依三角南山及二尖山與嘉義縣中埔分局及本市白河分局接壤，西連走馬瀨、烏山頭及三角潭與本市善化、麻豆及新化分局為鄰。 面積計357.52平方公里。轄區面積遼闊，地廣人稀，民風純樸。轄內涵玉井區 、楠西區、南化區三區。

       本轄四條主要道路：玉南公路（臺20線）─從臺南市至玉井區，在本分局轄內有6公里。 臺3線─自嘉義縣大埔交界至高雄市內門區，在本轄內計41.68公里，臺20線─自分局起至南化區關山里段，約17.3公里。臺84線﹝東西向快速道路﹞─自本分局起至臺1線省道止，全長8.3公里。 本轄風景區林立，自臺84線開闢後，對外交通更為方便，故逢週休二日等假期，交通流量驟增，另每年5至9月芒果採收季節(玉井芒果市場)及春節假期梅花盛開期間(梅嶺風景區、曾文水庫)均有大批遊客前來，帶來相當之車潮。