日據時期，因日本人強烈殖民高壓統治政策，引起愛國烈士激烈抵抗，因而爆發慘絕人寰的「噍吧哖事件」。民國4年，日方為鎮壓抗暴群眾成立「噍吧哖所」，事件平息後於舊分局〈樹糖街〉現址設立「玉井警察分室」隸屬於台南州新化郡役所，分室主任管轄玉井、楠西、南化三鄉。
民國35年台灣光復之初原玉井警察分室改為玉井分駐所，所址即今舊分局現址，事隔7年，政府基於治安需要，於民國42年由原玉井分駐所擴編為玉井分局，民國48年玉井鄉公所基於地方治安需要，捐出30坪土地供建派出所，即玉井派出所。
民國78年玉井分局及玉井派出所因廳舍老舊不敷現今狀況需要，乃在玉井大橋北端上坡地覓地興建玉井分局新辦公大樓，於民國84年4月份完工，於同年7月遷入新建廳舍辦公。

本分局成立於民國42年11月1日，轄區位置位居臺南市東南隅。東與高雄l市甲仙區毗鄰，北依三角南山及二尖山與嘉義縣中埔分局及本市白河分局接壤，西連走馬瀨、烏山頭及三角潭與本市善化、麻豆及新化分局為鄰。 面積計357.52平方公里。人口至113年03月底計有11,390戶，計有29,643人口。轄區面積遼闊，地廣人稀，民風純樸。轄內涵玉井區 、楠西區、南化區三區。

玉井區

• 面積： 76.37平方公里
• 人口數：13,001人
• 特產： 玉井區居民大都務農為主，主要農作物為芒果，因氣候、土壤及管理適宜，甜又香聞名全省。
• 名勝： 鄰走馬瀨農場，虎頭山

楠西區

• 原名茄拔社，又稱茄拔山後民國9年改名楠西庄，民國34年改為楠西
• 面積： 109.6316平方公里
• 人口數：8,675人
• 特產： 芒果、楊桃、梅子、荔枝。
• 名勝： 梅嶺遊樂區、龜丹溫泉、鄰曾文水庫。

南化區

• 民國34年改南化庄為南化區
• 面積： 171.52平方公里
• 人口數： 7,967人
• 特產： 芒果、荔枝、龍眼、竹筍。
• 名勝： 玉山寶光聖堂、東和厚德紫竹寺、小崙鏡面水庫、關山、南化水庫。

本轄四條主要道路：玉南公路（臺20線）─從臺南市至玉井區，在本分局轄內有6公里。 臺3線─自嘉義縣大埔交界至高雄市內門區，在本轄內計41.68公里，臺20線─自分局起至南化區關山里段，約17.3公里。臺84線﹝東西向快速道路﹞─自本分局起至臺1線省道止，全長8.3公里。 本轄風景區林立，自臺84線開闢後，對外交通更為方便，故逢週休二日等假期，交通流量驟增，另每年5至9月芒果採收季節(玉井芒果市場)及春節假期梅花盛開期間(梅嶺風景區、曾文水庫)均有大批遊客前來，帶來相當之車潮。