阿倍野区在过去属于摄津国东成郡和住吉郡，在江户时代分属天王寺村、阿部野村和住吉村，这三村分别为幕府直属领和小田原藩领地；1889年实施町村制后，前两村合并为天王寺村，住吉村仍独自存在。

1925年，这两村被并入大阪市，并划入新设立的住吉区，当时住吉区的范围包括如今的阿倍野区、住吉区、住之江区、东住吉区、平野区。1943年住吉区决定被拆分为三个区，原先规划拆成三个区后，位于东部的区命名为“东住吉区”，位于西北部的区由于原本住吉区的区公所位于此，此区继续沿用“住吉区”之名，位于西南部的区则命名为“住之江区”；但由于位于西南部的住吉大社周边居民反对使用“住之江”之名称，最终决定西南部这区命名为“住吉区”，而西北部的区则改采用阿倍野区作为名称。