南平是福建省最早开发的地区之一。早在4000多年前的新石器时代，就有土著人在此繁衍生息。夏商时期，天下分九州，南平属扬州。周时，属七闽地。周显王三十五年（前334年），建立闽越国，南平属之。秦始皇二十六年（前221年），南平属闽中郡。西汉高祖五年（前202年），南平属闽越国。汉建元六年（前135年），馀善封为东越王，在闽北割踞，闽越改称东越。馀善分别在今浦城县、武夷山市、建阳区、邵武市建成六座城堡拒汉。汉元封元年（前110年），东越被汉王朝所灭，立冶县，南平属之。

南平建置区划始于东汉建安初年（约196年），福建境内设置5县，南平境内有南平、建安（今建瓯）、汉兴（今浦城）3县，属会稽南部都尉，是最早的县级行政区划。汉建安八年（203年），移南部都尉于建安。建安十年（205年），析建安桐乡及今江西上饶一部分地置建平县（今建阳）。

三国吴永安三年（260年），以会稽南部地置建安郡，郡治建安（今建瓯）等10县（即今福建全境）。建安郡成为福建省最早的地区级建制。

魏晋南北朝时期，实行州、郡、县三级地方政区制。晋太康三年（282年），建安郡属扬州。元康元年（291年），属江州（今江西九江）。南朝梁普通六年（525年），属东扬州。陈永定初年（约557年），改属闽州（今福州）。光大二年（568年）属丰州（今江西抚州）。

隋开皇九年（589年）废郡为县，将原州、郡、县三级政区制改为州、县二级政区制，废郡后的建安属泉州（今福州）。大业初（约605年），属闽州（治福州）。大业三年（607年），闽州又改名建安郡。

唐王朝实行道、州、县制度。武德四年（621年），州治从福州移至建安（今建瓯），并改郡为建州，属泉州都督府。景云二年（711年），属闽州都督府。天宝元年（742年），改建州为建安郡，属江南东道采访使。乾元元年（758年），又改为建州，属福州都督府。肃宗上元元年（760年），属福州节度使。大历六年（771年），属福州都团练观察处置使。

五代闽龙启二年（934年），王审知在福建建立闽国，建州属之。后晋天福八年（943年），王审知之子王延政在建州建国，国号“殷”。南唐保大四年（946年），殷亡，改建州为永安军，不久又改为忠义军。同年，析建州地置剑州，治剑浦（今延平）。时境内二州并立。

宋代，实行路、府（州、军）、县三级政区制。开宝八年（975年）改忠义军为建州。太平兴国三年（978年），建州、剑州同属两浙西南路。太平兴国四年（979年），因四川亦有剑州，改南平剑州为南剑州。太平兴国五年（980年）增置邵武军，治邵武，境内2州1军并立。雍熙二年（985年），建州、南剑州、邵武军改属福建路。端拱元年（988年），升建州为建宁军节度，绍兴三十二年（1162年）再升为建宁府。

元代，至元十三年（1276年）改邵武军为邵武路。至元十五年（1278年），改建宁府为建宁路，南剑州为南剑路。大德六年（1302年），改南剑路为延平路，闽北3路同属福建行中书省。

明代，洪武元年（1368年），改建宁路为建宁府，邵武路为邵武府。洪武二年（1369年），改延平路为延平府。3府同属福建布政使司。

清代，建制沿袭明制，境内设3府。