武夷山市前身为崇安县，位于福建省西北部、闽赣两省交界处。

唐贞观初（约630年），左千牛卫上将军彭迁定居建阳县北乡潺溪口（今武夷山市区东岸至综合农场一带），形成较大的居住点，取名新丰乡。唐垂拱四年（688年），彭迁之子彭汉奏准将新丰乡改为温岭镇。会昌五年（845年），彭迁裔孙彭珰呈报朝廷将温岭镇改为崇安场。北宋淳化五年（994年），升崇安场为崇安县，寓意“崇山峻岭之中的安宁之地”。民国《福建通志》载：“当取名于崇岭、崇溪。”

明清时期，崇安县茶叶贸易兴盛，茶商云集，茶市繁荣，为当地带来大量财富，被喻为“金崇安”。

1989年8月，为了更好地提升武夷山国家风景名胜区的知名度和影响力，撤销崇安县设立武夷山市。1999年12月，武夷山经联合国教科文组织批准，以文化与自然双重遗产列入《世界遗产名录》，成为继泰山、黄山、峨眉山之后，中国第4处文化与自然双重遗产地，也是世界第22处文化与自然双重遗产地。2021年10月，国家主席习近平在以视频方式出席《生物多样性公约》第十五次缔约方大会领导人峰会并发表主旨讲话时指出，中国正式设立武夷山以及三江源、大熊猫、东北虎豹、海南热带雨林等第一批国家公园。

关于武夷山名的来历，先秦时期已有两个传说：

一是源于彭祖的两个儿子彭武和彭夷的传说。清康熙《建宁府志》载：彭祖，姓篯名铿。传称其尝进雉羹于尧，尧封之彭城，故称彭祖。隐居幔亭峰下，得养生秘术。茹芝饮瀑，乘风御气，肤如处女，颜如舜英。历娶六十七妻，年七百七十七岁。有子曰武曰夷，亦隐是山，山因是得名。

二是源于武夷君的传说，封号为显道普利冲元真君。清乾隆董天工《武夷山志》载：相传昔有神仙降山中，自称武夷君，受上帝命，统录群仙，授馆于此，汉武帝时遣使祀之。宋绍圣三年（1096年），祷雨获应，现相云中，封显道真人。元符元年（1098年），进封真君。端平元年（1234年），加封显道普利。嘉熙元年（1238年），又加冲元。