邵武地处福建省西北部、武夷山南麓，自古是由赣入闽的重要通道，为军事要塞，素有“铁城”和“南武夷”之称。历史上邵武还称邵阳、樵川、樵阳。明嘉靖《邵武府志》载：“又郡有樵岚山，樵水出焉，治在其阳，故曰邵阳，又曰樵川，又曰樵阳也。”宋至清末，邵武曾是邵武军（路、府）的治所。民国时期，曾作为福建省第九行政督察专员公署的驻地。

西汉时，东越王馀善在今邵武故县村筑“乌阪城”拒汉。

三国吴永安三年（260年），东吴孙休在乌阪城设置昭武镇，同年升昭武县，乌阪城即为县城。昭武的解释有两种：一种为闽越王无诸用武之地。昭，是展示、显扬。昭武，就是展示武力。元代《武阳志略》记述:“昭武，抑无诸用武之地而称耶?吴之取名，义或在此。”另一种为武夷山之南，亦称南武夷。明嘉靖《邵武府志》载:“武者，以其地在武夷山之南，古以南为昭，故曰昭武。”

西晋元康元年（291年），晋惠帝司马衷为避其祖父司马昭的名讳，改昭武为邵武。明嘉靖《邵武府志》载:“近志云:邵者，高也，昭也。武者，以其地在武夷山南。”故称“邵武”。

东晋太宁元年（323年），改邵武县为邵阳县（一作武阳）。南朝刘宋永初元年（420年），复改为邵武县。

隋开皇九年（589年），邵武县废。开皇十二年复置，属江西抚州（大业元年改为临川郡）。唐武德七年（624年），邵武划回建州。

五代后晋天福元年即闽永和二年（936年），闽王王延曦改邵武县为昭武县。南唐保大六年（948年），复改为邵武县。

1983年8月，邵武撤县改市。