南宁市武鸣区图书馆前身是武鸣县图书馆。始创于民国24年(1935年),由当时的县政府设立县图书馆,主要供官员及受训民团官兵阅览,中学生也可以借阅。馆址位于县城灵水湖畔,馆舍为1 间40多平方米的平房。

县图书馆的创建与发展历经波折。20世纪40年代,因日军入侵县境,图书馆关闭,图书失散。解放后,1951年,武鸣县文化馆在县城解放街成立,并设立图书室。1966年,因历史原因停止借阅,图书不知所踪。1971年,成立武鸣县文化宣传站,恢复图书室。1975年县文化宣传站改为文化馆,续管图书室。

1978年1月15日,图书室与县文化馆分开,独立建制成立武鸣县图书馆,馆址位于县城建设街(县人民政府对面),馆舍面积共74平方米。1984年8月,县文化馆原房子并归县图书馆使用。1985年,拆除旧馆重建。1988年9月,武鸣县图书馆大楼竣工使用,共五层，建筑总面积为1670平方米。此后,武鸣县图书馆得到持续的发展。

2013年,参加第五次全国公共图书馆评估,评为“国家二级图书馆”称号。

2016年6月,武鸣撤县设区,武鸣县图书馆更名为南宁市武鸣区图书馆。

2017年，参加第六次全国公共图书馆评估，评为“国家三级图书馆”称号。

2021年7月，南宁市武鸣区图书馆搬迁至武鸣标营新区，地址位于武鸣区城厢镇起凤路9号。该项目于2016年11月2日立项，2017年6月底开工建设，占地面积2469.85平方米，建筑面积9715.39平方米，地下停车场建筑面积为2400平方米，其中图书馆大楼占地面积2400平方米，地面共3层，馆内建筑面积7280.32平方米，项目总投资约3444.83万元。馆内二次装修及设备投入共800万元。2021年7月南宁市武鸣区图书馆新馆正式对外开放。场馆内功能室设有28个，阅读坐席630个，是集书籍借阅、通信网络、计算机网络及高新科技为一体的现代化信息中心。

2020年3月，城区编委会批复同意图书馆增加编制5名，编制由10名调整为15名。目前图书馆在编15人，公益性岗位6人。

2022年，参加第七次全国公共图书馆评估，评为“国家一级图书馆”称号。