战国时期，秦灭蜀，置蜀郡，乐山属蜀郡辖区。汉代，统治者划巴、蜀二郡部分土地置犍为郡，乐山又属犍为郡辖区。南北朝时期，由于战乱，郡邑荒废。从此以后，郡县建置更频繁，直至清末，县级建制相对稳定。秦武王二年(前309)，建南安县，县为蜀郡极南，故名。周武帝保定元年(561)，在南安县地置平羌县，取境内平羌山为名。隋开皇三年(583)，改平羌县为峨眉县，以境内峨眉山为名，治嘉州城。隋开皇九年(589)，改峨眉县为青衣县，取青衣水为名。隋开皇十三年(593)，改青衣县为龙游县。宋徽宗宣和元年(1119)，改龙游县为嘉祥县。南宋高宗绍兴元年(1131)，又改嘉祥县为龙游县。明洪武八年(1375)，撤销龙游县入嘉定州，州治嘉定。清雍正十二年(1734)，置乐山县，因境内至乐山而得名。1912年，裁县入府。1913年1月，恢复道制，裁嘉定府；2月，置乐山县。

1949年12月16日，乐山城解放；20日，成立县人民政府。1978年5月25日，撤销乐山县，设立乐山市(县级)。1985年2月21日，撤地建市；6月17日，撤销乐山市(县级)，建立乐山市市中区。2019年12月16日市中区辖5个街道：大佛街道、绿心街道、海棠街道、通江街道、全福街道，11个镇：苏稽镇、水口镇、平兴镇、棉竹镇、悦来镇、牟子镇、土主镇、剑峰镇、白马镇、茅桥镇、青平镇。区境有享誉中外的世界自然与文化遗产——乐山大佛。1982年，乐山中心城区成为全国开放的风景旅游城市之一。1994年1月4日，国务院批准乐山中心城区为全国历史文化名城。