云巖區境，元至元十九年（1282年）置順元路軍民宣慰司，屬湖廣行省。 至元二十九年（1292年）改為八番順元等處宣慰司都元帥府，元末降為順元路軍民安撫司，今區境均屬其管轄。

明洪武四年（1371年）置貴州宣慰司，隸四川行省。明永樂十一年（1413年）改隸貴州行省。今區境均在其轄下。明隆慶二年（1568年）移程番府入省城，明隆慶三年（1569年），改程番府為貴陽府，今區域是府城附郭。明萬歷十四年（1586年）置新貴縣，今區境為其附郭。明萬歷二十九年（1601年）貴陽府升貴陽軍民府，轄地含今區境。

清康熙二十六年（1687年），裁貴州前衛，設置貴筑縣，貴筑縣轄9里。其中的紅邊里、西上里、南隅里等均在今云巖區境域。清乾隆十四年（1749年）十月，貴陽府親領8保，其中內城東北保、西北保及外城西南、東南、東北、西北等保所轄地范圍大部分在今云巖區境域。清乾隆四十六年八月（1781年9月）以貴筑縣北門外（今噴水池以北地區）新城日繁，商賈云集，令將貴筑縣丞移駐新城，就近稽查（新城在今區域）。清宣統三年（1911年）十一月初四日，貴州光復，成立貴州軍政府，后改貴州省公署；治所地址一直在今省府路貴山苑小區內。

民國三年（1914年）1月改貴陽府為貴陽縣，同年8月將貴州分為黔中、貴西、鎮遠三道，貴陽縣屬黔中道管轄，今區境均在貴陽縣轄境內。民國九年（1920年），廢黔中道，貴陽縣直屬于省。 民國三十年（1941年）7月1日貴陽市正式成立，貴陽設市之初，仍然沿襲舊制，城市治安由警察局管理，警察局之下設5個分局，警察分局有行政職權，分局之下設聯保，聯保之下設保、甲。當時，警察一分局駐中華北路，警察二分局駐中華中路，警察三分局駐公園北路。 民國三十二年（1943年）春，經貴州省政府核準，將原來5個警察分局下轄的22個聯保改為20個鎮，各鎮建立鎮公所。這20個鎮當中的毓秀鎮等13個鎮在今區境。 民國三十三年（1944年）11月，將貴陽市的20個鎮裁撤，成立9個區，區級政權之下未設鄉、鎮，區公所直接領管保，這一建置直到1949年11月貴陽解放都未再變動。

1949年11月15日，貴陽解放。11月22日，貴陽市軍事管制委員會派出軍代表接管貴陽市的一、二、三及七、九區公所隸屬今云巖區境。

1950年5月，將原來的9個區劃為7個區。

1952年8月，貴陽市郊的五至七區管轄范圍又改劃為5個鄉，36個行政村。

1953年6月，又將郊區的5個鄉改為7個鄉、8個辦事處。

1954年，將貴筑縣劃撥給貴陽市管轄，原來由貴筑縣烏當區下轄的偏坡、雅關、漁安劃為鄉。將大宅吉、小宅吉、建水、市北村、大洼、橋下等村劃歸大洼鄉；黔靈、香獅、頭橋、中寨、黃泥田等村劃歸頭橋鄉；東山一帶劃歸東山鄉。

1954年，貴陽市將郊區的8個街道劃歸兩城區。

1955年8月，貴陽市第一區更名為云巖區，第二區就更名為富水區。

1982年8月，云巖區下轄14個街道及黔靈公社。

1984年6月，撤銷黔靈人民公社，建立黔靈鄉。

1989年1月，在貴烏路、北京路街道、黔靈鄉的大宅吉、小宅吉為主的一部分地區（東至貴烏路的半邊街，南至鹽務街，西至雅關、南埡路，北到麻沖地區）劃出建立宅吉街道。

2000年4月，撤銷黔靈鄉，建立黔靈鎮。云巖區下轄15個街道辦事處和1個鎮。

2001年，全區轄15個街道、1個鎮，112個社區、13個村。

2009年，全區共18個街道，1個鎮，134個社區，19個村。

2012年，全區共1個鎮、26個社區。