水城縣歷史悠久。秦始皇二十六年（前221）建漢陽縣。今水城縣境，屬漢陽縣所轄。漢沿秦制，新莽建國元年（9），改漢陽縣為新通縣，東漢復稱漢陽縣。隋大業三年（607），屬昆明國。唐669年，屬湯望州。宋開寶七年（974），屬羅氏鬼國盧鹿部。元屬順元路，領48處長官司，其中漕泥、市北洞兩處長官司駐地在今縣境內。明屬水西宣慰司轄地，水西分中水、下水、底水三部，底水即今縣境內。清康熙三年（1664），吳三桂進伐水西宣慰使安坤；五年（1666），以安坤統地設大定府，水城屬大定府。

雍正十一年（1733），建水城廳，劃大定府之永順、常平二里歸水城廳轄。乾隆四十一年（1776），再劃遠州（今織金縣）之崇信、時豐、歲稔三里入水城廳。民國二年（1913），改為水城縣，隸屬貴西道；十二年（1923）隸屬貴州省；二十四年（1935）年，隸屬第四行政督察區（畢節）。1949年和平解放后隸屬畢節專員公署。1965年，縣境內另設水城礦區，1966年劃大河、汪家寨等十公社置水城特區，屬西南煤炭建設指部，與縣并存。1970年，水城礦區與水城縣合并為水城特區，隸屬六盤水地區；1978年，隸屬六盤水市，為三特區之一。1987年復置至今。2003年，民政部批準同意水城縣人民政府駐地由六盤水市鐘山區黃土坡街道辦事處遷至水城縣濫壩鎮雙水。