元為福祿永從、西山大洞等處，屬思州軍民安撫司。

明洪武三年（1370年）置福祿永從長官司，屬思州宣慰司；永樂五年（1407年）置西山陽洞長官司，屬思州宣慰司；六年（1408年）增設二長官司吏目；十二年（1414年）以福祿永從、西山陽洞二司隸黎平府；正統六年（1441年）改福祿永從、西山陽洞蠻夷長官司為永從縣，屬黎平府。

清康熙二十二年（1693年）廢西山陽洞長官司；雍正十年（1732年）添設永從縣承一員，分駐丙妹，又移黎平府潭溪司吏司駐下江；乾隆三十六年（1771年）以貴陽府通判駐下江，改為黎平府下江通判，置下江廳。清朝末年，從江縣地分屬永從縣、下江廳、開泰縣和潭溪司。

民國二年（1913年）改下江廳為下江縣，與永從縣均屬黔東道；開泰縣和潭溪司并入黎平縣，從江縣地亦分隸永從縣、下江縣和黎平縣。三年（1914年）以丙妹縣承地置丙妹分縣，屬從江縣；二十四年（1935年）下江縣屬第十行政督察區；二十五年改屬第八行政督察區；同年撤丙妹分縣，并入永從縣；二十六年（1937年）以后，永從、下江兩縣屬第二行政督察區；三十年（1941年）撤永從，以東北地入黎平，西南地入下江。并永從、下江二縣為從江縣（以永從、下江各取一字為名），從江之名始此。

1950年12月5日，從江解放。12月26日從江縣人民政府成立，駐丙妹鎮。隸屬獨山專區。

1952年12月，獨山專區改稱都勻專區，從江縣即屬都勻專區。

1956年4月28日，從江縣由都勻專區劃歸黔東南苗族侗族自治州管轄。

1958年12月29日，從江縣并入榕江縣。

1961年8月18日恢復從江縣建置。

1996年，從江縣轄7個鎮、14個鄉（其中3個民族鄉）。縣政府駐丙妹鎮。

1997年，從江縣轄7個鎮、14個鄉縣政府駐丙妹鎮。

2003年末，轄7個鎮、14個鄉共有380個村委會、3個社區、6個居委會。

2007年末，轄7個鎮、14個鄉（其中3個民族鄉），294個行政村、6個居委會、3個社區，2253個村民小組。

2011年，全縣轄14個鄉7個鎮(其中民族鄉3個)，294個行政村，6個居委會，3個社區，2225個村民小組，1031個自然村寨。

2012年，往洞鄉撤鄉設鎮。調整后，全縣轄8個鎮、13個鄉（其中3個民族鄉）。

2013年，從江縣轄有8個鎮，10個鄉，3個民族鄉。

鎮：丙妹鎮、貫洞鎮、西山鎮、下江鎮、停洞鎮、洛香鎮、宰便鎮、往洞鎮。

鄉：東朗鄉、斗里鄉、高增鄉、加勉鄉、慶云鄉、往洞鄉、光輝鄉、谷坪鄉、加榜鄉、加鳩鄉、雍里鄉。

民族鄉：翠里瑤族壯族鄉、剛邊壯族鄉、秀塘壯族鄉。