吉水古稱石陽縣，建縣時間為東漢永元八年（公元96年），縣治設今醪橋鎮固洲村，距今有1900年歷史。

春秋戰國夏時隸揚州，周初為吳地，戰國時屬楚。

秦始皇二十六年（公元前221年），創郡縣制，分天下為36郡。吉水屬廬陵縣，隸九江郡。

西漢高帝元年（公元前206年），吉水屬廬陵縣，隸九江王國。漢高帝四年（公元前203年），分九江地立豫章郡，吉水地屬廬陵縣，隸豫章郡。［新］王莽始建國元年（公元9年），改豫章郡為九江郡，改廬陵為桓亭，吉水地盡屬之。

東漢光武帝建武元年（公元25年），改九江郡為豫章郡，桓亭復稱廬陵，吉水屬之。和帝永元八年（公元96年），析新淦、廬陵地置石陽縣（縣治設今醪橋鎮固洲）。獻帝建安四年（公元199年），析豫章郡置廬陵郡，吉水地屬石陽縣，隸廬陵郡。

三國吳末帝寶鼎二年（公元267年），析廬陵郡之石陽、陽城地置吉陽縣。

晉太康元年（公元280年），分揚州地立江州，廬陵郡屬之。

隋開皇十年（公元590年），廢廬陵郡立吉州，將石陽、吉陽二縣并入廬陵縣。大業三年（公元607年），改吉州為廬陵郡，將郡治移于原石陽縣治舊址（今醪橋鎮固州）。大業末（公元615～617年），分廬陵縣水東的順化（又作淳化、舜化、純化）、文昌（又作永昌）、折桂、中鵠、仁壽、興平、明德、永豐、龍云（含報恩）、云蓋、遷恩（又作遷鶯）十一鄉置吉水縣。

唐武德五年(公元622年），廬陵郡復改吉州。永淳元年（公元682年），徙吉州治于廬陵縣治。玄宗天寶元年（公元742年），改吉州為廬陵郡。天寶十四年（755年），吉水改縣為鎮（鎮治設今城南）。肅宗乾元元年（公元758年），廬陵郡復改吉州。

十國吳高祖天祐七年（公元910，用唐年號），揚吳得吉州，沿承唐制。吉水由鎮復縣，以新淦為都制置使治所，旋移吉水，尋廢。南唐烈祖昇元元年（937年），南唐建立，承繼吳制。復置新淦都制置使；次年罷新淦都制置使，吉水由縣改場，隸吉州。元宗保大八年（公元950年），吉水由場改縣，屬吉州。

宋開寶八年（公元975年），南唐滅，吉州改稱吉州廬陵郡兼軍事，吉水屬之。太平興國元年（公元976年），分江南東、西路，吉水屬江南西路。仁宗至和元年（公元1054年），析吉水縣之興平、明德、永豐、龍云（含報恩鎮）、云蓋五鄉置永豐縣。哲宗元祐七年（公元1092年），廬陵縣以同水鄉及新嘉里換吉水之順化鄉。高宗紹興二十一年（公元1151年）復析吉水之遷恩鄉，歸永豐縣管轄。

元世祖至元十四年（公元1277年），改吉州廬陵郡兼軍事為吉州路總管府，隸江西行省。成宗元貞元年（公元1295年），吉水由縣升州，隸屬未變。仁宗皇慶元年（公元1312），改吉州路總管府為吉安路，至正二十二年（公元1362年）朱元璋取江西，改吉安路為吉安府。

明洪武二年（公元1369年），吉水降州為縣。洪武九年（公元1376年），改江西行省為江西承宣布政使司，下設五道，吉安府屬湖西道，吉水屬之。

清因襲明制。

民國1912年冬廢府,吉水縣直屬江西省。1914年，省下置四道（豫章、潯陽、廬陵、贛南），吉水屬廬陵道。1926年廢道，吉水縣直屬江西省。第二次國內革命戰爭時期（公元1927～1934年）蘇區分別成立廬吉縣、公略縣、新峽縣，國統區仍稱吉水縣。1931年吉水屬吉安區；1932年屬江西省第九行政區；1935年改屬江西省第三行政區。

中華人民共和國1949年7月14日吉水解放，7月15日吉水縣委、縣人民政府宣布成立，隸屬吉安專區。1950年9月隸屬吉安區；1955年3月隸屬吉安專區。1968年2月屬井岡山專區。1971年1月屬井岡山地區。1979年7月屬吉安地區。2000年5月隸屬吉安市。