据考证，最迟在9000年前的新石器时代，先民就在汨罗江畔繁衍生息，属于大溪龙山文化范畴。
春秋，楚文王置罗子国。
东周庄王七年（前690），楚武王灭罗子国，将其遗民从宜城（今湖北宜城）迁至丹阳（今湖北秭归）附近的枝江，次年，楚文王迁都于郢（今湖北江陵西北），因枝江靠近郢都，“卧榻之侧，不容他人鼾睡”，随后将罗子国遗民迁至湘江流域，筑城于汨罗江尾闾南岸（今汨罗城区西4公里处），故名罗城，其境域包括今湘阴县、汨罗市、平江县及岳阳县南部和沅江市东部地区。
秦始皇帝26年（前221），以罗子国移民领地设置罗县，治所设罗城，隶属长沙郡。
西汉高祖5年（前202），徙衡山王吴苪为长沙王，长沙郡改为长沙国，罗县随隶。
东汉建武7年（公元31年），恢复长沙郡，隶荆州，罗县仍隶长沙郡。东汉熹平年间（172---178），划出罗县东部置汉昌县（即平江县）。建安13年（公元208年）12月，荆州牧降刘备，罗县随隶。建安20年（215）5月，刘备与孙权议和，划湘江为界，分荆州而治，罗县属吴国，直至三国末年。
晋太康元年（280），西晋灭吴，罗县仍隶荆州长沙郡。
南朝宋元徽2年（474），析罗县、益阳、湘西三县的沿江沿湖地区设置湘阴县，境内分隶罗县和湘阴县。
梁大通2年（528）至太平元年（556），置罗州，州治设在夹城（今汨罗镇夹城村），析罗县南部置湘滨县，县治设城江城（今川山坪镇常公村），析罗县东部、吴昌县西部置岳阳县，县治设长（今长乐镇新村），析罗县北部置玉山县，县治设玉山城（今屈子祠镇农科村玉笥山）。建岳阳郡，郡治设今长乐镇长南村。岳阳郡辖罗县、湘阴、湘滨、玉山、岳阳、吴昌等6县。境内分隶罗、湘阴、湘滨、玉山、岳阳5县。
隋开皇9年（589年），撤销岳阳郡设置玉州，州治设在今屈子祠镇农科村的玉笥山，吴昌、湘滨两县并入罗县。湘阴县并入岳阳县。境内隶罗县、玉山县和岳阳县3县，同隶玉州。
开皇11年（公元591年），改岳阳县为湘阴县，撤玉山县并入湘阴县（治所在今长乐镇长乐街）。境内分隶罗县和湘阴县。次年撤玉州改为岳州，罗县和湘阴县改隶岳州。
大业3年（607），岳州改为罗州，后改为巴陵郡（治所在今岳阳市城区），罗县及湘阴县先后隶罗州与巴陵郡。
大业13年（617），罗县县令萧铣据巴陵起兵反隋，号称梁王，罗、湘阴两县属梁。
唐武德4年（621）11月，行军总管李靖在攻降萧铣后设置巴州。两年后改巴州为岳州，罗、湘阴两县先后随隶。
武德8年（625），撤罗县并入湘阴县（治所今川山坪镇城江村），隶岳州。
从此时历经五代、宋、元、清和中华民国时期，至1966年2月，历时1341年，汨罗境地隶属湘阴县。
1966年2月，根据国务院和省人民委员会通知，析湘阴县东部置汨罗县，县城建于高泉山。汨罗县隶岳阳专区。
1968年，改属岳阳地区。
1986年1月，撤地建岳阳市，汨罗县随隶。
1987年9月，经国务院批准，撤销汨罗县，设立县级汨罗市，仍隶岳阳市。