夏、商时期，属扬州。

西周武王克纣后，封功臣偃姓子爵于此，立为舒国，后分立舒庸、舒鸠、舒蓼、舒龙、舒鲍、舒龚，史称“群舒”。舒城县是群舒地域之一部分。

春秋战国时期，周祚势衰，诸侯争霸，“群舒”势弱，周定王六年（前601年）楚庄王灭舒蓼。周简王十二年（前574年），楚共王灭舒庸，周灵王二十四年（前548年），楚康王命令尹屈建率师灭舒鸠。至周敬王十二年（前508年），前后百余年间，群舒先后为楚所灭。舒城县

秦代，属九江郡。

汉代，汉高祖四年（前203年），置舒县。翌年，别置龙舒县。汉明帝永平五年（62年）封楚王英舅子许昌为龙舒侯，领舒县、龙舒县，改称“龙舒侯国”。

三国时期（220年—280年），初属魏、后属吴。

西晋时属扬州庐江郡。

唐开元二十三年（735年），置舒城县，属淮南道庐州。

北宋时属淮南西路庐州。

元时，初属江淮行省，至元十三年（1276年），属庐州路，至元二十八年（1291年），属河南江北行省。

明洪武元年（1368年），属直隶中书省庐州府，永乐十八年（1420年），属南直隶庐州府。

清顺治二年（1645年）属江南省庐州府，顺治十八年（1661年），属江南左布政使司。康熙六年（1667年），属安徽省庐州府。

中华民国三年（1914年），属安徽省安庆道，民国二十一年（1932年），安徽省开始分设行政区，后又改为行政督察区，舒城县属第三区（专署驻六安县年）。

1949年1月22日，全县解放，县、区、乡、村分别成立民主政府，是年5月1日，改为人民政府，属皖北行署六安专区，1952年—1985年底，属安徽省六安专（地）区。2000年至今，属安徽省六安市。