夏、商时期，其地域属于扬州。西周武王攻克商纣之后，封功臣偃姓为子爵，让他在这个地方立国，建立了舒国。之后又分立出舒庸、舒鸠、舒蓼、舒龙、舒鲍、舒龚等国，在历史上被称为“群舒”。舒城县是“群舒”地域的一部分。春秋战国时期，周朝的国运逐渐衰落，诸侯之间相互争霸，“群舒”的势力也变得弱小。周定王六年（前 601），楚庄王灭掉了舒蓼。周简王十二年（前 574 年），楚共王将舒庸灭掉。周灵王二十四年（前 548 年），楚康王命令尹屈建率领军队灭掉了舒鸠。从周简王十二年到周敬王十二年（前 508 年），这前后一百多年的时间里，群舒先后被楚灭掉。在秦朝的时候，属于九江郡。汉高祖四年（前 203 年），设置了舒县。第二年，又另外设置了龙舒县。汉明帝在永平五年（62 年）封了楚王英的舅子许昌为龙舒侯，许昌领有舒县和龙舒县，这两个县被改称为“龙舒侯国”。在三国时期（220 年至 280 年），起初属于魏国，后来属于吴国，到了晋朝时则属于扬州庐江郡。唐朝开元二十三年（735 年），设置了舒城县，它属于淮南道庐州。北宋时期属于淮南西路庐州。元时，起初隶属于江淮行省。在至元十三年（1276 年），隶属于庐州路。到至元二十八年（1291 年），又隶属于河南江北行省。明朝洪武元年（1368 年），隶属于直隶中书省庐州府。永乐十八年（1420 年），隶属于南直隶庐州府。清朝顺治二年（1645 年），隶属于江南省庐州府。顺治十八年（1661 年），隶属于江南左布政使司。康熙六年（1667 年），隶属于安徽省庐州府。1952 年至 1985 年底，舒城县属于安徽省六安专（地）区。2000年至今，属安徽省六安市。
