梧州是嶺南古城。虞舜時代（前2255～前2207年），全國劃為12州，梧州屬“荊州南境”之地。夏商周時代（前2000～前256年），梧州屬百越（粵）地。周安王十五年（楚悼王十五年，前387年），梧州屬楚。秦始皇三十三年（前214年），始皇統一嶺南后，置桂林、象、南海3郡，梧州屬桂林郡（一說南海郡）。漢高后五年（前183年〕，趙佗稱南越武帝，封趙光為蒼梧王。同年，建蒼梧王城，這是梧州建城之始。元鼎六年（前111年），漢武帝滅南越國后，置蒼梧郡，郡治蒼梧王城，置廣信縣。元封五年（前106年），武帝將交趾刺史部移治蒼梧郡廣信縣，統轄嶺南的蒼梧等9郡，梧州成為“嶺南要地”，為嶺南首府。

梧州市自建制以來，歷漢、三國、魏晉南北朝，達700多年，一直為郡、縣治所。至隋開皇三年（583年），改廣信縣為蒼梧縣。唐武德四年（621年），始稱梧州。元至元十六年（1279年），梧州安撫司改為梧州路，設總管府，治梧州，轄蒼梧縣。明成化六年（1470年），明憲宗在梧州創建兩廣總督府，這是中國歷史上最早的總督府，梧州成為兩廣政治、軍事中心。清朝，梧州屬廣西承宣布政使司桂平梧郁道梧州府、廣西省梧州府，為府、縣治。梧州轄蒼梧、藤縣、岑溪、容縣、懷集、北流、博白、興業、陸川9縣，郁林1州。雍正三年（1725年），梧州改轄蒼梧、藤縣、岑溪、容縣、懷集5縣。民國元年（1912年），梧州隸屬梧州軍政分府，為府治。二年（1913年），廣西廢府為縣，復置蒼梧縣，隸郁江道，為道治。十六年（1927年）6月，梧州設市政委員會。同年12月1日，梧州市政府正式成立，為省轄市。二十一年（1932年）7月，撤市復歸蒼梧縣，治梧州。十九年（1930年）屬蒼梧民團區。二十三年（1934年）3月，屬梧州行政監督區，二十九年（1940年）后屬第三區行政督察專員兼保安司令公署。

1949年11月25日，梧州解放。12月1日，中國人民解放軍梧州軍事管制委員會成立。1950年1月1日，梧州市人民政府成立。1955年7月24日，市人民政府改稱梧州市人民委員會。1958年7月，自治區人民委員會決定，并經國務院批準，梧州市劃歸梧州專員公署領導，但市人民委員會的政權機構不變，仍為省轄市、專區級機構。1960年10月，梧州地區專員公署與市人民委員會合署辦公。1961年5月，恢復地、市建制，梧州市仍為自治區轄市。1968年8月26日，市革命委員會成立。 1980年9月29日，恢復市人民政府。1979年2月，梧州市設立萬秀區、白云區、鴛江區、蝶山區。1984年9月，撤銷鴛江區。1990年8月，撤銷白云區。1984年2月，蒼梧縣由梧州地區劃撥梧州市管轄。1984年6月23日，撤銷5年之后的郊區重設。至此，梧州市轄蒼梧縣、萬秀區、蝶山區和郊區。1997年4月，梧州市增轄藤縣、蒙山縣、代管岑溪市，轄區擴大為3縣1市3區。2003年2月，市轄區調整，撤銷市郊區，設長洲區。