青州得名甚早，禹贡中就有记载：“海岱惟青州”。上古为东夷之地。至夏商间，先后为爽鸠氏、季则氏、逄伯陵氏所据。周初封吕尚为齐侯，地始归于齐。历春秋战国之世，均为齐属。 西汉武帝元封五年（前106年）设青州刺史部，驻广县。东汉州名，辖郡、国十一，县六十五。治所临淄县，故城址在今山东淄博市临淄北。辖境相当于今山东临南以东的北部地区。西晋怀帝永嘉五年（311年）曹嶷弃广县，筑广固，为青州刺史治。东晋安帝隆安三年（399年）慕容德陷广固，定为南燕国都，这也是山东唯一一个作为朝代首都的地方。后刘裕灭南燕，夷广固，筑东阳城，置北青州刺史治于此。
　　北魏献文帝皇兴三年（469年）拔东阳城，仍为青州刺史治。孝明帝熙平二年（517年）增筑东阳城南郭，即南阳城。北齐文宣帝天保七年（557年）迁益都县治于东阳城，移青州府治于南阳城。 隋为青州总管府治，后改为北海郡治。唐初复为青州总管府治，后又改为北海郡治。 宋为京东东路路治。金为山东东路益都总管府治。元为山东东西道宣慰司治。明清时期，为青州府治。 民国时期为益都县。中华人民共和国成立后归昌潍地区（今潍坊市）管辖，1986年撤县改为青州市。
　　2003年全市辖6个街道、15个镇，即王府街道、益都街道、昭德街道、王母宫街道、东坝街道、云门山街道、弥河镇、王坟镇、五里镇、庙子镇、邵庄镇、普通镇、东高镇、高柳镇、朱良镇、何官镇、口埠镇、东夏镇、谭坊镇、郑母镇、黄楼镇；山东青州经济开发区。
　　2007年，青州市对全市的行政区划进行重新调整，将19个镇、街道，整合为12个镇、街道。具体调整情况如下：撤销五里镇，将原五里镇的行政区域划归王府街道管辖，街道工作机关驻原五里镇工作机关驻地；撤销东高镇，将原东高镇的行政区域划归益都街道管辖，街道工作机关驻原东高镇工作机关驻地；撤销朱良镇，将原朱良镇的行政区域并入高柳镇，镇工作机关驻原朱良镇工作机关驻地；撤销普通镇，将原普通镇的行政区域并入邵庄镇，镇工作机关驻地不变；撤销口埠镇，将原口埠镇的行政区域并入何官镇，镇工作机关驻地不变；撤销郑母镇，将原郑母镇的行政区域并入谭坊镇，镇工作机关驻地不变；撤销王母宫街道，将原王母宫街道的大崔家、小崔家、孙家庄、大王庄、孟家炉、小田、冷门、董家等8个村，东夏镇的东侯庙、西侯庙、麻湾、西坡、东坡、张家楼、彭家湾、王岗、沙店、南于、大尹、李家庄、大赵务、巨弥、寨里等15个村并入黄楼镇，镇工作机关驻地不变；将王母宫街道的徐七里、王七联、裴桥、柳沟、东郎、西郎、姜家、王母宫、十八里、寺古、双庙、张孟口、南四、辛庄、侯古、房古、于古、义和、孟古、李官庄、范王、赵家、东李、张裴、胡桥、姜庙、韩家、蔡家、牛家、胡集、懒柳树、凌马、马氏村、朱刘马等34个村并入东夏镇，东夏镇工作机关驻原王母宫街道工作机关驻地。原云门山街道、王坟镇、庙子镇、弥河镇4个行政区域不变。其中面积最大的王坟镇达229.6平方千米，人口最多的王府街道达11多万人。