截至二〇二五年三月底，山东省管辖着济南、青岛、淄博、枣庄、东营、烟台、潍坊、济宁、泰安、威海、日照、临沂、德州、聊城、滨州、菏泽这十六个设有区的市，县级政区有一百三十六个，其中市辖区有五十八个、县级市有二十六个、县有五十二个，乡镇级政区有一千八百二十六个，其中街道有六百九十九个、镇有一千零七十四个、乡有五十三个。二〇二四年年末常住人口为一千零八万零一百七十人。（注：行政区划数据是由山东省民政厅予以提供的；年末常住人口数据是由山东省统计局予以提供的）
最初，山东作为一个地理概念，主要是指崤山、华山或者太行山以东的黄河流域广大地区，金大定八年（1168年），设置山东东路、山东西路，设立山东东路统军司，此时“山东”才开始作为政区名称出现，明洪武元年（1368年），设立了山东行中书省，清初的时候设置山东省，至此“山东”才成为本省的专门名称，由于西周封邦建国之际，现今山东境内曾经存有齐、鲁、曹、滕、卫诸国，周公旦被封于鲁，因此现在山东省简称为“鲁”。
山东地区行政区划的溯源情况，跟全国的状况是一样的，大概是在夏代的时候开始萌芽的。在基于氏族部落而联结形成的一些“方国”之中，孕育出了行政区的胚胎。
夏商之际，当今山东地域范畴内的方国，在文献里所记载的存在130多国。当中，夏后氏的后续之国以及夏代世侯伯的封国共有13个，商氏的后续之国以及商氏侯伯的封国计有15个，由东夷族氏族部落逐渐发展演进而成国家的有100多个。
西周承袭了以血缘关系作为根基的分封制，针对原本商王朝所统治的广袤区域推行“封邦建国”举措。现今山东地区的封国主要包含：太公吕尚（姜子牙）获封的齐国，以及周公旦受封、其儿子伯禽代其受封的鲁国。山东之所以被称作“齐鲁之邦”或者简称为“鲁”，便是源于此。在齐、鲁这两大国之外，还存在着与周王朝同姓（姬）的曹、滕、郜等国。与此同时，夏商时期山东境内的古国大部分在西周依旧存在。到了春秋时期，史籍里记载的山东古国有55个之多，主要有齐、鲁、莱、莒、滕等国。
战国那个时期，山东区域主要存在着齐国跟鲁国，同时还包含楚、越、魏、赵、宋等国家各自的一部分地区。齐国身为“战国七雄”当中的一个，占据了现今山东的大部分地域。
秦实现统一之后，于山东之地分设齐郡、琅琊郡、东海郡、东郡、薛郡等，西汉初年之时存在十郡以及六国，东汉时期分属于青州、兖州、徐州、豫州这四个州，三国时期的情况大致略微相同。
在西晋初期的时候，山东地区分别隶属于青州、徐州、兖州、豫州（其中豫州管辖鲁郡）、冀州（冀州管辖平原、乐陵）这五个州。永嘉之后呢，这块地方先后被后赵、前燕、前秦、后燕、南燕、东晋、刘宋、北魏、东魏、北齐以及北周占据拥有过。
隋实现统一之后，其地被划分归属到青、徐、兖、豫这四个不同的州。到了唐代的时候，河流、济水以南的区域属于河南道，而河流、济水以北的区域则属于河北道。
北宋的时候，山东被划分隶属于京东东路、京西西路以及河北路。金大定八年，也就是公元 1168 年，设置了山东东路、山东西路，设立了山东东路统军司，其治所在益都。
元朝设置了燕南河北道，山东东、西道肃政廉访司，以及山东东西道宣慰司，这些都直接隶属于中书省。
洪武元年，也就是1368年的时候，设置了山东行中书省，其治所设在青州。到了洪武九年，也就是1376年，治所迁移到了济南，并且又改置为山东承宣布政使司。
直到清代的时候，才把山东政区的名称确定为“山东省”。在清末时期，山东省存在着济南府、东昌府、泰安府、兖州府、沂州府、曹州府、登州府、莱州府、青州府、武定府这10个府 ，还有济宁直隶州、临清直隶州、胶州这3个直隶州 ，总共管辖着8个散州以及96个县。
民国刚开始那会，做了划分，分成了济南、济宁、胶东、东临这4道，从属的县有107个呢。1928年的时候，把道给废除了，各个县直接归省管了。1937年10月，日本军队侵占了山东，国民党的省政府开始流亡了。
中共苏鲁豫皖边区省委在1938年7月发出了关于恢复县、区、乡政权的指示，自此时起，到了年底的时候，有12个县成立了抗日民主政府。1939年7月，中共山东分局把山东划分成了3个区以及2个特区，其中胶济路南、陇海路北、津浦路东是一区，津浦路西是二区，胶东作为三区，湖西、清河是特区。1940年8 月，山东省战时工作推行委员会成立，其下辖16个专员公署，88个县。1943年9月，山东省战时工作推行委员会进行更名，变为山东省行政委员会，其下设有5个主任公署，以及滨海直属专员公署，总共管辖18个专署，还有92个县级政权。1945年8月，山东省行政委员会又变身为山东省政府，下设5个行政公署，一共管辖21个专署、119个县。
1949年3月，山东省政府进行了名称变更，改称山东省人民政府，其下辖区域众多，有市包括济南、青岛、徐州、潍坊这4个省辖市，还有140个县，以及2个办事处、2个特区。在1950年，又有变动，将原来的16个专区进行了合并，合并后成为滕县、临沂、泰安、沂水、德州、惠民、淄博、昌潍、胶州、莱阳、文登11个专区。
1952年，平原省被撤销，其所拥有的聊城、菏泽、湖西这3个专区当中的29个县，被划归到了山东，原本属于河北省的临清、馆陶、恩城、夏津、武城这5个县，也被划归给了山东，而山东的东光、吴桥、宁津、庆云、盐山、南皮这6个县，则被划归成河北，徐州市、新海连市以及丰、沛、华山、铜北、赣榆、邳、东海等县，均被也划归给了江苏。
1953年6月，滕县专区发生更名，变成了济宁专区，7月的时候，湖西专区以及沂水专区被撤销山东本科学校排名及分数线，它们所属的那些县市，分别被划归到了济宁、菏泽还有临沂专区，1954年12月，淄博工矿区被撤销，从而设立了淄博市，1958年，莱阳专区进行了更名，改成了烟台专区，1960年，峄县被撤销，进而设立了枣庄市，1963年，河南省的东明县被划归到了山东，1964年，范县被划归到了河南，1965年，馆陶被划归到了河北，而河北省的宁津县、庆云县则被划归到了山东。1967年，专区名称变更为地区 ，这个时候省内总共管辖着德州地区 ，惠民地区 ，昌潍地区 ，烟台地区 ，临沂地区 ，泰安地区 ，济宁地区 ，菏泽地区 ，聊城地区这九个地区类别 ，还有济南 ，青岛 ，淄博 ，枣庄这四个属于省辖市的城市山东本科学校排名及分数线，以及五个县级市 ，以及数量达到一百零七个的县。
1981年5月，昌潍地区进行更名成为潍坊地区，1982年11月，设立了省辖东营市，1983年10月，烟台地区、潍坊地区、济宁地区被撤销，设立了地级烟台市、潍坊市、济宁市，1985年3月，泰安地区被撤销起步网校，设立了地级泰安市，1987年6月，威海市升为地级市，1989年6月，日照市升为地级市，1992年3月，惠民地区更名为滨州地区，1992年10月，莱芜市升为地级市。1994年12月，临沂地区、德州地区终止使命，地级临沂市、地级德州市宣告成立。1997年8月，聊城地区的建制被撤销，地级聊城市呱呱落地。2000年6月，滨州地区、菏泽地区不复存在，地级滨州市、地级菏泽市闪亮诞生。