“九州十府一百單八縣”是一直流傳於山東關於山東古代行政區劃的一種說法，但是這種說法實際上可以說是錯誤的，歷史上山東曾有有十個府、有一百單八縣，但並沒有九個州，更沒有哪一個時間點同時擁有“九州十府一百單八縣”。
“州”“府”“縣”均為政區名稱，為省直轄府、直隸州，而縣隸屬於府、州。明朝初期，山東正式設省，最初僅有六個府，分別是濟南府、東昌府、兗州府、青州府、萊州府及登州府，到清朝時間才發展為十個府，增加了武定府、曹州府、沂州府及泰安府，此為“十府”的由來。
明清時期，“州”分直隸州和散州，直隸州與府平級直隸於省，而散州則隸屬於府，明朝時期散州轄縣，清朝雍正以後不再轄縣。明朝時期，山東所轄州均為散州，共十五個，清朝時有的散州升府或直隸州，但無州降為縣，其中泰安州、武定州、曹州、沂州這四個州升為了府。清朝末期，山東直隸州、散州共十一個，其中臨清州、濟寧州、膠州為直隸州，濱州、高唐州、東平州、寧海州、德州、濮州、莒州、平度州這八個州為散州。
縣是我國古代基層行政單位，也是最穩定的行政區。清朝時期，山東共有九十六個縣，分屬於府、直隸州，在府、直隸州等數量不斷變化的時候，九十六縣保持了穩定。民國建立後，北洋政府廢府、州而存縣，山東十一州均改為縣，加上原有的九十六個縣共一百單七縣。
民國初廢府、州後曾有很短時間由省直接轄縣，後施行省、道、縣三級行政區劃，山東全省分為岱北道（後改為濟南道）、岱南道（後改為濟寧道）、濟西道（後改為東臨道）、膠東道，1925年10月張宗昌改全省為11道，國民政府建立後廢除道制，此時全省仍為一百單七縣。
南京國民政府成立後，山東省施行省、縣兩級制，省直轄縣，1930年12月23日韓復榘將濮縣分為濮縣、鄄城兩縣，縣政府1931年正式成立，山東此時終於有了“一百單八縣”，1936年鄄城又併入濮縣，“一百單八縣”僅僅維持了五年多。抗戰期間，山東省建制混亂，中國共產黨領導的抗日根據地曾設立眾多的邊縣、聯縣等，抗戰勝利及解放戰爭時期，山東大部分地區均在解放軍的控制下，國民政府在山東地區的行政統治實際上已經瓦解了。
此外，山東在國民政府統治時期曾成立“行政督察專員公署”等機構，此為省政府的派出機構而並非一級行政區，新中國成立後演變為“專區”“地區”。
