因為司馬光在《資治通鑑》中有“林甫媚事左右,迎合上意,以固其寵……凡在相位十九年,養成天下之亂”的記載，導致後人將唐王朝的盛極而衰、“安史之亂”的爆發歸罪於李林甫, 對之大加撻伐。
世謂“口有蜜、腹有劍”的李林甫果真如司馬光說的那麼不堪嗎？
李林甫論出生根正苗紅，單是論資排輩的話是唐玄宗的叔叔。然而，到了父祖輩家道中衰，開元初年, 李林甫只在太子府擔任千牛直長的小職(主管宮門禁衛之責)。舅父姜皎在朝中有權有勢，李林甫混仕途卻沒有沾到什麼光, 他的成功完全靠自己的努力。
開元十四年, 李林甫任吏部侍郎。吏部和現在的組織部一樣是要害部門。但因為負責官員的提拔任命，因此也容易得罪人。李林甫擔任了吏部侍郎不久，唐玄宗的大哥寧王李憲就找上門來，塞給他一個十人名單，讓他任命官職,。李林甫不敢拒絕，可是一次暗箱操作提拔十個官員，萬一西窗事發，倒黴的只有自己。一番絞盡腦汁的苦思冥想後，李林甫有了主意：他先和寧王商量 “願黜一人以示公”。在公示那天,9人入選, 李林甫特意挑出一人，當眾宣佈他道德品質敗壞, 因此罷黜不用。如此一舉兩得，既可以討好寧王, 又在公眾面前贏得了“公正無私”的美譽。
李林甫為了政治上更進一步，有意和宦官宮女套近乎,揣摩玄宗心思。因此每次在朝廷上奏對, 無不稱旨。手段雖下作，任用卻明顯, 很快李林甫升任宰輔。
武惠妃有寵，琢磨著想動搖國本，改立自己所生的壽王李瑁為太子。 玄宗去與幾個重臣商議,張九齡據理力爭表示反對，李林甫在一旁卻默不作聲。退朝後，他私下對玄宗的親信宦官說:“皇上的家事,難道還要外人蔘與不成?”
話聽上去沒什麼，其實卻是在影射張九齡干預皇上“家事”。果然，不久張九齡就被罷相逐出了朝堂。
太子李瑛、鄂王李瑤、光王李琚, 都因為生母失寵對父皇有怨言，李林甫點撥武惠妃，讓她慌稱宮中有賊召太子及二王入宮防衛。太子和二王不知就裡，急匆匆趕來，落實了“著甲”入宮的罪名，玄宗本來就是依靠政變上臺的，自然對這樣的事情最是防範，震怒之下，做出了一日殺三子的事情。
玄宗初即位時孜孜求治，一番努力後政治安定、吏治清明, 將唐王朝推向了鼎盛期。玄宗上了年紀後怠於政事縱情聲色、拒諫飾非，將政事放心地交由李林甫負責。
李林甫一人把持朝政十餘年，是為人詬病的主要原因。但李林甫久居相位有一個重要原因,——施政遵循法度。《舊唐書》對他的評價相對公允，儘管羅列了他的很多劣跡, 卻也不得不承認: “每事過慎,調理眾務, 增修綱紀,中外遷出，皆有恆度”，“自處臺衡，動循格令”李林甫獨相十餘年，並不是依恃權力，而是一切行事遵循法度，全是照章辦事。
至於“安史之亂”的釀成，更是與李林甫沒有太大幹系。唐玄宗為了調動邊鎮將帥的積極性，改變了唐初以來的將帥不久任、不兼統的做法,使得節度使專擅民政、財賦大權;並且長期在邊鎮駐守重兵, 軍事力量的重心逐漸由內地轉移到邊疆地區。在任用邊將問題上，李林甫最多是迎合玄宗心意罷了。
朝堂之上，安祿山最畏懼的人就是李林甫。與安祿山交談時, 李林甫每次都能揣測其意, 把話說在前面, 使安祿山十分驚駭。 每次見到李林甫,安祿山“雖盛冬常汗溼衣”。每當聽到李林甫誇獎他了，安祿山就非常高興；如果李林甫敲打“安夫須好檢校”, 就怕得要死，大叫 :“我死矣!”。
有李林甫在，安祿山就不敢反。真正逼反安祿山的是李林甫的繼任者楊國忠，安祿山造反打出的旗號也是清君側。
如果說李林甫嫉賢妒能，是個權臣，這不會有錯。司馬光將唐王朝盛極而衰的責任歸在他的頭上，不過是為唐玄宗尊者諱之舉。