孟子以“孔子登東山而小魯，登泰山而小天下”為喻，說明“觀於海者難為水，遊於聖人之門者難為言”的道理。有比較才有鑑別，有了“大”，才顯“小”。對見過大海的人來說，天下的水就不在話下；對曾在聖人門下學習過的人來說，天下庸人的俗論就不屑一聽了。孟子的意思是眼界高的人志大，眼界小的人則心小。孟子的這句話，成為孔子登泰山的唯一正式記載。依據這個記載，我們今天能在泰山找到三塊刻石。標示孔子登泰山的壯舉：一是山頂玉皇閣下的“孔子小天下處”；二是山下紅門附近的“孔子登臨處”；三是山上天街東側的“望吳勝責”。山上的“孔子小天下處”刻石，是後人依據《孟子>的記載設置的，年代大約是唐以後。從刻石的字跡看，不是秦以前文字，且山上唐以前刻石保留少，因此，這塊刻石的最大可能是出自明從之手。天街東側的“望吳勝責”坊，則是當依據某些傳說樹立以炫示遊客的。
山下紅門前的“孔子登臨處”是明代人設立的。但是，立碑的人只想到附會孔子登泰山的風雅，而沒有認真考查泰山登山路線的古今變化。清代著名散文字姚鼐在他的名文《登泰山記>中說，“古時登山，循東谷入”，就我們所知，自古訖令，登泰山共有三條路線，大體秦漢以前從東谷登山。東谷在今玉皇頂東側，所以《史記>上說是“陰上陽下”。唐代開始循中谷登山，就是岱宗坊、紅門、鬥母宮、中天門的路線。宋以後，人們又逐漸開闢了西谷登山的路線，即今日之黑龍潭、竹林寺至中天門的路線。據此，孔子是春秋時人，那時中路尚未開闢，孔子焉能從此處登山？
又一則關於孔子登泰山的記載是《論衡·書虛篇>中關於孔子和顏回在泰山上觀察蘇州閶門的故事：
顏回和孔子一起登上了魯國的泰山，孔子向東南方瞭望，見蘇州閶門外繫著一匹白馬，於是招顏回到面前，手指東南方向：“你看見蘇州閶門了嗎？”顏回回答道：“看見了。”孔子問：“閶門外有什麼東西？”顏回答道：“好象有一根系牲口的白絲繩。”孔子立即用掌遮捂著顏回眼睛，一起下了山。
下山之後，顏回就頭髮變白，牙齒脫澆，旋即因病而死。
這無全是則虛構的荒唐的故事，且不說王充在《論衡>中力辯其虛妄，單就常識而言，地處山東中部泰山和地處江南的蘇州，兩地相距千里之遙，光憑人的肉眼，焉能洞察千里之處的事物！
因此，孔子登泰山，就只有《孟子>的一條孤證。雖然如此，孔子經過泰山的事，還是極為可能的，請看《禮記·檀弓>上記載的故事：
孔子從泰山旁邊路過，有一位婦女在墳塋旁痛器衰號。孔子在車見之後，就派子路去問問原故。子路對婦人說：“你哭得如此悲痛，一定有什麼重大的傷心事！”婦女回答說：“是的。從前，我的公爹被老虎吃了！”孔子讓子路問道：“為什麼不離開這個地方呢？”婦人回答道：“因為這裡沒有苛捐雜稅的暴政。”孔對隨從的弟子們說：“”你們謹記：“暴政對人怕危害，有甚於猛虎啊！”
我們知道,孔子一生主張“仁政”,反對暴政。他不厭其煩地向當時諸候國君主宣傳“愛人”、“使民以時”、“輕徭役，薄稅斂”等主張。這個故事中“苛政猛於虎”的觀點和孔子的一貫主張是一致的。孔子“苛政猛於虎”的觀點對中國封建社會中的知識分子的政治思想影響很大，唐代散文家柳宗元。因不滿唐代江南賦稅的繁重而寫了著名的《捕蛇者說>，就是申述孔的“苛政猛於虎”的觀點的。孔的“苛政猛於虎”的觀點在泰山提出，孔子幸甚，亦泰山幸甚！
又一則關於孔子游泰山的記載，見於《孔子家語·六本>，說孔子和榮聲期相遇，榮聲期聲稱“三樂”，頗為有趣：
孔夫子遊於泰山，和榮聲期相會於成地(當今何地，未詳)之野。榮聲期披著鹿皮製的衣服。拿著沒有裝飾的琴，邊彈邊唱。孔子問道“先生為何這般快樂呢？”榮聲期回答道：“我的快樂很多，最突出的有三條：天生萬物，以人為最寶貴，我是人，自然高興，此一樂；人分男女，世俗又以為男尊女卑，我是男人，也很高興，此二樂也；人生壽命有長短，有的人很小便夭折了，而我活了九十五歲，當然高興，此三樂。貧窮是讀書人的本分，死亡是人生的歸宿，守其本分而得其歸宿，有什麼憂愁呢！”孔子稱讚他道：“講得好！你是一位能自我寬慰的人！”
泰山有三笑處(今見刻石乃著名抗日將領馮玉祥置)，“三笑”即“三樂”，“三笑”來歷或許與這個傳說有關。 雖然在《論語>一書中僅兩次提到泰山這個詞，但泰山在孔子心目中享有極其崇高的地痊，卻是毫無問題的。據《禮記·檀弓>上記載，孔子在《臨終歌>中還提到泰山：
一天，孔子早晨起床後，揹著手倒拖著柺杖，在門前逍遙散步，口中哼著自編的歌兒：
泰山將要倒了！
屋樑將要倒了！
聖人將要死了！
唱完歌，回到屋裡，當門而坐。
子貢(孔子的學生)聽見孔子唱歌，心裡想道：“泰山就要倒塌了，我仰望誰呢？架屋的梁木斷壞了，聖哲的人死了，我將仿效誰呢？－－大概，夫子的壽命將要完結了。”
結果，孔子病了七天之後就盍然長逝了。
這一故事告訴我們：泰山，在孔子的心目中，是一座崇高的形象，泰山，在孔子的學生們的心中，也是一座崇高形象。我們可以毫不誇張地說，從古至今，泰山在中國人民的心目中，永遠是一座崇高的形象！