宋江是個有心機的人，能夠架空晁蓋，讓吳用乖乖為自己效力，並且讓李逵武松等江湖好漢完全聽命自己，這需要大智慧，以致宋江的名聲很大，這宋江自在鄆城縣做押司，他刀筆精通，吏道純熟；更兼愛習槍棒，學得武藝多般。平生只好結識江湖上好漢；但有人來投奔他的，若高若低，無有不納，便留在莊士館穀，終日追陪，並無厭倦；若要起身，盡力資助。端的是揮金似士！人問他求錢物，亦不推託；且好做方便，每每排難解紛，只是周全人性命。時常散施棺材藥餌，濟人貧苦。救人之急，扶人之困，因此，山東，河北聞名，都稱他做及時雨，卻把他比做天上下的及時雨一般，能救萬物。
不過有一個人對宋江並不很感冒，甚至很反感，可宋江雖然也不喜歡，卻並不重用他，這個人是誰，他就是公孫勝，道號入雲龍。
為何公孫勝很反感宋江，水滸上寫道： 在《水滸傳》第四十二回，宋公明被晁蓋等眾位好漢營救上了梁山，當日便殺牛宰馬，盡醉方散。第二日又大擺筵席，慶賀宋公明上山。第三日，又做宴席，在眾英雄喝酒吵鬧之際，入雲龍公孫勝忽然動了一個念頭，想念在薊州的老母親，離開家這麼久，也不知老母身體怎麼樣，便萌生歸意。公孫勝起身對眾頭領說：“感蒙眾位豪傑相帶貧道這麼多天，恩同骨肉。只是小道自從跟了晁天王到梁山，日日宴飲，不曾還鄉。薊州還有老母健在，也擔心我的師傅想念。所以想回老家探望一凡。暫別眾頭領三五個月，再回來相見，免得老母掛念懸望。”
當時宋江剛上梁山，可是勢頭很猛，手下有很多能人，這讓公孫勝很鬱悶，他是個從一而終的人，對此晁蓋他內心充滿著敬佩，因此才第一時間去給他送了一套大富貴，請他去劫生辰綱。宋江上梁山，公孫勝不願梁山陷入一山難容二虎的境界，所以急流勇退，想不願意牽扯進去。
但有些事你躲是無法躲避的，因為你有本事，就像公孫勝，想隱居下去，宋江前方遇到到了麻煩，第一個就想到了公孫勝，於是派李逵和戴宗去請。這二人都是宋江的心腹。
打敗敵人之後，公孫勝在梁山的地位一直很鞏固，也就是屈居吳用之下，一般都是四把手，類似於國師的位置，這是因為宋江要利用公孫勝。宋江奪權，要厚黑自己弟兄必須請公孫勝幫忙，公孫勝知道宋江掌權是板上釘釘的事情，為了梁山眾兄弟的利益，也不得不過來進行幫忙。當時晁蓋已死，大家自然都被宋江蠱惑，梁山上的綠兄弟們們，大多是大字不識的，有了公孫勝的幫襯，說什麼好漢們都信以為真。梁山大聚義時，公孫勝主持羅天大醮，掘出定下頭領排名的石碣碑。他位居第四，星號天閒星，擔任掌管機密軍師。
公孫勝很厲害，他出戰的次數不多，但每次都能打勝仗。第一次七人打敗何濤的官軍。宋江被困高唐州，公孫勝到後，與高廉鬥法，以五雷天罡正法破了高廉的妖術。高廉欲要駕雲逃走，結果被公孫勝用法術從雲中打落，最終被雷橫砍死。攻打芒碭山時，公孫勝擺下八陣圖，擒獲八臂哪吒項充、飛天大聖李袞，降服混世魔王樊瑞，後收樊瑞為徒。智取大名府時，公孫勝扮做雲遊道士，與轟天雷凌振一同潛入北京。梁山大聚義時，公孫勝主持羅天大醮，掘出定下頭領排名的石碣碑。他位居第四，星號天閒星，擔任掌管機密軍師。
梁山受招安後，公孫勝隨宋江南征北戰，先後征討遼國、河北田虎、淮西王慶。征討遼國時，公孫勝在幽州青石峪破除統軍賀重寶的妖法。 後又以五雷天罡正法，協助宋軍大破太乙混天象陣。征討田虎時，公孫勝與關勝、呼延灼一同鎮守衛州。 後在五龍山與喬道清鬥法，先用法術操縱兵器在空中打鬥，又召喚出神獸相鬥。喬道清盡皆不敵，大敗而逃，遁入百穀嶺。公孫勝有意降服喬道清，只是圍而不攻。喬道清最終被孫安勸降，並拜公孫勝為師。 後來，公孫勝又趕赴汾陽盧俊義處助戰，以神火破了馬靈的金磚法，降服馬靈。
征討王慶時，盧俊義在南豐之戰中大戰金劍先生李助，卻不敵李助的劍術。這時，公孫勝隨中軍殺到，以法術使李助手中劍脫手落地。盧俊義方才將李助生擒。 而在簡本水滸中，公孫勝曾“布起五里黑霧”，協助孫安奪取石祁城，又獻計攻克秦州。公孫勝是個有慧根的人，在梁山最鼎盛的時候辭別了宋江，“從師學道，侍養老母，以終天年”。表面上是功成身退，回薊州潛心修道。其實還是不願意與宋江合作，沒有公孫勝的宋江，處處損兵折將，雖然戰勝了方臘，卻最終損失了民心，梁山弟兄再也沒有了昔日的氣象。