張遼似乎不是關羽的對手，三國演義裡一直強調關羽的神勇：曹兵圍裹將來，文丑挺身獨戰，軍士自相踐踏。文丑止遏不住，只得撥馬回走。操在土阜上指曰：“文丑為河北名將、誰可擒之？”張遼、徐晃飛馬齊出，大叫：“文丑休走！”文丑回頭見二將趕上，遂按住鐵槍，拈弓搭箭，正射張遼。徐晃大叫：“賊將休放箭！”張遼低頭急躲，一箭射中頭盔，將簪纓射去。遼奮力再趕，坐下戰馬，又被文丑一箭射中面頰。那馬跪倒前蹄，張遼落地。文丑回馬復來，徐晃急輪大斧，截住廝殺。只見文丑後面軍馬齊到，晃料敵不過，撥馬而回。
而這兩個人都鬥不過的文丑，卻在關羽手下頃刻敗亡：忽見十餘騎馬，旗號翩翻，一將當頭提刀飛馬而來，乃關雲長也，大喝：“賊將休走！”與文丑交馬，戰不三合，文丑心怯，撥馬繞河而走。關公馬快，趕上文丑，腦後一刀，將文丑斬下馬來。曹操在土阜上，見關公砍了文丑，大驅人馬掩殺。河北軍大半落水，糧草馬匹仍被曹操奪回。
另外關羽最厲害的是水淹七軍：是夜風雨大作。龐德坐於帳中，只聽得萬馬爭奔，徵鼙震地。德大驚，急出帳上馬看時，四面八方，大水驟至；七軍亂竄，隨波逐浪者，不計其數。平地水深丈餘，于禁、龐德與諸將各登小山避水。比及平明，關公及眾將皆搖旗鼓譟，乘大船而來。于禁見四下無路，左右止有五六十人，料不能逃，口稱願降。關公令盡去衣甲，拘收入船，然後來擒龐德。時龐德並二董及成何，與步卒五百人，皆無衣甲，立在堤上。見關公來，龐德全無懼怯，奮然前來接戰。關公將船四面圍定，軍士一齊放箭，射死魏兵大半……于禁所領七軍，皆死於水中。其會水者料無去路，亦皆投降。後人有詩曰：“夜半徵鼙響震天，襄樊平地作深淵。關公神算誰能及，華夏威名萬古傳。”
事實上，關羽斬文丑，歷史上並沒記載，至於水淹七軍，不過是因為天氣所致：
但張遼威震逍遙津確實非常厲害：俄而權率十萬眾圍合肥，乃共發教，教曰：“若孫權至者，張、李將軍出戰；樂將軍守護軍，勿得與戰。”諸將皆疑。遼曰；“公遠征在外，比救至，彼破我必矣。是以教指及其未合逆擊之，折其盛勢，以安眾心，然後可守也。成敗之機，在此一戰，諸君何疑？”李典亦與遼同。於是遼夜募敢從之士，得八百人，椎牛饗將士，明日大戰。平旦，遼被甲持戟，先登陷陳，殺數十人，斬二將，大呼自名，衝壘入，至權麾下。權大驚，眾不知所為，走登高冢，以長戟自守。遼叱權下戰，權不敢動，望見遼所將眾少，乃聚圍遼數重。遼左右麾圍，直前急擊，圍開，遼將麾下數十人得出，餘眾號呼曰：“將軍棄我乎！”遼復還突圍，拔出餘眾。權人馬皆披靡，無敢當者。自旦戰至日中，吳人奪氣，還修守備，眾心乃安，諸將鹹服。權守合肥十餘日，城不可拔，乃引退。遼率諸軍追擊，幾復獲權。這一戰，小說中寫道：吳兵折了大半。淩統所領三百餘人，盡被殺死。統身中數槍，殺到橋邊，橋已折斷，繞河而逃。孫權在舟中望見，急令董襲棹舟接之，乃得渡回。呂蒙、甘寧皆死命逃過河南。這一陣殺得江南人人害怕；聞張遼大名，小兒也不敢夜啼。
可見張遼的統帥能力比關羽更厲害，要知道孫權手下是今後奇襲荊州的主力。張遼的軍事表現受歷代所尊崇。唐代李翰所撰《蒙求》中有“張遼止啼”一語。