貞觀八年，也就是公元634年，這年李靖已經63歲。唐太宗下詔任李靖為幾內道大使。李靖以足疾上表請求退休，言辭懇切。唐太宗看完了李靖的奏表，唐太宗派遣中書侍郎岑文本傳達“聖諭”：
“朕觀自古以來，身居富貴，能知止足者甚少。不問愚智，莫能自知，才雖不堪，強欲居職，縱有疾病，猶自勉強。公能識達大體，深足可嘉，朕今非直成公雅志，欲以公為一代楷模。”
這段話把誇讚李靖“能知足、識大體”，並將李靖樹為知進退的一代楷模。李靖從此安心在家“養病”。但唐太宗也並沒有忘記李靖，隔三差五詢問他的病情。
武德九年正月，唐太宗還給李靖送了一條柺杖，名曰“靈壽杖”，希望他的足疾早日康復。
就在李靖辭職回家養病的時候，吐谷渾開始進犯唐朝邊境。軍情報到唐太宗手裡，他很著急，尋思著這一次該派誰前去平定。回想起征討突厥，他自言道：“要是能得李靖為帥，事情就好辦多了。”
於是，李靖拜見當時的宰相房玄齡，表示願意率兵前往平定吐谷渾。太宗得知後，大喜。於是命李靖為西海道行軍大總管，統領兵部尚書侯君集、刑部尚書李道宗、涼州都督李大亮、右衛將軍李道彥、利州刺史高甑生等五路大軍前往征討。
吐谷渾長期盤踞青海，在青藏高原上，仗著天時地利，不斷侵擾唐朝邊境，而且曾三次令唐朝大軍無功而返。這次李靖征討吐谷渾，無疑將十分艱難。
當大軍行進到伏俟城的時候，吐谷渾軍隊燃起大火，將漫山遍野的野草悉數燒去，為了是讓唐朝的軍馬無草可食用。
此時，軍中產生了分歧，大部分人認為春早未生馬已羸弱，現在不能貿然進兵。但是李靖頂住了來自同僚的壓力，決計前進。李靖硬是率領大軍從青海甘肅交界的狹窄小路穿越過去，從吐谷渾背後發起進攻。半年時間裡，李靖橫行青藏高原五六千里，最後在積石山圍剿吐谷渾主力，全殲吐谷渾，殺死吐谷渾可汗，這個國家從此消失了，國土盡歸唐朝。
從滅突厥，到滅吐谷渾，李靖創造了“不可戰勝”的神話。積石山一戰，他為自己的出征劃上了圓滿的記號。此時，他已經是65歲、雙鬢斑白的老人。
在出徵過程中，利州刺史高甑生因延誤軍期，被李靖責罵。回朝後，高甑生竟然誣告李靖謀反。
這一次，唐太宗很認真，他派人查辦此事，還了李靖一個清白，高甑生因此被治罪。經歷了這件事，李靖便閉門不出，即使親戚也很難見到。
唐太宗伐遼東高麗，召李靖入閣，詢問建議。李靖支持唐太宗，並表示願意同行。但太宗可憐他年事已高，不讓他同行。貞觀二十三年，李靖去世，享年七十九歲。