唐朝天寶年間，爆發了史上著名的“安史之亂”，叛賊安祿山率領叛軍燒殺搶掠，無惡不作，攻克了洛陽之後，為了切斷沿運河轉運到長安(今西安)的戰略物資，派人侵入開封以東地區。在許多唐朝將官紛紛投降安祿山的叛軍時，身為縣令的張巡堅決抵抗叛軍，保衛百姓。張巡率領一支一千多人的隊伍來到了杞縣(時稱“雍丘”)，和時任杞縣縣令的賈賁合兵一處，共同保衛杞縣，抗擊安祿山的叛軍，揭開了杞縣保衛戰的序幕。
在一次保衛杞縣的戰鬥中，賈賁英勇戰死，血灑疆場。張巡率領軍民繼續奮戰，堅守杞縣。唐肅宗至德元年(756年)三月，一股大約4萬之眾的叛軍在令狐潮的率領下，圍攻杞縣縣城。張巡臨危不懼，親自率領千名士兵，分成幾組，突然出城直擊叛軍的大營。叛軍驚慌失措，向後潰敗。張巡追了不遠，鳴金收兵。
第二天，令狐潮率叛軍再次圍攻杞縣縣城。張巡在城頭上架起木柵欄，擋住了叛軍的攻擊。叛軍架起了雲梯攻城，張巡命令軍兵用點燃的火把投向叛軍。叛軍被燒得焦頭爛額，倉皇后退。這次，張巡頑強地在杞縣縣城和叛軍戰鬥了兩個多月，大小戰鬥進行了300多次，杞縣縣城依然固若金湯。同年五月，令狐潮率叛軍再次圍攻杞縣。令狐潮曾經做過杞縣的縣令，安祿山叛變後，他投降了安祿山，被封為大將，而且，令狐潮和張巡是熟人。令狐潮見強攻不下杞縣，就想勸張巡投降。張巡在城頭上對令狐潮大聲說：“你以前曾經說自己是一個忠義之人，卻投降了叛賊安祿山，助紂為虐，禍害百姓，還跑到這裡來勸我投降，你真是不知羞恥！”令狐潮竟然還是一個知恥的人，張巡的這幾句話說得他滿面羞愧，不戰而退。一個月後，令狐潮又率叛軍攻打杞縣縣城。
張巡看到城裡的箭用完了，就讓士兵紮了一千多個草人，給它們罩上外衣，晚上放到城下。叛軍以為是張巡的部隊出城偷襲，急忙放箭。當叛軍發現是草人時，張巡的部隊已經把扎滿利箭的草人收回去了。這次“借箭”行動，張巡得到了數十萬支箭。幾天後，張巡在晚上率領五百勇士出城，叛軍以為又是草人，就沒有理會。張巡率五百名勇士乘機襲擊了叛軍的大營，叛軍潰不成軍，落荒而逃。至此，杞縣保衛戰以勝利而告終。
唐肅宗至德元年(756年)十二月，叛軍大將楊朝宗率領兩萬多人圍攻寧陵，張巡率領一支人馬退出杞縣駐守寧陵。張巡在寧陵大戰中機智勇敢地指揮戰鬥，擊敗了楊朝宗率領的叛軍，使豫東地區的安全局勢得以鞏固。