耿秉，東漢光武帝劉秀朝的大將軍耿弇是其親叔父，父親耿固曾經任職大司農。他和東漢堅守疏勒城力抗匈奴的戰神級英雄耿恭是堂兄弟。耿秉喜愛博覽群書，尤其愛好軍事與謀略，時常引用《司馬兵法》。在出任郞官時，因經常向漢明帝直言上書，極力主張與匈奴決戰，而獲得漢明帝的賞識，後被提拔為謁者僕射。屬光祿勳（秦稱郎中令）的直接下屬，俸祿千石，為皇帝的近身寵臣。
漢明帝與大臣、公聊商議軍政大事時，耿秉時常陪同皇帝上殿，如果有邊疆之事就詢問耿秉，他的見解通常都很符合漢明帝的所思所想。公元72年，耿秉上書皇帝，建議對東漢帝國北部邊患進行徹底清理，他的具體作戰方案，“把白山作為首先奪取的目標，其二是攻佔伊吾城，其三是要打敗車師國，迫使其臣服於漢廷，其四是向西域各國如烏孫派出使者，建立戰略聯盟，如此以來，可使北匈奴在西域各國中陷入孤立。當時有一支匈奴南呼衍的軍隊佔據伊吾，消滅掉他們，就等於折斷了匈奴的左臂膀，待完成以上的軍事部署後，便可向北匈奴發起最後的攻擊。”，他的建議得到了漢明帝的高度認可。
公元72年的十二月，漢明帝任命耿秉為駙馬都尉，作為奉車都尉竇固的副帥，秦彭、耿忠分別為二位領軍將領的副手，從京城洛陽出發至涼州，厲兵秣馬、籌劃與匈奴開戰。公元73年二月，漢明帝下令大漢鐵騎分四路出擊，討伐北匈奴的戰爭正式開打。
太僕祭肜與吳棠率領騎兵一萬一千，出高闕要塞；竇固、耿忠率領騎兵一萬二千，出酒泉要塞；耿秉、秦彭率領騎兵一萬，出張掖居延要塞；來苗、文穆率騎兵一萬一千，出平城要塞。耿秉和秦彭率麾下騎兵向北匈奴匈林王進攻，大軍在橫越六百里沙漠，抵達匈奴在漠北的據點三木樓山。然而北匈奴可能已經提前獲知漢軍動向，在他們到達之前向北逃去。漢軍不見敵軍蹤跡，只得返回。這次有戰果的只有竇固和耿忠這一路軍隊，他們奪取伊吾地區，斬殺匈奴一千餘人，並在當地設置宜禾都尉。
公元74年夏天，漢明帝派耿秉和竇固、劉張都出敦煌昆倉要塞，向西域進攻。耿秉、劉張都歸屬竇固調遣。漢軍一萬四千人騎兵，在蒲類海邊打敗白山的北匈奴部隊，然後進攻車師國。車師國有後王和前王分別統屬，兩者是父子關係，前王是后王的兒子，兩個王庭相距500餘里。車師后王之地山高路遠，途經險峻山谷，高山寒冷不利大軍作戰。
在竇固嘗在猶豫時，耿秉請求自己為先鋒，率領所屬部隊，向北殺向車師後國。全軍只得一同進軍，此戰斬殺數千敵軍。車師后王安得震驚恐懼，走到城門外面迎接耿秉，摘去王冠，抱住馬腿請求投降。隨後，車師前王也向漢軍投降，此戰徹底平定車師國。東漢朝廷重新恢復對西域的控制，在西域設置西域都護、戊己校尉。
漢章帝任命竇憲為車騎將軍，討伐北匈奴。任命耿秉徵西將軍，作為竇憲的副帥，公元89年六月，竇憲、耿秉從朔方郡雞鹿塞出發，南匈奴單于從滿夷谷出發，度遼將軍鄧鴻從稒陽塞出發。大敗北匈奴軍，北匈奴單于逃走。漢軍追擊北匈奴的各個部落，於是到達烏布蘇諾爾湖，共斬殺大部落王以下上萬人，俘獲各種牲畜百餘萬頭。北匈奴先後有二十餘萬人、八十一部來降。此次出征竇憲、耿秉出塞三千餘里，登上燕然山，令班固刻石建立功碑，記錄東漢帝國的威德，然後班師回朝。耿秉因此戰的功勞被封為美陽侯，食邑三千戶。
耿秉以勇武著稱，而且治軍簡潔幹練，經常披著鎧甲行走在行軍隊伍前面，休息時也不特意為自己安置營帳，和士卒一樣席地而臥。行軍中保持警惕性，他把哨兵佈置遠遠的，如有緊急情況可及時通報，部隊可以很快佈陣迎敵。所以，屬下士卒都樂意為其效死命。公元91年夏天，耿秉去世，時年五十多歲。漢和帝賜給耿秉玉衣、朱棺，諡號桓侯。派出軍樂隊，騎兵300為其送葬，以彰顯耿秉對東漢帝國的功勳。
匈奴人在聽說耿秉去世後失聲痛哭，甚至有人割破臉流出鮮血以表達心中的悲痛之情。當然，他們是歸降的匈奴人，那些沒有歸降的北匈奴人，此後消失在中國的史書記載中。幾百年後，當他們再度出現時，成為令歐洲人驚恐的惡魔。