靖康元年閏十一月丙辰日（1127年1月9日），金人攻破宋都汴京，金人俘獲太上皇宋徽宗、當朝皇帝宋欽宗，扶植張邦昌為大楚“皇帝”。靖康二年（1127年）五月，康王趙構在南京（商丘）即位，重建宋朝，改元建炎，歷史進入南宋時期。
南宋初期，位於淮河以北的山東、豫南、蘇北等地區尚未完全淪陷。以李綱、宗澤等為代表的主戰派力保京師，忠於趙宋王室的朝臣勸退張邦昌還政，並要求高宗皇帝還都汴京以安定軍心民心。民情雖然可用，但實力才是決定因素。宋代建立後，推行文人治國，武將基本處於被抑制的狀態，即使武將征戰，也有文官充任監軍，國家邊備以守禦為主，每遇重大戰事多以和議方法加以解決。景德元年（1004年）的“澶淵之盟”是先例，宋真宗與契丹人達成和議，每年向遼國納貢十萬兩白銀、二十萬匹絹，以求邊關無事。此時，金人的實力遠比契丹人強大。宋高宗深知，返都汴京，難免重蹈父兄覆轍。經過一番盤算，決定避開強敵，以圖來日。
建炎元年（1127年）七月，宋高宗以巡幸東南的名義離開南京（商丘），十月到達揚州，以揚州為“行在”（皇帝行鑾駐蹕的所在地，相當於臨時首都）暫避強敵。丞相李綱對於高宗的做法十分不滿，處於戰無實力、和無可能極度矛盾狀態下的趙構將李綱罷相，宗澤等人固守汴京苦撐危局。此時，淮南全境籠罩在戰雲之中，經常是重兵集結，來往頻繁。建炎元年（1127年）十二月，金人兵分三路大舉南下，圍攻汴京，直逼淮南，向高宗施壓。次年三月，宋高宗由揚州匆匆出逃江南，淮南戰事更急。建炎三年(公元1129年)十月，金人再次分路南下，西路大軍攻陷壽春府（下蔡，今鳳台），但未作停留。此時，金兀朮進攻的目標是宋高宗，他要俘獲高宗以徹底摧毀南宋的鬥志。宋高宗在杭州立足未穩，金兵即至，急忙移駕越州（紹興），再入明州（寧波），金人尾追不捨，高宗只得下海躲避，吃盡苦頭。
避過金兵的攻勢，宋高宗在臨安（杭州）立足，建立南宋朝廷，政局漸趨鞏固。而淮河一線一直處於宋金的爭奪之中。壽春府（下蔡，今鳳台）位於淮河以北，時時遭到金兵的騷擾，遂移治南壽州（壽春縣，今壽縣）。數年間的兵連禍結，壽春城池屢遭毀損，只能在戰火的間隙緊急搶修，守禦設施不全，難以抵禦金人鐵騎。紹興元年(公元1131年)十二月，金人扶持的偽齊“皇帝”劉豫派遣王彥先圍攻壽春府（今壽縣），雙方爭奪長達百餘日，次年三月，壽春府（今壽縣）終於為偽齊所佔領。
偽齊“皇帝”劉豫，本是宋朝舊臣，宋徽宗宣和元年（1119年）任河北提刑。金人南侵時，劉豫棄官南逃。宋高宗建炎二年（1128年），經人舉薦擔任濟南知府，本有臨危受命的意思，但劉豫以濟南離金人太近，不願就官，而是謀求遠離金人的東南地區任職。朝廷沒有滿足他的要求，劉豫雖然赴任濟南，但卻心存怨恨。濟南遭到金人圍攻，劉豫束手無策，當守將被殺之後，便投降了金人。
劉豫歸降，黃河流域大片土地盡數為金人所有，金人也對劉豫給予“厚賞”：劉豫當了金國東平府知府，同時任金國淮南路的安撫使；劉豫的兒子劉麟當了金國濟南府知府，成為金人的鷹犬。金人為鞏固黃河流域既佔州郡，於建炎四年（1130年）七月宣佈成立所謂“齊國”，冊立劉豫為皇帝，史稱“偽齊”。劉豫的偽齊一經成立，在金人的卵翼下積極與宋為敵，不斷滋擾淮河流域。
南宋朝廷深知淮河防線的重要性，朝中也不乏善戰敢戰之臣。劉豫的為虎作倀，激起有識之士的極大義憤。紹興元年（1131年），廬州知府王亨收復壽春，給劉豫當頭棒喝。劉豫知道，自己只有與宋為敵方可得到金人的賞識，也才能坐穩“兒皇帝”的寶座，不斷南向興兵，淮南地區是其用兵的主攻方向。壽春府（今壽縣）為江南屏障，雖有八公山之險可據，但城池廢弛，易攻難守，偽齊採取軍事進攻與招降納叛相結合的手法不斷施壓。紹興四年（1134年）四月，壽春知府羅興叛降劉豫，淮南再度易手。
此時，有“南宋中興四將”岳飛、韓世忠、張俊、劉光世在荊襄至淮陰一線與金人和偽齊展開爭奪，戰況激烈。岳飛在荊襄屢屢獲勝，韓世忠在揚州一線也屢屢得手。此時，劉光世任江東、淮西宣撫使，也不甘人後。十一月，淮西將王師晟、張琦合兵壽春府（壽縣），俘獲偽齊壽春知府王靖。此時，廬州尚為偽齊所佔，王師晟未敢久留，隨即撤出壽春。
紹興初年，南宋與偽齊之間所進行的是戰略性決戰。一方面，南宋高宗建都臨安，必須守住東南半壁，否則斷無立足可能。雖然朝中主和派畏懼金人，但為生存自保，宋高宗也必須奮力一搏。另一方面，偽齊政權在金人的卵翼下初建，劉豫知道金人的意圖就是以偽齊來對抗南宋，只有與宋為敵才能生存。其在金人的強援下與南宋死磕，以求一逞。對雙方而言，都是輸不起的戰爭。正是因為這樣，戰爭始終逞膠著態勢，圍繞戰略要地反覆爭奪。淮南地區是戰爭的焦點之一，數度易手，人民備受熬煎。
紹興六年（1136年）七月，宋將劉光世收復壽春府（今壽縣）。九月，劉豫糾集三十萬之眾，號稱七十萬大軍分三路南犯，直指淮南地區。中路由其子劉麟統兵十萬，號三十萬，由壽春南下廬州（今合肥）。劉麟在淮河上搭建三座浮橋，從壽州到濠州（今鳳陽）一線全面出擊，偽齊的強大攻勢一時銳不可當，壽春府再次淪陷，廬州危在旦夕。劉光世身在廬州，見劉麟來勢洶洶，棄城南逃，廬州被劉麟佔據。
面對偽齊洶洶來勢，南宋不敢怠慢，調兵遣將分路迎擊。壽春淪陷，淮南西路告急，高宗急命江東安撫使張俊統轄淮南西路，張俊率兵迎擊偽齊直抵濠州，急命劉光世回師：“膽敢渡過長江則就地處斬！”劉光世接此嚴令，只得還師廬州，與張俊所部相呼應。與此同時，韓世忠駐揚州據守東路，聲援淮南西路；岳飛所部由西路深入偽齊蔡州，焚其糧秣。劉豫的東路軍先是在韓世忠的阻擊下屢遭敗績，隨後又遇到張俊所部干將楊沂中，一敗再敗。劉麟孤懸廬州，失去強援，只得北撤，張俊、楊沂中乘勝收復壽春。這一役南宋大捷，偽齊“失運車七千輛、船七百餘隻，歸正、亡沒、散去者大半，喪器甲、偽交鈔、告敕、軍需金銀犒賞之物不可勝計。”（《三朝北盟會編》）
經此一戰，劉豫再難有所作為，偽齊隨即被金人廢去，而南宋朝廷也無意擴大戰果。紹興九年（1139），金熙宗與南宋議和，河南、陝西讓予南宋，南宋向金納幣稱臣。不久，金朝毀約進犯，遭到南宋反擊，岳飛乘勢北伐中原，卻被朝廷召回。金人得到喘息，再次進犯。紹興十一年（1141）正月攻陷壽春，肆虐淮西；三月，宋韓世忠率部收復壽春，金兵渡淮北去。十一月，宋金議和，約定兩國以淮河、大散關一線為界，從此確立了較為穩定的南北格局。今淮南市境淮河以南屬於南宋安豐軍壽春縣，淮河以北屬於金國南京路壽州下蔡縣。