公元398年，北魏佔領了中原的大部分地區，並將國都遷至平城（今山西大同）。為了抵抗北部遊牧民族柔然的攻擊，拱衛平城，北魏在長城沿線設立了一系列軍鎮，其中有六個最為重要，分別是：武川、沃野、懷朔、撫冥、柔玄、懷荒。
“王氣所聚”的武川鎮，北魏的軍事要塞，這個區區彈丸之地，先後走出了北周、隋、唐三朝皇室，左右了中國三百多年的歷史。
北魏抵抗柔然的軍事主力集中在北方六鎮。六鎮軍將多由拓跋氏貴戚賢臣充任，具有很高的社會地位。他們雖然遠離政治核心，仕途卻不受影響，且常被特別提拔。然而，太和十七年（493年）北魏孝文帝拓跋宏遷都至洛陽後，北方六鎮的地位一落千丈。鎮守邊疆的勇士們逐漸被遺忘，成為孝文帝漢化政策的棄兒。
空間的距離擴大了政治身份的差距，“留居京者，得上品通官；在鎮者，便為清途所隔。”流連於繁華富庶的中原，誰會想到那荒涼苦寒的邊塞？六鎮的軍將不但失去了往日的榮耀，鎮兵鎮民們甚至被歸入了賤民的行列。
中國社會科學院歷史研究所研究員樓勁
六鎮集團的鎮守者原來是最高貴的士人，現在他們被視為最低賤的軍人。因此，下層軍將就縱酒高歌，結成了義父、義兄、義子的關係。這樣一種強固的集團，在面臨淪為社會底層的強大壓力的時候，所激起來的反彈、所表現出來的團結，是當時任何集團也比不了的。
強大的軍事力量和牢固的家族關係，再加上聚積已久的怨氣，使北方六鎮這片重要的衛戍之地逐漸演變為北魏最不安定的地區。正光五年（524年）三月，因沃野鎮下轄的一個高闕戍戍主對下屬苛刻，鎮民破六韓拔陵聚眾起義，殺戍主，並且攻佔了沃野鎮，揭開了六鎮大起義的序幕。
北齊神武帝高歡（496年—547年），字賀六渾，出身於懷朔鎮（今內蒙古固陽西南）兵戶之家，東魏的實際掌權者，北齊王朝奠基人。因祖父高謐犯法，移居懷朔鎮，成為鮮卑化漢人。
很快，戰火席捲了北方六鎮。六鎮軍人集團乘勢起兵，經過一系列的軍閥混戰之後，來自懷朔鎮的高歡和來自武川鎮的宇文泰，主宰了北魏王朝的命運，這兩位並世梟雄，最終將北魏分割為東魏和西魏兩個相互對峙的政權。
北魏永熙三年（ 534年），北魏最後一個皇帝魏孝武帝元脩，忍受不了權臣高歡的控制，輕裝簡從，離開洛陽，來到長安，關中成為魏朝的正朔所在。高歡不願丟掉魏朝正朔，在洛陽另立元善見，就是魏孝靜帝。兩個朝廷，一東一西，史稱東魏西魏。兩個皇帝，兩個傀儡，實際掌權者分別是高歡和宇文泰。
宇文泰（507年—556年），字黑獺（一作黑泰），代郡武川（今內蒙古武川西）人，西魏的實際掌權者，北周政權的奠基者。
在與東魏高歡集團對峙之初，侷促於關中一隅的西魏宇文泰集團並沒有多少優勢可言，尤其是在武力上，根本就不具有與高歡相抗衡的能力。因為經過六鎮起義洗禮的鮮卑武裝，有二十多萬都歸入了高歡的麾下，而宇文泰所統領的軍隊不
過區區一萬人。
武定元年（西魏大統九年，543年），東魏北豫州刺史高慎據虎牢降西魏。宇文泰親率大軍前去接應。與此同時，東魏主高歡也率十萬大軍趕到黃河北岸。為了阻止東魏軍過河，宇文泰從黃河上游放滿載燃料的火船順流而下，企圖燒燬架在黃河上的浮橋。
東魏軍則事先準備好長鐵鎖鏈，待火船快到時將其鉤住，拉向岸邊，使浮橋完好無損。東魏軍順利渡過黃河，在邙山腳下佈陣；西魏軍向邙山推進，兩軍在此進行大戰。東魏軍大勝，宇文泰六七年辛苦經營起來的十萬大軍，損失了一多半。
敦煌壁畫《作戰圖》
惡劣的環境，嚴峻的形勢，對宇文泰來說，既是意志品格的砥礪，也是政治智慧的考驗。由於宇文泰武川軍人集團實力較弱，特別是其中的鮮卑軍隊人數很少，要穩定關中地區的統治秩序，並與高歡集團相抗衡，他們就必須依靠關中本地的漢人豪強。宇文泰同時從漢人中間徵收兵員，徵募漢族豪強地主武裝，以後又進一步招募均田農民入伍，西魏軍隊中漢族士兵的比重逐漸增加。
為了將此前互不統屬的軍隊與鄉兵進行整編，從西魏大統九年（543年）開始，宇文泰開始著手軍制改革，“廣募關隴豪右，以增軍旅”，一些漢人豪族相繼率領鄉兵歸附宇文泰。到了西魏大統十六年（550年），宇文泰終於完成了對府兵制的建設，將此前一盤散沙的地方武裝打造成為一個組織嚴密的系統。
宇文泰採取鮮卑八部的形式，建立了一套軍隊統轄系統。宇文泰、元欣、趙貴、李虎、李弼、於謹、獨孤信、侯莫陳崇為八個柱國大將軍。其中宇文泰為都督中外諸軍事，是軍隊的最高統帥。元欣因為是西魏宗室，柱國大將軍僅為虛名。
獨孤信（502年—557年），原名獨孤如願，字期彌頭，獨孤信家族是鮮卑貴族，,他也是出生在武川鎮的，後來跟著宇文泰到了關西。他的長女嫁給了宇文毓，後來成為北周的明敬皇后；他的第四個女兒嫁給了李虎的兒子李昞，這個李昞就是後來建立了唐王朝的唐高祖李淵的父親，換句話說，獨孤信的第四個女兒就是李淵的母親；他的第七個女兒就嫁給了楊堅，後來成了隋朝的文獻皇后，就這樣，獨孤家族一門就出了三個皇后。
餘下六位統率六軍，每個柱國大將軍下有兩個大將軍，共十二大將軍，他們都是府兵制下最重要的領兵大將，隋文帝楊堅的父親楊忠，就身居十二大將軍之列；每個大將軍下有兩個開府，共二十四開府；每個開府下有兩個儀同，共四十八儀同。
一個儀同領兵約千人，一個開府領兵兩千，一個大將軍領兵四千，一個柱國大將軍領兵八千，六柱國合計有兵四萬八千人左右，這支軍隊，就是歷史上所說的府兵。
西魏的府兵形式上採取鮮卑舊日的八部制，軍隊將領不僅鮮卑人恢復了昔日的鮮卑姓，就是漢人也被賜以鮮卑姓：李虎（唐高祖李淵的爺爺）賜姓大野氏，李弼賜姓徒何氏，趙貴賜姓乙佛氏，楊忠（隋文帝楊堅的父親）賜姓普六茹氏。所統領的士兵皆以他們主將的鮮卑姓氏為自己的姓氏。
獨孤家族聯姻情況
西魏的府兵制，被一道人為的血緣紐帶和宗族色彩所包裹，儘管這血緣和宗族不是真正意義上的，但它讓六鎮鮮卑人覺得自己的身份提高了，地位改變了；它讓漢人將領有了被當權者信任和依靠的感覺，從而加強了胡漢結合的緊密程度。
宇文泰的強國措施不僅是府兵制一項，而是包括了政治、經濟、思想、文化各個方面的制度。政治上實行以德治教化為主、法治為輔的統治原則；經濟上實行均田制，提高了服役年齡，縮短了服役時間；思想文化上推行儒家學說。通過這些措施，西魏的國力迅速增強。
北齊天保元年（550年），高歡的兒子高洋取代東魏稱帝，建立北齊。宇文泰率軍討伐高洋。西魏軍從三門峽北渡黃河，到達絳縣附近。高洋聞聽西魏來伐，親自率軍在晉陽城東屯駐，準備迎敵。宇文泰聽說東魏軍陣容強大，感慨地說：“高歡不死矣”，便不戰而退。
今天流淌於山陝交界的一段黃河，也曾經是東西魏之間的界河。每到嚴冬河面結冰時，守在河邊的西魏軍總要把自己一邊的河冰鑿開，以防東魏軍利用堅冰過河。不戰而退，通常是弱者採取的策略。戳向冰面的冰鑿，鑿出的是弱者的防禦態勢。
強與弱的關係並非一成不變。北周武帝即位後，依然是嚴冬冰河，依然是鑿冰沖沖，但位置已變成北齊一方，鑿冰者已變成北齊士兵了。
宇文泰帶領著他身邊的核心軍將集團來到關中之後，面對的是眾多的漢人豪強集團。為了安定地方和加強自己的軍事力量，宇文泰將率領這些士兵的漢人豪強選拔到高級將領的位置上去，讓自己身邊的核心集團做最高級的將領來統領他們，這樣就編制出來府兵制這樣一套軍事系統。
府兵制本身也有一個不斷完善的過程，北周的第三位皇帝周武帝宇文邕對府兵制的改革影響尤其深遠。首先，他下詔“改諸軍軍士併為侍官”，強調軍隊歸皇帝所有，完成了府兵的國家化；其次，他又下令大量徵召漢族百姓入伍，史稱“是後夏人半為兵矣”，這無疑使漢人武裝逐步成為國家的基礎。通過這些改革措施，北周的軍事實力得到很大程度的加強。
這一切為北周武帝打敗北齊統一北方、隋文帝滅陳再造統一奠定了堅實的基礎。隋唐時期的軍力十分鼎盛，但都是從北周的宇文泰府兵制改革脫胎而來的。