公元9世紀末，投奔葛邏祿的蔥嶺西回鶻並不甘心。他們聯合葛邏祿人、樣磨人共同建立了一個名叫“喀喇汗朝”的袖珍小國。“喀喇”，突厥語意為偉大、強大、最高，而它的原意是黑色。因此，喀喇汗朝又被稱為“黑汗王朝”。 第一任汗王名叫毗伽闕·卡迪爾汗，汗帳設在八剌沙兗（今吉爾吉斯的托克馬克附近）。汗王死後，兩個兒子分別繼位：老大巴澤爾駐八剌沙兗，稱“獅子王”，為大汗；老二奧古爾恰克駐怛羅斯（江布爾），稱“公駝汗”，為副汗。
信仰佛教的公駝汗與信仰伊斯蘭教的西部鄰居薩曼王朝關係惡化，公元893年，薩曼王朝發動了聲勢浩大的伊斯蘭聖戰。 聖戰的威力可想而知。很快，薩曼王朝的聖戰有了結果，喀喇汗副都怛羅斯被攻克，公駝汗奧古爾恰克被迫遷都喀什噶爾。 不久，薩曼王朝伊斯瑪儀汗兄弟發生內訌，伊斯瑪儀汗的弟弟納斯爾在內訌失敗後來到喀什噶爾尋求政治避難。為了利用伊斯瑪儀汗兄弟的矛盾打擊薩曼王朝，奧古爾恰克熱情接納了這位穆斯林王子，並且委任他為阿圖什地方長官。
歸附的納斯爾卻並未改變自己的信仰，而是暗地裡在阿圖什建起了一座清真寺，穆斯林教徒和商人開始源源不斷地來到這裡。 薩克圖·布格拉是奧古爾恰克的侄子，此時已經長成一位英俊瀟灑的少年。不知為什麼，這位少年對穆斯林商品情有獨鍾。愛屋及烏，漸漸地，他認識了納斯爾王子並與之結成了朋友。在長期的耳濡目染中，薩克圖偷偷皈依了伊斯蘭教，並取了“阿不都·克里木”的教名，算起來他應該是喀喇汗王族信仰伊斯蘭教的第一人。
千萬不要低估了這位英俊少年，其實他信仰的轉變包含著不為人知的勃勃雄心。他一邊暗中學習宗教知識，一邊祕密發展忠實信徒。經過多年的臥薪嚐膽，他在25歲時帶領穆斯林兄弟成功發動了政變，推翻了自己的叔叔兼後父（父親死後，他的母親嫁給了這位叔叔），奪取了公駝汗的王位。 一上臺，他就宣佈伊斯蘭教為合法宗教，號召臣民皈依穆斯林。然而他的號召如石沉大海，幾乎沒有掀起什麼波浪，甚至有些佛教徒開始醞釀暴動。沒辦法，他只有舞動手中的權杖，開始自上而下地強制推行伊斯蘭教。不久，他又發動了對八剌沙兗的聖戰，打敗了拒絕接受伊斯蘭教的大汗。
從此，伊斯蘭教成為喀喇汗王朝的國教，作為穆斯林標誌的星月旗開始在這片土地上獵獵飄揚。 喀喇汗王朝強制推行伊斯蘭教並瘋狂迫害佛教徒的做法引起了信奉佛教的東部鄰居大寶于闐李氏王朝的不滿，于闐國不僅對喀喇汗王朝的佛教徒暴動給予支持，而且還對逃亡于闐的佛教徒予以收留和庇護。於是兩國關係急轉直下，從宋太祖建隆三年（962）開始，展開了近半個世紀的血腥肉搏。
戰爭的進程一波三折，有勝有負，一會兒你打過來，一會兒我又打回去，兩國的邊界線恰如一個傻子追完狗後呼呼喘氣的肚子。天平在宋真宗鹹平二年（999）發生了傾斜，喀喇汗王朝抽出一支軍隊輕易地消滅了以今烏茲別克布哈拉為中心的薩曼王朝，收編了人數眾多的伊斯蘭聖戰同盟軍。不久，喀喇汗王朝就由防守轉入進攻。宋真宗景德三年（1006），喀喇汗王朝終於佔領了于闐城，掃清了西域的最後一個對頭。
至此，喀喇汗王朝達到鼎盛時期，其疆域包括今我國新疆南部，吉爾吉斯斯坦、塔吉克斯坦和哈薩克斯坦南部、烏茲別克斯坦東半部的廣大地區，首都設在八剌沙兗，陪都設在喀什噶爾。 在伊斯蘭教傳入後，他們將用粟特字母創制的古回鶻文改為以阿拉伯字母創制的“畏兀兒字”。 公元12世紀30年代，契丹人耶律大石領兵西來，在喀喇汗朝的土地上建立了西遼，東、西喀喇汗王朝相繼淪為西遼的附庸。