劉淵死後，太子劉和繼位。劉和身長八尺，雄毅美姿儀，和他老爹一樣，自幼飽讀詩書，好學夙成。但是，他當太子後，內多猜忌，馭下無恩。剛登帝基，就他在其舅呼延攸的攛掇下，想殺掉手擁重兵的四弟楚王劉聰等三個王爺。不料，他派去攻殺其弟北海王劉乂的田密等將領斬關奔逃，奔向擁兵十萬的劉淵第四子劉聰處通風報急。
劉和 畫像

混亂之間，劉和派人斬殺安昌王劉盛、安邑王劉欽、永安王劉安國、齊王劉裕、魯王劉隆，大殺宗室成員。但最後，劉聰率大軍攻入西明門，衝進內宮，斬殺了劉和，並收斬呼延攸等人。

劉聰殺掉劉和後，雖朝中大權皆歸己手，但還沒有馬上自立為帝的野心。由於當時劉淵年輕的孀婦單氏是「皇太后」身份，劉聰就想尊單氏所生的兒子北海王劉乂為帝。
劉聰 畫像

劉乂很有大局觀念，與公卿涕泣固請，尊奉劉聰為帝。劉乂當時也就是一個十四歲左右的少年王爺，應該不是演「政治」戲，加上他自己也差點被劉和殺掉，推舉這位四哥，想必是出於真心。依據當時情勢，劉聰登上帝位，也是眾望所歸、水到渠成之事。

劉聰推辭許久，最後答應。他在朝中對宗室和大臣講：「皇弟劉乂以及眾位大臣值此四海未定之際推舉我，是因我年長的緣故。國家大事，我不敢不從。待到皇弟劉乂日後成年，我會把皇位再讓予他。」
劉聰 畫像

於是，劉聰即皇帝位，改元光興，尊劉淵的皇后單氏為皇太后，生母張氏為帝太后，拜劉乂為皇太弟，領大單于、大司徒。劉聰還立其妻呼延氏為皇后，封其子劉粲為河內王，署使持節撫軍大將軍、都督中外諸軍事。
劉淵的皇后單氏 畫像

劉聰為人，據說是其母懷孕十五個月才把他生出來（古人好附會靈異，小孩如果真在母親肚子里呆十五個月，生下來不是死胎也是傻子），左耳間生有一根白毫毛，二尺多長，光澤瑩亮。由於生長於漢地，劉聰也是自幼好學，十四歲時，他已精通經史百家，並工草隸，善屬文，不僅精習《孫吳兵法》，還著有述懷詩百餘篇。由於是匈奴貴種，劉聰十五歲起又開始學習擊刺，「猿臂善射，彎弓三百斤，膂力驍捷，冠絕一時」。
劉聰 畫像

劉聰身上既有父氏匈奴驍武的遺傳，也有母氏漢族詩文積澱的靈性，確是人中龍虎。弱冠之年，劉聰即在洛陽遊學，交結名士無數，當時的大臣樂廣、張華都對他大加嘆賞。在京城見過大世面後，劉聰回到新興故地，官至右部都尉，善於撫接匈奴五部士眾，族人歸心。其父劉淵在成都王司馬穎手下效力的時候，唯恐父親有三長兩短，劉聰當時也自告奮勇，在司馬穎手下任積弩將軍，常常衝鋒陷陣，為父親劉淵爭臉邀功。
劉淵 畫像

因此，無論是從稟賦、閱歷、政治經驗哪個方面講，劉聰都是個成熟、老練的帝王。即位之後，劉聰馬上派遣劉粲、王彌、劉曜等率四萬精兵，長驅洛川，在梁州、陳州、汝州、穎州等地輾轉襲擊，攻陷漢族人所建的塢堡一百多座。同時，他派呼延晏率禁兵兩萬七千人，從宜陽入洛川，與王彌、劉曜、石勒大軍相呼應，在河南與晉軍大戰，前後十二勝，殺晉軍三萬多人，包圍了洛陽。
劉琨與祖逖聞雞起舞

西晉方面，劉琨聯合鮮卑部酋拓跋猗廬，大破與劉聰結盟的匈奴支屬劉虎以及鮮卑白部。取勝之後，劉琨上書把持西晉朝政的東海王司馬越，要求他派兵共討劉聰、石勒。但司馬越害怕與他不和的晉臣苟唏等人趁機奪權，就以洛陽饑荒、養不起外兵為由，拒絕了劉琨的建議。這樣一來，也使劉聰圍攻洛陽的軍隊更加有恃無恐，再無被反包圍的危險。

晉朝大臣劉琨無奈，只能「厚謝」拓跋猗廬，並按約定把陘北的五縣晉民遷於陘南，割陘北之地與鮮卑。