西晉末年，一場宗室之間自相殘殺的“八王之亂”，使日益腐朽的司馬氏政權江河日下，對國內匈奴五部的控制力也大大衰減。早就蠢蠢欲動的匈奴人劉淵借中原板蕩之機，在西晉北部版圖上獨立門戶，建漢稱帝，攻城掠地，由此揭開了“五胡亂華”的序幕。
劉淵，生年不詳，祖父爲南匈奴單于於扶羅，父親爲匈奴左賢王劉豹，母親爲匈奴呼延氏，是個地地道道的匈奴人。史料記載，匈奴劉姓源於漢匈和親。當年，匈奴強盛時，劉邦“以宗女爲公主，以妻冒頓，約爲兄弟，故其子孫遂冒姓劉氏”(《晉書》)，劉淵的叔祖劉宣、父親劉豹便是其中的代表人物，並取了漢名。承襲父祖，劉淵也跟着姓了劉。
劉淵生得體貌偉岸，姿儀不凡，深得時人崇重。由於他文武雙全，語出驚人，司馬昭對他另眼相看。西晉時，劉豹去世，劉淵代父之職，成爲南匈奴左部帥，歷任北部都尉、建威將軍、五部大都督等職。期間，劉淵“明刑法，禁奸邪，輕財好施，推誠接物，五部俊傑無不至者”(《晉書》)，幽冀一帶的名儒，也不遠千里紛紛前來拜見，個人威望與日俱升。
“八王之亂”爆發後，成都王司馬穎執鎮鄴城，封劉淵爲寧朔將軍，監五部軍事。當時，因爲戰亂，中原漢人大量流徙江南，幷州境內的胡漢勢力對比和人口分佈發生了重大變化，匈奴貴族劉宣等人見司馬氏骨肉相殘，四海鼎沸，興邦復業有機可乘，便祕密推舉聲名顯赫的劉淵爲大單于。劉淵得到消息後，歷經周折，成功擺脫司馬穎，蛟龍終歸大海。
西晉永興元年(304)十月，劉淵在左國城(今山西離石)建立政權，國號爲漢，改元元熙。
因晉氏猶在，四方未定，劉淵沒有貿然稱帝，而是效仿當年劉邦，權且稱漢王，依照漢制設置百官。元熙五年(308)，劉淵羽翼漸豐，便正式稱帝。劉淵是匈奴人，一心想着興邦復業，可他爲何要稱漢皇帝呢?筆者認爲，這與劉淵的人生經歷以及當時的社會形勢有關。
劉淵自幼居於漢地，酷愛讀書，癡迷漢文化，曾拜上黨名士崔遊爲師，遍習中原的儒家經典和歷史、軍事著作，甚至可以“略皆誦之”，深受漢文化影響和薰陶。這一點，從劉淵七歲喪母時表現出“擗踊號叫，哀感旁鄰”(《晉書》)的孝道禮儀上不難看出。在日後與太原名儒王昶、王渾、王濟的密切交往中，劉淵逐漸成爲一個漢化程度相當深的匈奴人。
崇尚漢文化，使劉淵傾心接受漢化;而劉淵在官場上受到的種種遭際和不公，也是逼使他主動向漢人、漢文化靠攏的一個重要因素。
晉武帝時，王渾、王濟等人舉薦劉淵擔當消滅孫吳的重任，卻遭到了孔恂、楊珧等人的強烈反對，特別是諫辭中“非我族類，其心必異”(《晉書》)八個字，既刺痛了劉淵的自尊心，也反映了漢匈之間難以消除的民族隔閡。
