为了避免匈奴五部叛乱,晋武帝时,匈奴五部颇具声望的刘氏嫡子刘渊被诏往洛阳作为人质。刘渊到了洛阳后,被汉臣赞赏他的才华和武艺。晋武帝爱才,想任用刘渊平定凉州之乱,被身边的人劝阻。有臣子担心刘渊以后造反,劝晋武帝除掉刘渊以绝后患,晋武帝没有采纳。刘父去世后,刘渊接任父位。刘渊在位尽心尽职,治理有方,惩恶扬善,待人坦诚,深得匈奴人支持。时有刘渊部下叛逃,因此又被朝廷免去了官职。司马颖在成都自立为王后,任命刘渊到邺城任职。
西晋朝政王室长期内斗,使得天下大乱,民不安生,生产衰退,各地区都有叛军起兵。匈奴族人看到汉族衰弱,刘渊族人开始密谋叛乱计划。他们共同拥护刘渊作为首领,密谋起兵。匈奴族人派出使者到邺城密会刘渊。刘渊得知消息后,向司马颖提出回匈奴的请求,司马颖没有允许。不久,司马颖遭到各地讨伐,刘渊乘机对司马颖说,愿意去匈奴族请来援兵相助,司马颖听了马上同意了。刘渊回到部落后,马上聚集了匈奴五部的势力,自立为大单于。
晋朝内乱国力衰退,国内四分五裂才给了匈奴起兵造反的机会。匈奴部族归附汉族,晋朝却没有善待匈奴,反而随意杀戮,多引起匈奴不满,渐渐积累了怨气,因此一旦汉族衰弱,匈奴族就有了叛乱之心。刘渊自小习得汉文化,深懂治国得人心的道理,他在匈奴顺应人心,顺势起兵,是历史的一个必然趋势。匈奴首领冒顿单于南下侵汉,汉高祖被打败,于是请求将汉室公主嫁给冒顿单于并和匈奴以兄弟相称。匈奴族接受了请求,冒顿单于就把子孙后代姓氏改为刘氏。曹魏建立政权后,曹操将在北方的匈奴分为了五部,以刘氏担任部帅。刘渊就是这个刘氏的后代。
刘渊自小就很聪慧,以孝心得到族人认同。又喜欢汉文化,博学多才,文武双全。刘渊逐渐在匈奴族建立起了自己的威望。刘渊前往洛阳,才华聪慧得到汉族人认可,晋武帝本打算任用刘渊,后来被臣子谗言,放弃了任用。又许多人劝谏杀死刘渊以免除后患,晋武帝虽然最后没有杀掉刘渊,却让刘渊心内不安。刘渊父亲去世后,刘渊接任父亲职位,开始上任。刘渊担任官职的时候,治理有方,得到许多人的赞赏。此时西晋朝代更替,刘渊部下有人逃走也因此被免去了职位。成都王司马颖在邺城的时候起用了刘渊。西晋发生了八王内乱,匈奴五部见此开始有了叛乱之心,刘渊祖父同五部首领商议密谋造反,由于刘渊深得匈奴人支持,大家于是推选刘渊为大单于。司马颖在成都自立为王,被西晋讨伐,刘渊于是以援助司马颖为名回到了匈奴。司马颖放刘渊回去后,刘渊受到匈奴五部民众的拥护,自立称王,建立了汉赵政权。汉赵反过来攻击司马颖,攻占了邺城。