公元617年十一月，唐国公李渊，李世民破屈突通军队，攻入隋京大兴(日后唐王朝仍在此定都)，拥立杨侑为帝，是为隋恭帝，改元义宁，遥尊炀帝为太上皇，自任大丞相，进封唐王。由于唐军攻入隋都大兴城，全国震惊，炀帝身旁的军士人心震动，以为隋朝即将灭亡，为求自保，由此发生了江都政变，使隋炀帝被杀，间接重创隋朝，使它走向灭亡。
大业十四年三月，隋炀帝在扬州被宇文化及杀害，隋朝统治到达尾声，李渊趁此机会便于同年五月于隋朝首都大兴城宣告建立唐朝，选择大兴城为帝都，且改名为长安，以关陇集团身份吸收隋朝残余力量，使到唐王朝在短时间内得到绝大部份隋朝残余势力的支持而急速强大起来。大业十四年(618年)五月，李渊迫使隋恭帝禅位，自己称帝，国号唐，是为唐高祖。改元武德，都城仍定在大兴，改名长安。封嫡长子李建成为太子、嫡次子李世民为秦王、嫡三子李元霸早夭、嫡四子李元吉为齐王。李渊建立唐朝后，以关中为基地逐步统一中国。618年，李世民平定西北的薛举、薛仁杲，同年幽州罗艺降唐，同年，李法主因与王世充在雒邑相争失利，投降唐朝，使唐朝军事实力急速增长，使得日后在中原荡平诸侯，虎据中原，由此作为统一天下的基始。
公元619年，唐使安兴贵、安修仁生擒占据河西走廊的李轨。620年，李世民击败攻入河东的刘武周、宋金刚。621年，李世民东征河南的王世充，王世充与河北窦建德结盟抗唐。622年，李世民俘窦建德，王世充投降。窦建德余部刘黑闼因为窦建德在622年被李渊所杀而两次起兵反唐，皇子李建成、李世民、李元吉和大将李靖等先后征伐，李建成623年俘斩刘黑闼，河北平定。623年，辅公祏率杜伏威余部在丹阳反唐，624年被唐军俘杀，江淮、江南平定。621年，唐大将李靖围攻江陵，萧铣降唐。翌年，岭南冯盎降服，又虔州林士弘死，唐据赣地。
李世民军事才能突出，率军赢得多次关键胜利。扫平群雄后，太子李建成与秦王李世民出现了争位冲突，武德九年(626年)六月初四，秦王李世民发动玄武门之变，杀了李建成与齐王李元吉，控制了长安城。不久，李渊深知形势，于是禅让帝位，自称上皇。世民登基，是为唐太宗。
