南北朝末年，中原经历了长期的南北分裂后，人民普遍渴望统一。

北周灭北齐后国力兴盛，但是北周宣帝宇文赟奢侈浮华，沉湎酒色，朝政腐败，朝政开始逐渐由大臣杨坚掌握。

杨坚出生北周贵族，周宣帝时官至上柱国，大司马。后来周宣帝驾崩，年幼的周静帝继位。封杨坚为大丞相，总览军政大权，杨坚在平定了河南，湖北，四川的割据势力以后，于公元581年废掉北周静帝，自己取而代之，建立隋朝，杨坚就是隋文帝。

杨坚称帝以后，便开始了统一天下的军事部署。隋文帝杨坚先是和突厥和亲，让东突厥归降隋朝，解除了后顾之忧，然后便安排大军南下伐陈。隋文帝杨坚以他自己的次子晋王杨广为行军元帅，在安徽前线集结兵力，准备渡江伐陈。

此时南方的陈朝腐朽没落，昏庸无道的陈后主不理朝政，整天和后宫嫔妃们一起饮酒作乐，把长江作为不可逾越的天险，在都城建康过着醉生梦死的生活。

开皇九年正月的清辰，满天大雾，两路隋军在建康的东西两面悄悄的度过了长江。西面一路，隋朝大将韩擒虎从横江夜渡采石，活捉了醉酒的陈朝守军，对于这支从建康附近突然出现的隋军，陈朝守军竟然认为对方是从天而降的飞将军。

东面一路，大将贺若弼久已在长江北岸经常调动兵马，射猎喧闹。南方的陈朝守军听习惯了，也就不再觉得奇怪了，这一次却弄假成真，隋军一鼓作气突破了陈军的防线，进攻京口，与西路军会师于陈朝都城建康。正月初八，隋军攻破了建康，陈后主和宠妃张丽华躲在井里，被隋朝士兵搜出来，当了俘虏。之后，南方各地纷纷归属，隋文帝出兵不到四个月，便实现了南北统一。

开皇二十年，由于隋文帝的长子杨勇奢侈浮华，沉湎酒色。隋文帝杨坚废掉了杨勇的太子之位，另立次子杨广为太子。杨广和宇文化及暗中勾结，建立党羽，阴谋篡位。仁寿四年，杨广弑父杀兄，登上了皇位，也就是隋炀帝，改年号为大业。

杨广登基后奢侈浮华，滥用人力物力，挥霍无度。他大规模的发动农民工，修建大运河和长城，又大规模的发动战争，三征高句丽，但均已失败告终。

连年的征战和隋炀帝的暴政致使隋朝的国力大大的削弱，人民苦不堪言。农村中逃避军役和劳役的人越来越多，流民遍地。

大业七年，在山东首先爆发了由李密领导的瓦岗起义军，紧接着各地起义军风起云涌，贵族出身的杨玄感也起兵造反，统治阶级内部也出现了大分裂。

起义军在和隋军的战斗中分并合离，形成了三支强大的力量，在中部李密领导的瓦岗军，北部窦建德领导的夏军和南部杜伏威领导的吴军。

大业十二年，也就是公元616年，隋炀帝任命李渊为太原留守，负责北御突厥以及平叛，李渊以为“隋历将尽吾家继膺符命”，阴谋取隋王朝而代之！

与此同时，晋阳令刘文静又力劝李渊入关，号令天下，不盈半岁帝业可成，刘文静所说的“关”是指潼关以西的关中地区，是隋都长安的所在，这无疑是劝李渊效仿汉高祖刘邦，入关定秦以号令天下。