隋朝末年，山东、河北一带士族门阀势力比较强大，土地兼并严重，豪强地主占有大量隐户，流亡农民很多。隋炀帝营建东都洛阳，开通运河，调发了大量的山东民工。而山东地区的封建官吏和士族地主，变本加厉地压榨百姓。大业七年(公元611年)，山东、河南等地发生大水灾，淹没30余郡;第二年，山东又发生大旱灾，加上流行疫疬，灾情极其严重。天灾人祸使得富庶的山东大地满目疮痍。
隋朝末年，山东、河北一带士族门阀势力比较强大，土地兼并严重，豪强地主占有大量隐户，流亡农民很多。隋炀帝营建东都洛阳，开通运河，调发了大量的山东民工。而山东地区的封建官吏和士族地主，变本加厉地压榨百姓。大业七年(公元611年)，山东、河南等地发生大水灾，淹没30余郡;第二年，山东又发生大旱灾，加上流行疫疬，灾情极其严重。天灾人祸使得富庶的山东大地满目疮痍。更为严重的是，隋炀帝数次东征高句丽，都把山东作为进攻高句丽的人力、物力供应基地，在这一带增置军府，扫地为兵，强壮男子大多被征发当兵。在东莱造船的劳役和负担，以及向河北运粮的差役等，这些沉重的负担统统压到了山东人民的头上。在这种残酷的役使和士族土地压榨之下，山东人民无路寻生，不断发生反抗的呼声。《资治通鉴》卷181隋大业七年记载的情况最清楚地反映出这一时期的社会状况：“自去岁谋讨高句丽，诏山东置府，令养马以供军役。又发民夫运米，积于泸河、怀远二镇，车牛往者皆不返，士卒死亡过半，耕稼失时，田畴多荒。加之饥馑，谷修踊贵，东北边尤甚，斗米直数百钱。所运米或粗恶，令民籴而偿之。又发鹿车夫六十余万，二人共推米三石，道途险远，不足充餱粮，至镇，无可输，皆惧罪亡命。重以官吏贪残，因缘侵渔，百姓困穷，财力俱竭，安居则不胜冻馁，死期交急，剽掠则犹得诞生，于是始相聚为群盗。”正是在这样的情况下，山东人民武装暴动，点燃了反抗隋王朝的烈火，引发了中国历史上规模巨大的全国农民大起义。当时山东的起义自北而南、自西而东，声势最为浩大。
大业七年(公元611年)，邹平人王薄，在长白山(今山东章丘、邹平境内)正式举行起义。王薄的义旗刚一树起，山东各地纷纷响应。平原富豪刘霸道于豆子坑(在今山东惠民地区)起兵，聚众10余万，号称“阿舅军”。漳南(今山东武城漳南镇)人孙安祖杀死县令，在同乡窦建德的帮助下，会集数百人在高鸡泊(在今平原境内)起义。窦建德因暗助起义军，全家被官府所杀，他便只身投入起义军行列。不久他聚集了孙安祖的余众，将起义军发展到万余人，并向河北一带扩充力量。
大业九年(公元613年)，山东农民起义的烈火更加旺盛。正月，平原杜彦冰、王润等聚众起义，攻克平原郡。同郡人李德逸汇集数万人，亦号称“阿舅军”。二月，济北(今山东茌平)人韩进聚众数万人起义。三月，济阴(今山东曹县)人孟海公起义，也有众数万人。北海人郭方预，自号卢公，组建义兵3万。还有齐郡(今济南)孟让、平原郝孝德也拥有几万人的起义队伍。五月至十月间，济北甄宝车、济阴吴海流也都先后举起义旗。山东各地的起义斗争汇成了反抗隋朝暴政的燎原之火，声势浩大，不可阻挡。大业十年(公元614年)以后，山东农民起义继续高涨。宋世谟起义，攻下了琅琊郡。孟让以长白山为根据地，向南进展，有众10余万人。齐郡左孝友占据蹲狗山，也发展到10万人。此外，小股势力的农民军也是山头林立，遍布了整个山东地区。起义军的烽火把隋王朝在山东的地方官府烧了个净光。据统计资料显示，隋朝末年全国农民起义共爆发126次之多，而山东就有31起，占全国总数的25%强，其中影响比较大的有王薄领导的起义，窦建德与刘黑闼领导的起义，张金称、刘霸道等领导的起义，郭方预、綦恭顺、杨元等领导的起义，徐圆明、孟海公、卢明月等领导的起义等。
大业七年(公元611年)，王薄领导起义后，多次击败官军。大业九年(公元613年)，王薄又率兵进攻鲁郡(今山东兖州)，起初取得一些胜利，但由于麻痹轻敌，结果为隋齐郡丞张须陀所部突袭，被杀数千人。后来王薄重新集结力量，北渡黄河，来到临邑(今山东临邑)。张须陀追至，王薄与其决战，又遭重创，有5000人被杀，损失牲畜以万计。在这之后，王薄又与宣雅、郝孝德等义军共10余万人进攻章丘(今山东章丘)，张须陀又亲率步骑2万迎击，起义军再遭失败。以后数年，王薄主要转战于山东北部沿海一带，与其他起义军互相支援，共同抗隋。
唐高祖武德元年(公元618年)，反贼宇文化及在江都(今江苏扬州)缢弑隋炀帝拥兵北上，于次年保于聊城(今山东聊城西北)。唐遣淮安王李神通围攻聊城，宇文化及派人引王薄入城，共同守御。神通攻城不克，引军而退，窦建德又率军来攻，而且攻势很猛，王薄开城门放窦建德入城。建德入城后，擒杀宇文化及。这年三月，王薄拥其地降唐。四月，唐任命王薄为齐州总管(驻历城，今山东济南)。武德四年，王薄劝说青(治今山东青州)、莱(治今山东莱州)、密(治今山东诸城)诸州降唐，诸州都表示同意。武德五年(公元622年)，王薄与唐宋州总管盛彦师共同攻击须昌(今山东东平东须城镇西北)，征粮于潭州(治今山东历城东平陵城)，刺史李义满闭仓不给，彦师将其下狱。攻克须昌后，王薄因事赴潭州，李义满之侄李武意将其刺杀。
窦建德是贝州漳南(今山东武城漳南镇)人。隋炀帝大业七年(公元611年)征高句丽时，建德被选为二百人长，其同县人孙安祖也因骁勇被选为征士。当时山东一带水患十分严重，安祖家遭难，安祖向县令请求免征租税未获允许，反遭凌辱，安祖杀死县令，逃往建德处，建德建议安祖聚众起义，安祖于是召集贫穷百姓数百人进入高鸡泊(今山东武城县北)举起了义旗。当时与孙安祖同时起义的还有鄃县(今山东夏津)人张金称领导的起义军，他们活动于河曲(清河之曲，在今河北清河境内)中;蓨县(今河北景县)人高士达领导的起义军，活动在清河境内。日益高涨的起义军运动，使当地的郡县官吏感到慌恐和不安，他们怀疑窦建德与这些起义军有来往，于是将其全家杀死。建德无比愤怒，于是率部下200人逃归高士达。高士达自称东海公，任命建德为司兵。后来孙安祖被张金称杀死，其兵数千人都投奔了窦建德。窦建德势力逐渐强盛起来，兵力达到万余人，并以高鸡泊为基地展开活动。
大业十二年(公元616年)，隋朝涿郡通守郭绚率兵万余人来讨伐高士达。高士达将兵权全部交给窦建德。窦建德请高士达看守辎重，自己挑选精兵2000人迎击郭绚。窦建德诈称自己背叛了高士达，要投降郭绚，并派人向郭绚下降书，表示愿为前驱，讨击高士达。而郭绚不知是计，遂率兵跟随窦建德来到长河县(治今山东德州市东)境内，建德乘其不备，大破郭绚军队，杀死数千人，缴获马匹千余匹。郭绚仅率数十骑逃走，窦建德率兵追赶到平原(今山东平原)境内，将郭绚杀死，并斩其首级献与高士达。窦建德兵势得到进一步加强。
就在这时，隋朝廷派遣太仆卿杨义臣打败了张金称，张金称的余部大部分都投奔了窦建德。杨义臣又追兵来到平原，想乘胜打入高鸡泊，击败窦建德。窦建德分析形势，建议高士达暂不交兵，避其锋芒，疲其将士，然后再出兵讨击。但高士达不听窦建德劝言，留下窦建德坚守堡垒，自己率兵与杨义臣交战，结果高士达兵败被杀。杨义臣又乘胜进击窦建德的军队，建德军大部分溃散，建德本人率百余骑逃到饶阳(今河北饶阳)。没过多久，杨义臣退兵，建德率兵又回到平原，召集散亡士卒，人数迅速增加，势力不断增强，窦建德自称将军。不久，他的势力就发展到10万多人。
大业十三年(公元617年)，窦建德在乐寿(今河北献县)称长乐王，年号丁丑，设置各级官吏进行管理。后在河间(今河北河间)一战，歼灭隋涿郡留守薛世雄的军队3万多人，并攻下河北大部分郡县。
唐武德二年(公元619年)，窦建德又攻聊城(今山东聊城西北)，生擒隋将宇文化及等。同年，建德又率兵相继攻克邢(今河北邢台)、沼(今河北永年东南)、相(今河南安阳)、赵(今河北隆尧东)等州及黎阳(今河南浚县东)，并建都洛州;又降服齐(今山东济南)、济(今山东茌平西南)、兖(治今山东兖州)等州。武德四年初，攻占曹州(治今山东曹县西北)。武德四年三月，又接连攻下管州(今河南郑县)及荥阳(今河南荥阳)、阳翟(今河南禹县)等地，屯兵于虎牢关(今河南荥阳县汜水镇)以东。后与唐军交战，因麻痹轻敌被唐军打败。当年七月被杀。
窦建德牺牲后，其部将刘黑闼继续进行起义斗争。刘黑闼也是贝州漳南人，少时与窦建德是朋友。他曾参加瓦岗起义军，瓦岗军失败后，他辗转投奔了窦建德起义军。此人多谋善战，骁勇无比。窦建德起义军失败后，他与窦建德其余部将再度起义，并号召各地起兵响应。武德四年八月，黑闼率兵攻克俞县(今山东夏津)。不久又相继攻克历亭(隋分俞县置)、洛州、相州等地，半年之内基本收复了当年窦建德所控制的地区。当时占据兖州、齐州一带的徐圆朗起义军也归附了刘黑闼。刘黑闼的再度起义，给当时新建立的唐王朝造成严重的威胁，于是唐朝廷几次派遣兵将前往镇压，起义军尽管英勇奋战，但最后还是失败了。刘黑闼也于武德六年正月被杀。
隋朝末年山东地区的农民起义军还有张金称、刘霸道等领导的起义军，北海郭方预、綦公顺、杨原等领导的起义军，徐圆朗、孟海公、卢明月等领导的山东西部农民起义军等。
张金称是贝州邰县(今山东夏津)人，于大业七年(公元611年)聚众起义，很快势力就发展到几万人，最初活动于鄃县与清河之曲(约在今河北清河境内)，曾屡败官军。后又联合郝孝德、孙宝雅、高士达等起义军，屡攻河北郡县和河南黎阳等县。大业十二年，又攻占平恩(今河北丘县西)、武安(今河北武安)、巨鹿(今河北巨鹿)、清河等县。后来在与隋太仆卿杨义臣的决战中兵败，被隋清河郡丞杨善会杀害。
在今天山东北部地区与张金称大致同时起义的还有刘霸道、郝孝德、格谦、孙宝雅等起义军。刘霸道是平原郡(治今山东陵县)人。大业七年，他拥众起义，以豆子坑(今山东惠民)为根据地，其队伍迅速发展到10万多人。郝孝德也是平原人，大业九年他聚众1万多人起义，曾与王薄、孙宝雅等义军联合，攻打章丘，被隋齐郡丞张须陀击败。后转战于黄河以北，屡败隋军。后投奔瓦岗军。格谦是厌次(今山东无棣南)人，他在大业九年率众起义，到大业十二年时，队伍发展到10万人，也以豆子坑为根据地，屡破隋军。后被隋将王世充打杀害。孙生雅为渤海(治今山东阳信)人，他也在大业九年率众起义，队伍很快发展到10万人，也以豆子坑为根据地，称齐王。曾联合王薄、郝孝德等义军南攻章丘，又与张金称、高士达等合兵攻破隋军黎阳粮仓。后又转战于河北一带，屡败隋军。此外，在今山东北部地区，还有杜彦冰、王润领导的一支起义军，曾攻破平原郡。
郭方预是北海郡(治今山东青州)人，他于大业九年起义，队伍很快发展到了3万人，曾攻陷北海郡城。后被隋齐郡丞张须陀打败。
綦公顺也是北海郡人，他于大业末年在本郡起义，曾率兵3万人围攻郡城。后与隋明经刘兰成联合作战，攻陷郡城。公顺的兵力日益强盛。隋大业十三年李密为瓦岗寨主后，綦公顺率众归附。后瓦岗军失败，李密降唐，公顺也随之投降唐朝。武德二年，唐以公顺为潍州总管(今山东潍坊)。
杨厚也是在大业末年起义，曾攻打北海县(今山东潍坊)，虽未攻克北海，但给隋军以沉重打击，后被隋炀帝派兵击败。
徐圆朗是鲁郡(今山东兖州)人，大业十三年(公元617年)聚众起义，曾先攻占东平郡(今山东郓城东)，然后分兵各地，占据了琅琊(今山东临沂)以西、东平以南的地区，队伍发展到两万多人。李密为瓦岗寨主之后，圆朗归附李密。唐武德元年(公元618年)，李密被王世充打败后，李密降唐，圆朗投奔窦建德(也可说是归降王世充)。圆朗后被唐朝廷封为鲁郡公、兖州总管。武德四年，刘黑闼在河北起义，圆朗暗中与之联合。不久扣留唐朝廷命官，举兵反唐，兖、郓、陈等8州都拥兵响应，纷纷杀死唐朝地方官吏，势力大增。他们曾攻克楚丘(治今山东曹县东南)。武德五年，唐秦王李世民破刘黑闼之后，又进兵攻打徐圆朗，接连攻克10多座城池。后唐朝廷又继续派兵进攻徐圆朗，圆朗寡不敌众，弃城而走，结果被“野人”所杀。
孟海公为济阴(今山东曹县西北)人，他在大业九年率兵起义，以周桥(在今山东曹县东北)为根据地，攻占曹(即济阴)、戴(治今山东成武)二州，人数迅速发展到3万。武德三年，窦建德率大军进攻海公。次年建德攻克周桥，俘获孟海公。同年，窦建德又被李世民击败而被俘，孟海公与窦建德一起被杀害。
卢明月是涿郡(治今北京市西南)人，他于大业十年率起义军10多万人屯踞祝阿(今山东长清东北)。隋齐郡丞张须陀率兵前来镇压，张须陀设计使卢明月大败。大业十一年，明月又聚众10多万人，先后攻打陈州(今河南淮阳)、汝州(今河南临汝)等地。此后便转战河南、淮北一带，队伍也发展到40万人。大业十三年，起义军被王世充率兵镇压，卢明月被杀，余众溃散。
此外，在今山东西部地区，还有一些规模较小的农民起义军。如吕明星领导的起义军;大业九年，济北韩进洛、甄宝车的聚众起义;大业九年济阴(治今山东曹县西北)吴海流领导的起义;大业末年兖州方与(治今山东鱼台北)张善安领导的起义;还有济阴房伯献的起义、济北张青特的起义等。
除上述一些主要地区、主要农民起义军以外，据史书记载，还有其他一些农民起义队伍，他们是：大业九年爆发的杜伏威领导的起义军，起义后进入长白山，与左君行领导的起义军联合，后转战到淮南地区，成为江淮地区最大的一支农民起义军。后被唐军镇压。齐郡人孟让领导的农民起义，起义后曾一度与王薄起义军联合，攻占长白山。后也转战到淮南地区，队伍发展到10万多人，后被隋将王世充击败，他北投瓦岗军。东海丞(今山东枣庄)李子通领导的农民起义，起初他也参加长白山起义军左才相部，后独立，半年内队伍发展到1万多人，也转战到淮南地区。左才相领导的起义军，先以长白山为根据地，后转战到淮北一带。另外还有：裴长才在齐郡附近领导的农民起义，颜宣政在齐郡一带领导的农民起义，彭孝才在东海郡(治今江苏连云港市西南海州镇)领导的起义军于大业十年转战沂水(今山东沂水)一带，宋世谟领导的起义，彭城张大彪领导的起义，东海人卢公暹领导的农民起义，齐郡人左孝友领导的农民起义，文登(今山东文登)淳于难领导的起义等。
