杨素跻身历史舞台，最初凭的是以武人身份立下军功。作为大将，他的统兵作战方法十分独特残忍，每次大战前都要在军中借故找一些犯错的士兵出阵斩首，多者百余人，少者也不下十几个。杨素却能做到眉头都不皱一下，而他这样做的目的竟然是为了鼓舞士气。
两军对阵，他从不指挥整军压上，而是先派个一二百人上去厮杀，务必要求胜，不能取胜，无论剩多少人全部斩首。继而再派几百人厮杀，直到取胜为止。这种战法历代以来虽一直为人所抨击，然而却令杨素终其一生，罕有一败，因为在死亡的驱使之下，反而更能激发内心的战斗意志。
凭着这种残忍的战法，杨素统兵战无不胜，甚至，在跟突厥这种天生的骑兵作战时，杨素都豪气冲天，居然放弃常规的车战战法，直接跟突厥比拼骑兵对骑兵的正面交锋，一仗打得突厥达头可汗的十万铁骑号哭而去。
凭借战功的不断累积，杨素很快成为朝臣中的二号人物。隋文帝虽有雄才大略，却一向刻薄猜忌，加上大隋江山本是从北周的孤儿寡母手上夺来，名不正言不顺，晚年猜忌尤重，先后以各种小毛病或斩或黜，功臣之中，唯独杨素没有遭到厄运，反而一路高升，成为头号权臣。
杨素当政后，朝臣中稍有不肯附和者，都遭到杨素的暗中陷害排挤。更有一些人，因为十几年前一些鸡毛蒜皮的小事得罪过杨素，也被杨素找到机会公报私仇、打压报复。从隋朝名将史万岁之死，可瞧出杨素行事之阴狠毒辣。在隋朝四大名将里数史万岁经历最为特别，因为他完全是靠着一刀一枪从底层干起才有此地位，但是这样一个百战名将，在杨素陷害之下，竟在众目睽睽的朝堂之上被当场打死
隋文帝一共生有五个儿子，长子杨勇被立为太子，隋炀帝杨广排行第二，帝位本没有他的份，但他通过与权臣杨素勾结，终于将哥哥搞下马。杨勇当了二十年太子，除了花钱稍微大手大脚一点之外，其实并无大过错，如果他能顺利继承皇位，至少不至于像二弟杨广那样落得个二世而亡。
关于隋文帝之死，史书虽然闪烁其词，并没有明言说是被杨广所弑。但是综合来看，杨广一党终究难逃嫌疑，而作为杨广首席帮凶的杨素，一直被视作具体行动者，受到后人万世之唾骂，武则天诏书里说他“他是不忠诚的人”指的正是此事。
