唐俭是李渊起兵时，太原首义的参与者，为李唐王朝立下汗马功劳。
唐武德元年(618年)，唐俭与永安王李孝基率唐军攻伐刘武周时，不幸被俘获。狱中，唐俭意外得知独孤怀恩欲谋反。当时的独孤怀恩被刘渊委以重任，镇守战略要地蒲州，一旦独孤怀恩起兵造反，刚刚建立的李唐王朝将面临灭顶之灾。事关重大，唐俭说服看压他的尉迟恭，派人送信给李渊，揭发独孤怀恩谋反。得知消息后，李渊立即处斩了独孤怀恩，消除了李唐王朝的重大隐患。刘武周被剿灭后，唐俭升任史部尚书，授天策府长史，封莒国公，特赐免死罪一次。唐俭功勋卓著，被唐太宗列为凌烟阁二十四功臣第二十二位。
贞观年间，一次，唐俭随唐太宗在苑囿内射猎时，迎面遇上一头凶猛的、长有长獠牙的雄野猪疯狂奔向唐太宗，危机时刻，唐俭飞速下马与野猪搏斗，太宗趁机砍死野猪。唐俭喘了一口气，吓得直冒冷汗。太宗因此笑话唐俭胆小，唐俭回答说：“汉高祖以马上得天，却不以马上治理天下。皇上以神武平定天下，岂能在一头野兽身上逞能。”唐俭舍身救驾，也让唐太宗放弃射猎，安心治理朝政。
唐俭忠心耿耿，却差点因下棋丢了性命。《朝野佥载》中有这样一则记载：唐俭与唐太宗下棋，棋间争抢了几句，激怒了太宗，随及被贬到潭洲。如此这样，唐太宗还不罢休，对杀人不眨眼的尉迟恭说：“唐俭轻视我，我想杀了他。你为我指证他。”第二天上朝时，尉迟恭却以耿直的性情维护唐俭。唐太宗很生气，事后闭门想了很久，认为尉迟恭做的对。唐俭于是捡回一条性命。
伴君如伴虎，没人知道老虎何时会发威。唐俭自恃功高，却因不拘小节忘乎所以，失了君臣之礼。君就是君，臣就是臣。“外虽君臣，实为骨肉”是帝王让臣孝忠自己的谎言。皇上赐你免死牌，也能随时废除免死令。唐俭下棋差点丢了身家性命，甚至殃及家人，幸亏有尉迟恭冒死维护。唐太宗一旦错杀功臣，为了维护明君形象，必然不会承认，找个莫须有的罪名，让唐俭身败名裂也不是不可能的事。
唐俭没有因此而吸取教训，不拘小节的性格没有改变。后来，违反法令，食用下属所赠的羊羔而遭御史弹劾，惹皇上动怒，再次被贬，再没有获得被起用的机会。
