元顺帝至正八年(1348)，台州黄岩(今浙江黄岩)人方国珍在台州起兵，拉开了反元的大幕。方国珍的军队迅速占领了台州、温州、庆元(今宁波)等地，当地官员奈何不得。省里面只得将刘伯温召出。刘伯温同事黄伯生在其《诚意伯刘公基行状》一文里说，省里将刘伯温召出后让他当了个浙东元帅府的都事，仍是个从七品的小官，而元帅府即宣慰司，是省里的一个派出机构。
刘伯温到任后，献计筑城抵御，果然使方国珍受阻。这时，左丞相招安方国珍，刘伯温认为招安不妥，因方国珍是第一个起兵反元之人，应乘胜一举将方国珍剿灭，否则后患无穷。从起义反元这一面来看，刘伯温这一计确实很毒，若得逞，元王朝将再苟延残喘一阵也说不定。方国珍听说后，忙用重金贿赂刘伯温，希望刘伯温改变观点，为他接受招安说点好话，但刘伯温不受。
方国珍便派人从海上带重金到京城，贿赂当权者们，终于打通了门路，朝廷决定招安方国珍，一面授方国珍官职，一面反而斥责刘伯温霸道。方国珍受招安不久，等到喘过气来后，再次起兵反元，而此时的刘伯温，虽又被省里重新任用负责剿捕之事，却又见疑，不给兵权。至此，刘伯温对元王朝心灰意冷，干脆辞官回家了。刘伯温回到老家青田后，专心著书，写下了反映自己政治主张的传世之作《郁离子》。
刘伯温已经看出元王朝末日迫近，天下势将大乱，便在老家青田读书，著作，韬光养晦等待时机。不久，群雄四起。朱元璋打下浙江金华后，得知刘伯温、宋濂是江南名士，即以重金礼聘，刘伯温卖关子，没有答应。朱元璋手下总制孙炎又亲自写信邀请刘伯温，刘伯温才同意出山。
刘伯温和朱元璋见面后，即向朱元璋陈述了时务十八策。十八策的主要内容是灭陈(友谅)去张(士诚)、灭方国珍、屯兵自养、勿过度扰民、严肃军纪、招纳贤士等等。朱元璋读后非常高兴，即将刘伯温视作心腹。朱元璋初起兵时，奉红巾军头领韩林儿为首。至正十五年(1355)，韩林儿在亳州(今属安徽)称帝，国号大宋，朱元璋得到消息，即表祝贺，到了新年，还令中书省为韩林儿专设御座并叩头礼拜。
群臣皆拜，独刘伯温不拜。问他为什么不拜，他说：韩林儿不过是个放牧的小孩子而已，我拜他干什么！显然，刘伯温是以这种方式表明他只忠于朱元璋。朱元璋心知肚明，便召见刘伯温，请教平定天下大计，于是有了一次著名谈话，后人称之为朱刘之间的“隆中对”。刘伯温向朱元璋分析了群雄形势，陈述了征讨天下大计。刘伯温说：张士诚目前不过自保而已，不足为虑。陈友谅篡夺了红巾军领导权，名号不正，但他占据了上流之地，又时刻想消灭我们，是我们的大敌，因此应当首先消灭他。一旦消灭了陈友谅，张士诚自然势单力薄，就可以一举将其灭掉了，然后挥师北上，占据天下！朱元璋听后大喜，对刘伯温说：先生有了什么好的计策，都一定要告诉我啊！
