1346年(至正六年)，劉基接受好友歐陽蘇的邀請，與歐陽蘇一同來到丹徒，在距歐陽蘇家附近的蛟溪書屋住下，過了一段半隱居的生活。以教授村裏中的子弟讀書來維持生活，偶爾和月忽難、陶凱等好友時相往還。
1348年(至正八年)，劉基結束在丹徒約兩年的半隱居生活，再度投入人羣。他來到杭州居住，他的夫人爲他生下一個兒子，即劉璉。在杭州的四年當中，他和竹川上人、照玄上人等方外之士時相往來，也和劉顯仁、鄭士亭、熊文彥、月忽難等文士詩文相和。1352年(至正十二年)七月，徐壽輝攻陷杭州，在攻陷杭州之前，劉基便帶着家人回到故鄉。回到故鄉不久，朝廷來了一封公文。朝廷起用他爲江浙省元帥府都事，主要任務是幫助當地政府平定浙東一帶的盜賊，特別以方國珍爲對象。
歷史上真實的劉基並非神仙，不過按今天的頭銜，可算是哲學家、謀略家、文學家、軍事理論家、易學家、天文學家等，其着述也廣泛涉及到了這些方面，“所爲文章，氣昌而奇，與宋濂併爲一代之宗。”
(《明史點·列傳十六》)，其《郁離子》想象詭異，寓意深遠，有如《莊子》，《百戰奇略》更是兵書寶典(後人對是否伯溫所作尚有爭議)。
天文歷數方面有《天文祕略》，卜筮方面有《觀象玩佔》傳世，此外還着有曆書《玉洞金書》一卷，《注靈棋經》二卷，《解皇極經世稽覽圖》十八卷。
頗爲奇特的是，和羽扇綸巾、談笑自若的傳統學士名臣儒雅瀟灑的形象不同，劉伯溫身着布衣，威猛剛烈，“虯髯，貌修偉，慷慨有大節，論天下安危，義形於色。”全然一副梁山好漢的模樣。
