一次，鄭複初與學生們討論孔子如何周遊列國，宣傳道化，劉基突然站起來說：“孔子雖然道德高尚，但身為魯國人，國敗而難保，飽學而無為，豈不是一介無用的書生?大丈夫不應如此!”鄭複初大驚失色，事後對劉基的父親說：“這可不是一個一般的孩子，日後定為國家的棟梁!”
果然，元至順四年(1333)。年僅23歲的劉基進士及第，衣錦還鄉，被任命為江西高安縣丞、江浙儒學副提舉等官。
少年得誌的劉伯溫，頗想為元朝效力盡忠，做一番轟轟烈烈的事業。時值元朝末期，官場腐敗，吏治貪亂，整個社會統治已是搖搖欲墜。但劉基並沒有感到風雨飄搖，大廈將傾。他一方麵以身作則，為政清廉，一方麵與那些貪官汙吏作鬥爭。然而，上任不久，即因受人嫉恨被排擠到別處，碰了個鼻青臉腫。又不久，因上文彈劾監察禦史失職開罪於上司，被排擠回家。
官場初挫並未能使劉基喪失信心。他反而認為自己之所以出仕碰壁，一因自己學識未夠，社會經驗更是不足，涉世未深，不了解官場中之險惡；二者更因元朝政府積重難返，過於腐敗，正直之人很難立足，更不用想有所作為了。因此，在回鄉隱居的日子裏，他如饑似渴地鑽研《周易》八卦，兵書戰策，並廣交賓朋，擴大自己的影響，隨時打算東山再起。他知道，有了梧桐樹，不愁沒鳳凰。果然，隨著歲月的流逝，劉基的名聲日盛，甚至有人認為他的才幹足可以與諸葛亮相比，很多江南名士於是紛紛登門求教。劉基覺得，自己出頭的日子已經快了。
適值元朝末年，社會矛盾激化，各地農民起義連綿不斷。欒城(今河北欒城)韓山童與潁州(今安徽阜陽)劉福通起兵汝潁，羅田(今湖北羅田)徐壽輝起兵蘄黃，定遠(今安徽定遠)郭子興起兵濠州，泰州(今江蘇東台)張士誠舉事高郵……起義隊伍如火如荼，一浪高過一浪。而在江浙一帶，黃岩人方國珍因被誣告通寇，一氣之下，便殺死仇家，率兄弟三人聚集海盜數千人騷撓江浙，元朝廷幾次派兵都未能剿滅，連江浙行省左丞孛帖木兒都被其活捉。朝廷無計可施，隻得決定用厚祿誘降方國珍。但方國珍本性難移，幾降幾叛，弄得人心惶惶。江浙行省見方國珍如此，終於想到了劉基，舉薦他為元帥府都事。
隱居多年的劉基覺得又有了機會。他一到任就力主用武力嚴剿方國珍，認為方氏兄弟首先倡亂，不顧朝廷恩恤，“不誅無以懲後”，並且定下了剿除方案。方國珍早已聽說劉基的才幹，甚恐，急忙派人以大量金銀財寶向他行賄，劉基拒絕不受。方國珍又使人從海上至北京，賄賂京中權貴，以致元朝廷決定對方國珍進行招撫，並授以官職。劉基蒙在鼓裏，正布置出兵呢，朝廷竟然令下，說他擅作威福，奪去兵權不算，還把他羈留在紹興。劉基一怒之下，遂辭官回青田老家。
至正十六年(1356)，元朝行省重新複議以都事之職起用劉基，讓他招撫安山起義軍吳成七等。劉基自己招兵買馬，組成部隊，運用軟硬兼施的方法：投降政府的，予以寬大處理，甚至委以官職，抗命不服者當即擒捕誅殺，從而瓦解了這支義軍。
至正十七年(1357)，浙東山區暴發農民起義，行省又招來劉基剿捕，與江浙行樞密院判官石抹宜孫守處州。經略使李國鳳上疏稱讚劉基的才幹，請求予以重用。用執政權貴因怕得罪方國珍，隻讓他做總管府判，不讓他指揮軍隊。劉基施展不開才能，隻得再次棄官回鄉。青田富戶生怕方國珍擾害，紛紛投靠劉基，組織起地主武裝，修築堡寨，保衛自家產業。方國珍的軍隊，不敢進犯。