為了能做官倉裏的老鼠，求得榮華富貴，他辭去了小吏職務，前往齊國，拜當時著名的儒學大師荀子為師。荀子雖繼承了孔子的儒學，也打著孔子的旗號講學，但他對儒學進行了較大的改造，較少傳統儒學的“仁政”主張，多了些“法治”的思想，這很適合李斯的胃口。
李斯十分勤奮，同荀子一起研究“帝王之術”，即怎樣治理國家、怎樣當官的學問。學成之後，他便辭別荀子，要到秦國去。
荀子問他為什麼要到秦國去，李斯回答說：“人生在世，貧賤是最大的恥辱，窮困是最大的悲哀，要想出人頭地，就必須幹出一番事業來。齊王萎靡不振，楚國也無所作為，隻有秦王正雄心勃勃，準備兼並齊、楚，統一天下，因此，那裏是尋找機會、成就事業的好地方。如果留在齊、楚，不久即成亡國之民，能有什麼前途呢？所以，我要到秦國去尋找適合我個人的機會。”
荀子的思想中本來就有許多法家的成分，他同意李斯前往秦國幹，但告誡李斯要注意節製，在成功之際想想“物忌太盛”的話，不要一味地往前走，必要的時候要給自己留條後路。
李斯來到秦國，投到極受太後倚重的丞相呂不韋的門下，很快就以自己的才幹得到了呂不韋的器重，當上了小官。官雖不大，但有接近秦王的機會，有此一點就足夠了。
處在李斯的位置，既不能以軍功而顯，亦不能以理政見長。他深深地知道，要想嶄露頭角，引起秦王的注意，唯一的方法就是上書。他在揣摸了秦王的心理，分析了當時的形勢後，毅然給秦王上書說：凡是能幹成事業的人，全是能夠把握機遇的人。過去秦穆公時代國勢很盛，但總是無法統一中國，其原因有二：一是當時周天子勢力還強，威望還在，不易推翻；二是當時諸侯國力量還較強大，與秦國相比，差距尚未拉開。不過從秦孝公以後，周天子的力量急劇衰落，各諸侯國戰爭不斷，秦國已經趁機強大起來了。現在國勢強盛、大王賢德，掃平六國真是如撣灰塵，這正是建立帝業、統一天下的絕好時機。大王千萬不可錯過了。
這些話既符合秦國及各諸侯國的實際情況，又迎合了秦王的心理，所以李斯贏得了秦王的賞識，被提拔為長史。接著，李斯不僅在大政方針上為秦王出謀劃策，還在具體方案上提出意見。他勸秦王拿出財物，重賄六國君臣，使他們離心離德，不能合力抗秦，以便秦國各個擊破。這一謀略卓有成效，李斯因而被秦王封為客卿。李斯在秦國開始崛起了。
可就在這時，秦國掀起了一場反對外國人的運動，是韓國派間諜幫秦國修渠引起的。
韓國是秦國的近鄰，秦國若想統一六國，韓國首當其衝，因此韓國感到既著急又害怕，但又無其他辦法可想。於是，他們就派一個叫鄭國的水利專家來到秦國，對秦王陳述在某地修渠的必要，征得了秦王的同意，開始修渠。不久，鄭國修渠的目的暴露了，原來，鄭國是韓國的間諜，修渠的目的並非為了興修水利，而是為了消耗秦國的人力和財力，以免秦國國力強盛後集中兵力東進。這時，東方各諸侯國也紛紛暗派間諜，以各種方式在秦國活動，尤其以做賓客的為多，有些間諜也被揭露出來。這樣，出身秦國的群臣一方麵為秦國考慮，同時也為了消除官場競爭對手，都堅決主張驅逐外國人。在這種情況下，秦王下了一道“逐客令”，李斯也在被逐之列。
李斯懷著失望而又悲傷的心情離開秦國，在臨近邊境的時候，他覺得應該最後試一試，否則，一旦出了秦國，就再無返回之日，一生的功名利祿也就付諸東流了。於是，他抱著試探的態度，給秦王上了一道奏章，這就是著名的《諫逐客書》：
我聽說群臣議論逐客，這是不對的。從前的時候，秦穆公尋訪賢能之士，從西方的戎地請來了由餘，從東方的楚地請來了百裏奚，又從宋國請來了蹇叔，並任用從晉國來的丕豹、公孫友。正是因為任用了這五個人，秦穆公才兼並了二十個國家，在西方稱霸。秦孝公任用商鞅，實行新法，移風易俗，國家更加富強，因此打敗了楚國、魏國，擴大了近千裏的國土，秦國更加強大起來。秦惠文王采用張儀的計謀，拆散了六國的合縱之約，迫使各國服從秦國。秦昭王得到範雎，削弱貴戚力量，加強王權，蠶食諸侯，秦國終於建立了帝業。這四代君王都是因為任用客卿才對秦國作出貢獻的，客卿有什麼對不起秦國的呢？如果當初這四位君王也下逐客令，隻能導致國家沒有富利之實，也沒有強大之名。
在《諫逐客書》裏，李斯還用秦國喜歡異國出產的珍珠、寶馬、美女為例，反問為什麼物產能用，人才就不能用呢？得出的結論是，如果秦國不用他國人才，那是為淵驅魚、為叢驅鳥，隻能使人才歸於各國，加強各國的力量，對秦國的統一大業是很不利的。