慧能在碓房踏碓八個月，當時東山禪眾已達七百人。五祖漸漸老去，有一天為了考驗大眾禪解的淺深，準備付以衣法，他便命各人作偈呈驗。
在眾多弟子中，有一位首席的上座師，名叫神秀，學通內外，素來為大眾所宗仰。神秀很想繼承衣缽，但又怕因為出於繼承衣缽的目的而去作這個偈子，違法了佛家的無為而作意境。所以他就在半夜起來，在院牆上寫了一首偈子：
身是菩提樹，
心為明鏡台。
時時勤拂拭，
勿使惹塵埃。
這首偈子的意思是，要時時刻刻地去照顧自己的心靈和心境，通過不斷的修行來抗拒外麵的誘惑和種種邪魔。這說的是一種入世的心態，強調修行的作用，而這種理解與禪宗大乘教派的頓悟是不太吻合的。當第二天早上大家看到這個偈子的時候，都說好，而且都猜到是神秀作的而很佩服的時候，弘忍看到了以後沒有作任何的評價。
當廟裏的和尚都在談論這首偈子的時候，在碓房做苦工的慧能也叫別人帶他去看這首偈子，他聽別人說了這個偈子，當時就說這個人還沒有領悟到真諦。眾僧人便笑他說：“庸流何知，勿發狂言。”他答道：“你不信嗎？我願意和他一首。”於是他自己又作了一首偈子，央求別人寫在神秀的偈子旁邊：
菩提本無樹，
明鏡亦非台，
本來無一物，
何處惹塵埃。
這首偈子很契合禪宗的頓悟的理念，持一種出世的態度：世上本來就是空的，看世間萬物無不是一個空字，心本來就是空的話，就無所謂抗拒外麵的誘惑，任何事物從心而過，不留痕跡。這是禪宗的一種很高的境界，領略到這層境界的人，就是所謂的開悟了。
五祖看到這首偈子，問明是誰寫的之後叫來了慧能，當著他和其他僧人的麵說：“寫得亂七八糟，胡言亂語！”並親自擦掉了偈子，然後在慧能的頭上打了三下就走了。
這時隻有慧能理解了五祖的意思，於是夜半三更，他悄悄走進五祖的禪房，五祖禪坐在本位上，對坐在對麵的慧能又征問他初悟時的“應無所住而生其心”一語，得到直接透徹的回答後，又為其講解了《金剛經》的實證智慧。慧能便於言下大徹大悟，遂說：“一切萬法，不離自性。何期自性，本自清淨；何期自性，本不生滅；何期自性，本自具足；何期自性，本無動搖；何期自性，能生萬法。”
五祖聽後印可說：“不識本心，學法無益。若識本心，見自本性，即名大丈夫、天人師、佛。”隨即傳付衣缽。
慧能跪下來承接衣缽，問：“法則既受，衣付何人？”
五祖說：“昔達摩祖至，人未之信，故傳衣以明得法。今信心已熟，衣乃爭端，止於汝身，不複傳也。且當遠隱，候時行化。所謂受衣之人，命如懸絲也。”
慧能又問：“當隱何所？”
五祖說：“逢懷即止，遇會且藏。”
慧能頂禮以後，五祖送到九江的驛站台邊，叫慧能上船，慧能隨即搖櫓，五祖說：“應該是我度你。”
慧能答道：“迷時師度，悟時自度。度名雖一，用處不同，能蒙師傳法，今已得悟，隻應自性自度。”
五祖印可說：“如是！如是！以後佛法，由你大行。”
禪宗最大的一宗公案，即是五祖要傳衣缽時，神秀和慧能兩個弟子所提出的悟道詩，也由於這宗公案，使得禪宗分為頓悟與漸悟兩派。而中國禪宗道統的繼承人中，也產生了一位最富傳奇色彩、最具禪意的禪師。
因臨別時五祖叮囑慧能南去暫作隱晦，待時行化，因此他回到廣東曹溪後，隱遁於四會、懷集（廣西懷集縣）二縣間。過了十餘年，至廣州法性寺，值印宗法師講《涅槃經》，因有二僧辯論風幡，一個說風動，一個說幡動，爭論不已。慧能便插口說：不是風動，也不是幡動，是你們的心動！大家聽了大為詫異。印宗便延他至上席，請問深義，慧能回答，言簡理當。
不久，慧能辭眾歸曹溪寶林寺，於此說法三十餘年。延和元年（712）慧能回到新州小住，命門人建報恩塔。先天二年（713）圓寂於新州國恩寺，世壽七十六。弟子等就在那一年迎其遺體歸曹溪。憲宗時（806—820）贈以大鑒禪師諡號，柳州刺史柳宗元為撰《曹溪第六祖大鑒禪師碑並序》。元和十年（815）劉禹錫因曹溪僧道琳之請，又撰《曹溪大師第二碑》。