天寶三年（745）左右到撫州臨川（江西撫州）西裏山（又名犀牛山）傳法，後又在虔州（江西南康）龔公山（寶華山）傳法。住虔州三十餘年（742—773），開創禪林，聚徒說法，廣結法友，成為一個頗具影響的人物。
唐代宗大曆八年（773），馬祖移居鍾陵（江西進賢）開元寺，便以洪州（江西南昌）為中心，廣泛開展傳法活動，直至貞元四年（788）去世，春秋八十。他的弟子遵其遺囑將其遺體火化，建舍利石塔於石門山（江西靖安）。憲宗元和年間，諡“大寂禪師號”，賜塔額曰“大莊嚴”。
馬祖門庭繁茂，英才輩出，有弟子西堂智藏、百丈懷海、南泉普願，稱洪州門下三大士，計有入室弟子一百三十九人，後各為一方宗主，散布天下，禪宗至此風靡南北，稱洪州宗。另因大師於江西闡揚南嶽係禪風，稱江西禪，以“江西馬祖”聞名於世。
南懷瑾先生指出，馬祖門下出了七十二位大善知識，其中尤以江西洪州百丈懷海禪師，稱為翹楚。改變佛教東來的製度，首先創立叢林製度的，就是馬祖和百丈師徒，而且正式垂作叢林規範的，尤其得力於百丈，所以有百丈創立叢林的說法。
自馬祖以來，洪州禪沿著慧能、懷讓的性淨自悟的方向，進一步突出禪鮮明而強烈的生活意味，認為在眾生的日常生活中，事事處處都是真理的體現，眾生的起心動念、揚眉瞬目等一切活動和表現，都具有真實的價值和意義。洪州禪提倡“順乎自然”，休息心思，對善惡也不作思量，進而逐漸構成“平常心是道”的心性論新體係。
心外無法，平常心是道
南宗禪自慧能六祖以下，經青原行思和南懷讓兩位傑出弟子的作育，已經一反曆來死困在經綸義理中的傳統，漸啟中國佛法的光芒。自懷讓大師再傳到馬祖的手裏，以他秉賦博大閎深的氣度，充分發揮了活用的教學法，更使極其高明深奧的佛法妙理，顯現在平實無奇的日常應用之間，開放了中國文化特殊光芒的異彩。
——《禪話》
馬祖的禪法，雖沿續慧能以來的“識心見性，自成佛道”的宗旨，但有著自己鮮明的特性。大師以“平常心是道”、“即心即佛”弘揚禪法，用棒喝、隱語、動作、手勢等方式接引學人，取代以往看經、坐禪的傳統，機鋒峻烈，殺活自在，蔚成一股自由活潑的禪風，也留下許多膾炙人口的禪宗公案，主要圍繞著人達到覺悟解脫的心性依據和應當如何對待修行這兩個問題。
越州（廣東合浦縣）大珠慧海禪師，俗姓朱，建州（福建建甌縣）人，依越州大雲寺道智和尚受業。他初到江西見了馬祖，馬祖便問：“你來這裏做什麼？”
慧海回答說參方學道，希望求得佛法的寶藏。
“我這裏一點東西都沒有，還有什麼法可求？”馬祖敞開懷抱說，“你自己有寶藏還來向我求。”
“什麼是我的寶藏？”慧海莫名其妙。
馬祖說：“你沒管好自己家裏的寶藏，甚至還沒有發現自己家裏的寶藏，隻顧東奔西跑，向外去找寶藏，其實到任何一個地方去找，都沒有你自己的那個寶藏來得最可貴。真的寶藏還是在你自己的家裏呀！”
大珠聽了反躬自省，當下便體認了自己本來的心地，並不由於知覺和感覺，以及外界的反應而生。此後六年，大珠隨侍馬祖左右，後因他受業的師父道智和尚年事日高，他不忍心不管他，便稟明了馬祖，即回越州侍奉業師。
(本章完)