由於張果太神奇了，所以，有很多人想弄清他的來曆。當時有一個能看出神鬼百怪本相的人叫師愛光，玄宗讓張果坐在自己屋內，讓師愛光來看，師愛光根本不知張果在哪裏。玄宗又讓邢和璞來看。邢和璞是一個知人壽夭的占卜者，他怎麼推算也弄不清張果的出生日子，更不用說何時謝世了。玄宗這才知道張果是一位神仙。
一日，唐玄宗來到鹹陽狩獵，捕得一隻大鹿，回宮之後正欲宰烹，恰被張果看見了，他說：“這是一頭仙鹿，其壽已滿千歲，本是漢武帝上林苑的。”玄宗說：“你怎麼知道？”張果說：“漢武帝放生時在它左角上係了個銅牌。”玄宗命人驗來，果有一塊兩寸大小的銅牌，但因年代久遠，上麵的字跡已鏽蝕地看不清了。
唐玄宗請來精通道術的葉法善，問起張果的來曆，葉法善說：“我知道，但不能講。除非您在我死後肯免冠赤腳求張果的話，我才敢說。”玄宗答應了，葉道士才說：“他是天地初分時就出生的一隻白蝙蝠精啊。”話音剛落，果然七竅流血，倒地而死。玄宗立即起駕去張果處，免冠赤足，向張果謝罪，說完全是自己的過錯。張果道：“這小子多嘴多舌，不治治他，還會泄露天機。”玄宗哀求多時，張果才隨駕赴宮，口含清水噴在葉法善臉上，葉法善才活過來了。
不久，張果自稱年老多病，請歸恒州。他明白，錦衣玉食的宮廷不是自己的終老之地。玄宗挽留不住，賜帛三百匹，放歸恒州。張果走到恒山蒲吾縣後忽然暴卒，弟子們將他葬在中條山。玄宗聽說後，不相信張果真死了，派人開棺查驗，棺中並無人影。玄宗便在蒲吾建立了一座棲霞觀，祭祀張果老。
後世有人在張果老倒騎驢的畫像上題詩一首曰：
舉世多少人，無如之老漢，
不是倒騎驢，萬事回頭看。
傳說張果老雲遊四方時，常敲打漁鼓簡板，唱念道曲，所以人們將張果奉為唱道情的祖師爺。
此外，《獨異誌》中說張果是混沌初開時的蝙蝠精變的。《曆代神仙通鑒》則說張果是玄女的弟子。就這樣將張果越傳越神，所以在民間的影響也越來越大。
唐玄宗將張果召入宮中後見張果容顏衰老，問他說，得道之人何故如此，張果大言回答說，他乃帝堯丙子歲人，曾任侍中之職。玄宗深信不疑，不久擢為“銀青光祿大夫”，賜號“玄通先生”。
民間傳說他常背負一道情簡，倒騎白驢，雲遊四方，宣唱道情，勸化世人。所乘白驢，日行萬裏，夜間疊如紙，放於箱中，白晝以水禳之，還成一驢。
呂洞賓
呂洞賓，相傳為唐代人，姓呂名喦，或岩，字洞賓。原為唐朝宗室，姓李。武則天盡殲唐室子孫，故避禍改為呂姓。因常居岩石之下，故名岩，又常棲洞，故字洞賓。亦傳說為唐朝禮部侍郎呂渭之孫，因感仕途多蹇，轉而學道。《宋史·陳摶傳》記“呂岩為關西逸人，有劍術，年百餘歲，步履輕捷，頃刻數百裏，數來摶齋中。”是位修道有術之高道。《全唐詩》收有其詩作二百多首。據此，曆史上，呂洞賓可能實有其人。後世道教和民間為他編織了很多仙話，成為以“劍仙”、“酒仙”、“詩仙”聞名於世的真仙。傳說他得道成仙之前，曾流落風塵，於長安酒肆中遇漢鍾離，“黃粱一夢”遂感悟求其超度。經過生死財色十試，心無所動，乃得受金液大丹與靈華畢法。後又遇火龍真君，傳以日月交拜之法。宋代封呂洞賓為“妙通真人”。元代封為“純陽演政警化孚佑帝君”，後世又稱“呂純陽”。王重陽創立全真教後，被奉為“北五祖”之一，故道教又稱其為“呂祖”。
民間流傳有“呂洞賓三醉嶽陽樓度鐵拐李”，“飛劍斬黃龍”等故事。
相傳，呂祖誕辰為農曆四月十四日，道教多於此日設齋醮祈禱。
也有說呂洞賓是唐時蒲州永樂縣人，亦有說他是河中府（今山西永濟縣）人。說他出生在唐德宗貞元十四年（798）農曆四月初四日，巳時。因他出生的年月日時均為陽數，所以號“純陽子”。這一說法恐怕不妥，陰陽學將奇數認做“陽數”，偶數認做“陰數”，四月初四日皆為陰數，何謂純陽？說他母親臨產時，有異香滿室，紫雲蓋天，有一隻仙鶴從天而降，飛入帳中突然消失。隨後，他便降生了。
呂洞賓生而就有異相，雙眉斜飛入鬢，鳳眼光彩照人，鼻梁高而端正，並在左眉和左眼下都有一顆黑痣。父親對他十分鍾愛。有一天，馬祖和尚登門拜訪，父親請馬祖推算小兒日後的命運。馬祖掐指推算後說：“此兒相貌清奇，骨相不凡，自是風塵之外的人物。他日長大後，遇廬則居，遇鍾則叩，這八個字要謹記在心。”後來，他果然在廬山修行，遇鍾離權求道。
呂洞賓在幼年時期聰明過人，通曉典章百家，下筆有神，出口成章。長成以後，身長八尺二寸，脖子修長，前額寬闊，朝天鳳眼，真是堂堂儀表，與眾不同。他與多數讀書人一樣，走了科舉道路，但在幾次會試中都沒有考中，荒廢了二十多年的時間，於四十六歲那年，他又赴京城應試，依然是名落孫山。他委靡不振地獨自走進一家酒肆想借酒消愁。剛剛坐下，酒肆門外走進一位長須老道，在呂洞賓對麵坐下。那種超凡脫俗，飄逸恬淡的神態頓時打動了呂洞賓，於是，他們二人攀談起來，談得很投機，並且越來越親近。老人忽然詩興大發，向店家索取筆墨，題詞一首曰：“坐臥常攜一壺酒，不教雙眼識皇都。乾坤許大無名姓，疏散人間一丈夫。”呂洞賓看後，覺得詩意豪邁，十分敬佩老人，便請求道長高姓大名。老人微笑道：“我姓鍾離，名權。”呂洞賓聽到“鍾離”二字後，頓時想起父親經常提起的馬祖之言“遇鍾而叩”，於是心裏醒悟，要拜鍾離權為師，跟隨左右以學道。但他又對家中的妻小有些依戀不舍之情，沒有立即拜師。鍾離權已看出他的隱情，便說：“我們不必馬上入山，各自先回去，明天到我住所找我。”說罷走了，臨走時將住址告訴了呂洞賓。