東漢時，敦煌郡東部有個淵泉縣，這裏泉水潺潺，綠草茵茵。
粟麥菽麻，碧綠蔥蘢。草原無際，牛羊成群。縣城裏有一家姓張的豪門顯族，主人就是有名的戰將、學者——張奐。他生有三子。
長子張芝，字伯英，號張有道。次子張昶，字文舒。三子張猛，字叔威。兄弟三人從小受到詩書禮教的熏陶。雖然張家生活十分優裕，但張芝並未養尊處優，毫無紈絝習氣。自孩提時起，就操守高節，有誌向，決心做一番留名於世的功業。張芝從小看到父親仕途坎坷，雖戰功顯赫，但屢遭奸佞閹宦的誣陷，幾乎喪命。因此，他對官場爾虞我詐深惡痛絕。立誌不入官場，走學業立身的道路。
張芝七歲時，父親請了一位德高望重、很有才學的老師，不僅教他識字，還教他描紅練字，不僅啟發他刻苦用功，還教他如何做人。三年之後，又送張芝到繁華熱鬧的敦煌郡學館讀書。郡學館坐落在敦煌城北，學館院外有個大水池，水清見底，波光粼粼。四周綠樹環抱，濃蔭蔽日，池旁長滿花草，十分清靜。從小縣城來到大郡府，張芝雖覺得新鮮有趣，燈紅酒綠，但知道學業要緊，住在學館，從來不到大街上去逛馬路，看熱鬧，更不去遊山玩水，隻是專心致誌地埋頭讀書練字。
每天下午，張芝都要在清靜的水池邊練習毛筆字，這已是常規。池邊沒有桌凳，就搬來方正的石塊當書桌，小石條當凳子。當時的造紙術剛發明不久，生產數量有限且很昂貴。張芝主要‘用竹簡來練習書法。搬來一捆捆竹簡練字，過上幾天，寫過的竹簡堆得像座小山，他就放進池中浸泡，然後涮洗幹淨，晾幹了再寫。在竹簡上練寫行書、楷書還流暢，但練習草書就不順手了。為此，他心中不快。
正在他苦悶之際，啟蒙老師帶著女兒看他了，並帶著父親寫給他的一封信和一個包袱。父親在信中告訴他，啟蒙老師願把女兒許配於他，隻要見過麵後雙方同意，便可定親。雙方父母都不強求成婚。並托老師給他帶來白綢子三匹，供練草書用。原來老師的女兒自小也愛練字，其功底深厚，隸書技藝尤為精湛。張芝對她早有所聞，今日相見，姑娘貌似天仙，又喜愛書法，正和他心心相印。數日後，兩人情投意合，結為連理。
從此，張芝就用白綢子練習草書，比竹簡好萬倍，技藝長進很快。用竹簡練習楷書，在夫人的指教下，也常練習隸書。每天堅持練習三種字體，從不間斷。竹簡、白綢用光了，但書寫興趣正濃，來不及去洗，就把替換的衣服也用來寫字練筆了。無處再寫了，把竹簡、綢子、衣服放在池水中洗淨，晾幹後再寫。這樣過了五年，清清的池水變成濃濃的墨池，用筆醮水就可以寫出墨黑的字來。因此，人們就把這池塘叫做“張芝洗墨池”。
張芝的書法道勁，技巧嫻熟，能行書、隸書，尤其擅長草書，精心研討崔（崔璦，東漢學者，草書大家，著有<；草書勢》）杜（杜操，以善章草出名）筆法，擺脫舊俗，獨創一體。他寫的草書一筆到底，連綴不斷，氣脈貫通，好比驚蛇出草，飛鳥出林，後世人稱“一字飛白書”。張芝的書跡保存在《淳化閣帖》的有五帖。
並著有《筆心論》，今已佚。曆代書法家對張芝都很尊重，稱他為“草聖”。