公元724年4月末的一天，將近正午時分。唐代京都長安城的麗正殿書院的院子裏人頭攢動，因為這裏將要進行一次“立表測影”天文測量，而且主持這項測量的是有名的高憎一行，所以吸引了許多人。一則“立表測影”是難得見到的問況還可以一睹高僧一行的風采。
一行是這位高僧的法名，他的俗名叫張遂。張遂小時候就勤奮好學，尤其喜歡研究天文學和數學。到期了青年時代，他的求知欲望更強了。有時，為了搞清楚一個疑難問題，常常不辭辛勞，到很遠的地方去向有學問的人請教。
當時，在長安城南，有一座規模宏大的道觀——立都觀。觀內的藏書有萬卷之多，更有一位學問很深的道長，叫尹崇。衝著這兩條，好學的張遂就成了這裏的常客。尹崇很喜歡這位好學的青年人，倆人很快就成了朋友。張遂經常向尹崇討教，又從尹崇那裏借閱許多藏書，學問上的長進非常快。
有一次，張遂向尹崇借閱一部《太玄經》。這是西漢時的大學問家楊雄寫的哲學書，非常深奧難懂。幾天後，張遂讀完了這部書，還寫了一篇心得文章《義決》，並根據自己的理解繪製了一幅《大衍玄圖》。當張遂去還書時，尹崇很是驚訝，說：“這部書我曾經讀了一年多，還沒有完全讀通，你怎麼隻讀了幾天就不再鑽研下去了呢？”
張遂回答說：“我已經把書讀完了，並且寫了心得，畫了一幅《大衍玄圖》，正想請您指教呢！”說著把文章和畫遞給尹崇看。尹崇看了文章和圖，連聲稱讚張遂是“顏回再生”。顏回是孔子最有才華的學生，後來人們就把才華出眾的青年比作顏回。從此，張遂作為一個青年學者的名聲，很快就在長安城裏傳開了。
那時，正是女皇武則天當政，武則天的侄子武三思野心勃勃，一心想繼承皇位。所以平時結吉交名流，想借此來抬高自己的名望和身價。張遂出了名，自然成了武三思拉攏的對象。張遂是個正直的青年，不願卷入皇室權力鬥爭的旋渦中去，為了躲避權貴的糾纏和迫害，便跑到河南嵩山腳下的嵩嶽寺出家當了和尚，拜嵩嶽寺主持高僧普寂為師，取法名為“一行”。一行每天除了學習佛經，打坐修行外，就是自學天文、數學。普寂越來越覺得這個弟子非同一般，於是就對他說：“一行，我看你是個人才，不是我教得了的，為了讓你增長見識，將來好有更大的成就，你還是出去遊學吧！”
張遂拜別了師父，按他的指點到浙江天台山國清寺去拜師學習。兩三年裏，一行讀完了國清寺收藏的《周髀算經》、《九章算術》、《海島算經》、《孫子算經》、《夏侯陽算經》、《張丘建算經》、《綴術》、《緝古算經》等珍籍。直到公元710年，才重新回到嵩嶽寺。
就在一行在國清寺埋頭攻讀的時候，唐朝的政局也發生了重大的變化，先是武則天病死，接著是唐中宗李顯被毒死。公元710年，李旦即位。不久就讓位於李隆基，這就是唐玄宗唐明皇。唐明皇是個有為君主，登基後連連下求賢詔書，加上張遂的祖先曾對朝廷有功，張遂就被征調進京，極受唐明皇的器重，讓他負責改革曆法，製造天文和計時儀器。公元724年，一行奉命領導了一次全國規模的天文測量。各支測量隊奔赴天南地北，觀察日影、星辰的變化，並把測得的數據全部及時送回長安，由張遂彙總計算。