一天，張遂正在長安城外的天文台仰觀星空，突然，被他派到河南陽城的一支天文測量隊的隊長南宮，匆匆趕回京城來見張遂。原來，張遂交給他的測量任務中有一項要求，就是測量各地不同的“北極高度”。因為地球是圓的，各地地平線與北極星連線的角度不同，肉眼看到的北極星的高度也就不同。怎樣測算這個角度呢？南宮不能解決這個問題，特地趕回來向張遂請教。張遂聽完南宮的話說：“這幾天，各隊都派人來京，向我提出同樣的問題。我反複思考後，做成了這把尺子，取名‘複矩’，也許可以解決這個難題。”說著，他從懷中取出“複矩”來。原來這是一把直角拐尺，角間有一弧形刻度，角頂有絲線，係著一個銅錘。一行抬頭找準了北極星，然後將拐尺舉起，長的一邊對準自己的眼睛，同時指向北極星；這時銅錘自然下垂，垂線與短邊的夾角大小可以從弧上刻的度數一目了然。張遂指著這個夾角說：“這就是地平線與北極的夾角，北極的高度也就很容易算出來。”
實際上，張遂發明的“複矩”不僅能測出北極高度，而且這個度數同時就是北半球的緯度。因為地球是圓形的，子午線穿過南北兩極，當人站在北極時，北極星正好在人的頭頂，與地平線垂直成90°；如果站在赤道時，看北極星與地平線幾乎重合，成0°。沿著子午線走，北極星的高度也就逐漸變化。用“複矩”可以測量緯度，更重要的是，有了緯度的數據就可以計算出整個子午線的長短。張遂通過實測後，計算出每度弧長132.03公裏，與現代用科學儀器測出的每弧度長111.2公裏相比，當然不很精確，但張遂畢竟完成了人類第一次實測子午線，據曆史記載，在張遂之後的90年，也就是814年，阿拉伯人才在幼發拉底河平原上進行了一次子午線的實測。
張遂在天文學上的貢獻是多方麵的，他還是世界上第一個發現恒星運動的人。這比西方天文學家發現恒星運動現象要早1000多年。
公元727年，他在剛剛修完“大衍曆”後，不幸染病身亡，當時這位偉大的天文學家隻有45歲。
1977年7月，中國科學院紫金山天文台把新發現的並被國際上承認的4顆小行星以4位中國古代科學家的名字來命名，其中一顆就是以張遂的名字命名的。讓張遂留在浩渺寰宇，觀蒼天，察星字，這是他的心願，也是後人對他最好的紀念。