歸國之後，詹天佑在鐵路工程方麵多有創新和發明，令世界為之矚目。光緒十四年（1888），詹天佑出任中國鐵路公司工程師，參與修建津塘鐵路（天津至塘沽）。詹天佑充分發揮專業特長，指揮作業，全長40多公裏的津唐鐵路，僅在80天內就完成全部鋪軌工程，提前竣工通車。光緒十七年（1891），清政府修築關東鐵路（含關內段），詹天佑升任為分段工程師。次年鐵路修至灤河，須建跨河大橋。這是一座2000餘英尺的17孔鋼橋。其中跨度長200英尺者5孔，100英尺者10孔，30英尺者2孔，共有橋墩16座，橋台2座，工程難度相當大。英、日、德工程師經過勘察，無一人敢接這項工程，詹天佑卻勇挑重擔。他仔細地勘探了灤河河床的地質構造，針對灤河水深流急的特點，采用壓氣沉箱法，修築橋墩。這在中國鐵路和橋梁修築史上是第一次，並獲成功。這一創新，大大加快了工程進度，令外國工程師驚歎不已。光緒二十八年（1902），詹天佑主持修建京漢鐵路新易支線（新城至易縣），這是中國工程師第一次獨負全責修建鐵路。在這條鐵路的修建過程中，他突破原來“路基須風幹一年才能釘道”的築路陳規，在保證質量的前提下，一邊墊路基，一邊鋪鐵軌，結果在別人認為不可能完成的限期內如期竣工。
詹天佑在鐵路工程技術上的輝煌成就，集中體現在修築京張鐵路上（北京至張家口）。
張家口是屏藩北京西北的軍事重鎮，也是重要的南北貿易要衝。為繁榮經濟、鞏固政權，光緒三十年（1904），清廷批準督辦鐵路大臣袁世凱及其會辦大臣胡奏請，撥用關內外鐵路的部分餘利，修建北京至張家口的京張鐵路。這一消息傳出後，英、俄兩國為爭奪築路權而互不相讓。因關內外鐵路餘利存在英國彙豐銀行裏，如要撥用，必須先同中英公司協商。於是他們乘機要挾，舉薦英國人擔任總工程師。俄國公使則出麵反對，聲明以往清、俄兩國有約，規定長城以外鐵路不能由第三國承建，並乘機脅迫清廷指派俄人擔任總工程師。麵對這一情況，清政府決定自籌資金，自行設計修築京張鐵路。
京張鐵路雖然不長，但路段地形十分艱險複雜。按照歐美工程師的設計，南口關溝段要在懸崖絕壁上修起一條極陡的鐵路，其險無比；穿越八達嶺需要開鑿一條2000多米的隧道，工程之艱難險阻，世界罕見。為此各國報紙議論紛紛，有的甚至諷刺挖苦道：“中國能夠修此路的工程師尚未出生。”還有人說：“中國人想不靠外國人自己修鐵路，就算不是夢想，至少也要過50年才能實現！”
光緒三十一年（1905），京張鐵路開始興修。在袁世凱大力舉薦下，清政府任命詹天佑為京張鐵路總工程師兼會辦。詹天佑上任之後，立即組織起一支精幹的工程技術隊伍，投入到緊張的設計、勘探工作。他們很快擬定了線路方案——由豐台穿過南口關溝，經居庸關八達嶺往張家口，全線長200公裏。其中南口關溝路段地形複雜、山勢斜度大，工程難度之大、任務之艱巨，前所未有。但強烈的民族自尊心給了詹天佑巨大的動力，也激發了其卓越的創造力。
南口關溝段的設計施工，解決的關鍵是鐵路爬高和開鑿越嶺隧道。南口關溝與八達嶺高低相差180尺，如果按照一般的設計要求—火車爬山時，每升高一尺，至少有100尺的線路；但整個南口關溝段隻有33裏，在短距離內將鐵路大大抬高，按一般的做法勢必要增加彎度和長度，從而大大增加工程的負擔。而詹天佑打破常規，根據實際可能，采用了33‰的爬高坡度—即每修築1000米線路就墊高33米。而為了克服由此引起的火車上下陡坡的困難，他采用兩輛機車推拉列車的辦法，這樣既有效地減少了鐵路的長度和彎度，又保證了行車的安全和速度。
在青龍橋車站附近，修築了一條“人”字形鐵路，也用很陡的坡度，使火車先往西走一段，升高一層，然後再往東走一段，再上升一層，因而在原來有限回旋餘地的半山中，將鐵路抬高，同時也就將隧道的高度提高，減少了隧道的長度。這樣八達嶺的隧道長1091.18米，比外國工程師的設計減少了一半，大大節省了資金，縮短了工期。在開鑿八達嶺隧道時，詹天佑又改變了傳統開鑿隧道僅從兩端施工的做法，采用中部鑿井法，從山頂打下兩口豎井，到達路基高度，再分兩頭向洞口開鑿。這樣有6個工作麵可以同時施工，僅用18個月的時間就打通了隧道，使工期縮短一半。
宣統元年（1909）七月，京張鐵路全線竣工。原計劃6年完工，結果隻用了4年。它的全部工程都是由中國人自己修建的，共用工程款項6935086兩白銀，比預算節省356774兩白銀，是當時成本最低的鐵路幹線之一。京張鐵路修築成功，震驚了外國人，使中國人揚眉吐氣，極大地增強了民族自信心和自豪感。
從光緒十四年（1888）起，詹天佑先後從事津榆、津盧、萍醴、新易、潮汕、滬寧、滬嘉、京張、張綏、津浦、洛潼、川漢、粵漢、漢粵川等鐵路的修築，為開創和發展中國鐵路事業做出了傑出貢獻。