由於家庭環境不錯，於謙有著自己的書齋，他就在這裏度過了自己的童年時光。與當時的所有讀書人一樣，於謙也是從四書五經開始自己的求學生涯的。
說老實話，像四書五經這種東西是很容易培養出書呆子的，但於謙似乎是個例外。他十分上進，讀書用功刻苦，卻從不拘泥於書本上的東西，除了學習考試內容，他還喜歡閱讀課外書籍（如兵法等）。曆史告訴我們，喜歡看課外書的孩子將來一般都是有出息的。
就如同現在的追星族一樣，於謙也有著自己的偶像，他把這位偶像的畫像掛在自己的書齋裏（此舉比較眼熟），日夜膜拜。
有一次，教他讀書的先生發現他經常看那幅畫像，便好奇地問他為什麼這樣做。
於謙聞言，立刻正色回答：“將來我要做像他那樣的人！”
畫像上的人物就是文天祥。
除此之外，於謙還在書齋中寫下了兩句話作為對文天祥的讚詞：
殉國忘身，舍生取義；
寧正而斃，不苟而全！
在我看來，這正是少年於謙對自己未來一生的行為舉止的承諾。
三十餘年後，他用生命實現了自己的承諾。
永樂十九年（1421），於謙二十三歲，此時的他已經鄉試中舉，即將赴京趕考。
他將從此告別自己的家，告別江南水鄉的故土，前往風雲聚彙、氣象萬千的北京。
前路艱險，但於謙卻毫無怯意，他明白，一個更為寬廣的世界在等待著自己，實現平生抱負的時候到了。
於謙收拾好行李，告別家人，遙望前路漫漫，口吟一詩，踏上征途。
拔劍舞中庭，浩歌振林巒！
丈夫意如此，不學腐儒酸！
於謙，天下是廣闊的，就此開始你波瀾壯闊的一生吧！
在京城的這次會試中，於謙順利考中進士，並最終被任命為禦史。在之後的宣德元年的朱高煦叛亂中，於謙以其洪亮的聲音、嚴厲的詞句、深厚的罵功狠狠地教訓了這位極其失敗的藩王，並給明仁宗留下了深刻的印象。
從此，於謙走上了青雲之路。
宣德五年（1430），明宣宗任命於謙為兵部右侍郎，並派他巡撫山西、河南等地。這一年，於謙隻有三十二歲。
年僅三十二歲，卻已經位居正三品，副部級，實在不能不說是一個奇跡，於謙也成為了他同年們羨慕的對象。
這當然與朝中有人賞識他是分不開的，而著力栽培，重用他的正是“三楊”。
像楊士奇、楊榮這種久經宦海的人自然是識貨的，於謙這樣的人才逃不過他們的眼睛。事實上，當時確實有人對於謙升遷得如此之快表示不滿，而楊士奇卻笑著說：“此人是難遇之奇才，將來必成棟梁！我是為國家升遷他而已。”
奇才不奇才，棟梁不棟梁，也不是楊士奇說了算的，隻有幹出成績，大家才會承認你。
於謙就此離開了京城，開始了他地方官的生涯，不過他估計也沒有料到，這一去就是十九年。
在這十九年中，於謙巡撫山西、河南一帶。他沒有辜負楊士奇的信任，工作兢兢業業，在任期間，威望很高，老百姓也十分尊重他，更為難得的是，他除了有能力外，還十分清廉。
正統年間，王振已經掌權，他這個人是屬於雁過拔毛型的，地方官進京報告情況，多多少少都會帶點東西，即使是些日常用品，王振也來者不拒，讓人哭笑不得。可是於謙卻大不相同，他是巡撫，權力很大，卻能夠做到不貪一針一線。不但自己不貪，也不讓別人貪。