久而久之，從老師那裏請教有關“物競天擇”的學問，成了吳有訓最大的興趣，無論刮風下雨，春夏秋冬，從不間斷。有一次，先生走進吳有訓的宿舍，發現他的枕頭兩邊擺滿了各種各樣的書，即隨手拿起一本，書名為《物理常識》。先生一頁頁地翻看著，看到許多地方，被吳有訓用幾種不同的筆畫了杠杠，有的還做了簡單的注解。從這裏，老師看到了吳有訓那種刻苦認真、孜孜不倦地學習的精神。他也清楚地看到，吳有訓酷愛物理，並有天賦……
吳有訓讀書學習，喜歡聯想，由此及彼，由表及裏，甚至能漫無邊際地展開想象的翅膀。這與他特別喜愛“物競天擇、適者生存”的道理密切相關。
有一次學了《地理學》上地球的經、緯線後，十分好奇的吳有訓，居然會聯想到母親織布機上織就的布，那不就是由經線和緯線組成的嗎？他放學回家後，趁母親不在，就坐在她的織布機前，這裏摸摸，那裏弄弄。回想著母親織布時的樣子和手勢，踏動木機，穿動木梭，經經緯緯地試織了一段布。事後，竟然未被精明的母親發現。這事曾使他激動了好幾天。他覺得，世界上許多事物都是由經和緯組成的；而通過自己的勞動，就能創造一切。
就這樣，吳有訓有了一個堅實的文化基礎。之後，吳有訓以其堅韌、刻苦的努力，一路過關進取，直登科學的殿堂。
已不是小孩的吳有訓，在社會的急劇變革之中，對於人生奮鬥目標，開始有了自己的決心和打算。吳有訓把孫中山先生曾經的一段話始終牢記在心中：“國民革命需要兩路大軍，一路舉行起義，建立民眾政權；另一路則學習世界先進科學技術，改變我國貧窮落後的麵貌。”
當時的祖國，在吳有訓眼中，多是貧窮、落後、愚昧和“東亞病夫”之類。作為中國人，對改變祖國麵貌負有不可推卸的責任。吳有訓決心埋頭苦幹，並為之奮鬥終生。
到省城上中學
帶著一身泥土氣息的農家子弟吳有訓，先到縣城，繼到省城，少年時代幾乎全是陪伴著書本度過的。由於家境本不富裕，他十分珍惜這來之不易的機會，始終保持著那股謙虛好學、奮發向上的勁頭。
吳有訓在本村堂叔吳起鑾老師所辦的私塾中接受過啟蒙教育以後，年齡稍長，就進了高安縣一所小學。讀書期間，他經常要分擔家庭的一部分體力勞動。讀完小學後，按他的家境狀況，本無力再繼續念書。但吳有訓從小喜好學習，不但非常刻苦用功，且天資聰穎，一向成績出眾。為滿足他強烈的求知欲望，父母在親友的幫助下，決心送他到省城南昌上中學。
吳有訓進入南昌二中念書。南昌二中係私立心遠中學與瑞州中學合並而成。而創辦於1901年的心遠中學，與天津的南開中學、湖南長沙的明德中學，係當時中國最好的3所私立新學。中共早期領導人張國燾（江西萍鄉人）亦是南昌二中的學生，後考入北京大學。此外還有鐵路專家程孝剛、醫學家黃家駟、出版家鄒韜奮、政界人物饒漱石、國民黨宣傳部長程天放、國軍總參謀長桂永清等，也是該校的校友。
吳有訓時年19歲（1916年）畢業於省立南昌二中。如同當時許多家境貧寒而又想繼續求學的青年一樣，他把升學的目標對準了公費的南京高等師範學校。同年，他順利考入這所著名高等學府的理化科。
南京高師的前身，是清朝兩江總督張之洞創辦於1902年的三江師範學堂，以當時兩江總督管轄範圍以界，招收長江下遊的江西、安徽、江蘇三省子弟入學，故稱為“三江”。後又改名為兩江師範學堂。南京高師教務主任郭秉文，訓育主任劉伯明、陶行知、楊杏佛、胡剛複等，皆一時師資優佳之選。
考入南京高師及留學美國
1916年7月，吳有訓從江西省立第二中學畢業，同時考入南京高等師範學校。南京高師地處古都南京市四牌樓地區，坐落在雞鳴山南麓的明代國子監原址上，當時與北京高師、武昌高師、廣州高師並列為中國最早成立的4大國立高等師範學校。
吳有訓當年之所以投考南京高師，是與許多家境比較貧寒的學生出於同樣的考慮：一方麵是因為這所學校名師薈萃，有較高的聲譽；另一方麵，它是一所師範學校，一般不收學費，在此求學，可以大大減輕家庭的經濟負擔。
當年的南高師，以培養新式老師為職責，學製為4年（預科1年、本科3年）。吳有訓就學於該校的理化部。當吳有訓升入三年級時，學校裏來了一位剛從美國哈佛大學獲得博士學位的年輕教師，他就是日後成為中國著名物理學家的胡剛複先生。
胡剛複先生是中國最早從事X射線研究的學者，具有較高的學術水平。他剛從美國歸來，比較熟悉國外的最新研究狀況。吳有訓在胡剛複的影響下，開始接觸到物理學前沿的知識，逐漸培養起對X射線研究的濃厚興趣，這對他日後的成長起了很重要的作用。
大學時代的吳有訓，並非一個在各方麵都出類拔萃的學生。但他在學業上刻苦鑽研，一絲不苟，並且鍥而不舍。吳有訓在這4年，就已表現出一種不喜空談、崇尚實幹的精神。他抱定科學救國的理想，而這一點也貫穿了吳有訓的一生。