明德學校創立時，新教育雖已醞釀了三四十年，但仍在萌芽時期。公立學堂，雖有洋務派大力支持，無奈頑固守舊勢力實在太過強大，隻零零星星地成立了幾所；而私立的教育場所，仍停滯在書院、私塾的階段。以後與明德齊名的南開學校，創立於1904年，比明德晚一年。所以明德學堂的創立，在近代教育史上，是一件很重要的事。由於明德學堂繼承了時務學堂的傳統，在創辦12年後，毛澤東在《湘江評論》上這樣寫道：時務既倒，明德方興。
“人生大不幸，遇到胡子靖”
辦私立學校，最困難的就是經費的籌措。胡元倓辦明德學堂的本錢，是龍侍郎捐助的兩千元大洋。這兩千塊大洋沒用上三個月就沒有了。幸好這個時候，茶陵籍翰林譚延闓來校參觀，有感胡元倓辦學的不易，並被胡元倓辦學的初衷打動，慷慨捐獻黃金千兩作為學校經費，並承諾每年承擔英文教員薪金一千元。但是隨著學校的發展擴大，這些錢仍然是杯水車薪。
明德創辦時，招中學兩班，隨即又招速成師範一班，第二年附設高等小學，以後又增設中學補習科，中學預科，東語、英文、理化、銀行保險、法政等專修科。並在南京、上海等地設立分校。1912年，又創設明德大學於北京（1916年因抗議袁世凱稱帝停辦）。為讓學校運轉下去，並且繼續發展擴大，胡元倓長年一把雨傘一個青布包袱出門四處告募，時人有言“人生之大不幸，碰到了胡子靖”，也有人因此又稱他南武訓或“胡九叫化”。
“胡九叫化”這個綽號緣自於人們對胡元倓的欽佩，而非嘲笑。
湘潭人袁樹勳是胡元倓的同鄉，1901年至1905年在上海任道台。胡元倓認定袁是有錢之人，而且，因為袁在最先受歐風美雨侵襲的上海做官，應該會很支持自己辦學。所以，胡元倓找到了袁。出乎意料的是，袁在胡元倓說明來意後，立即就回絕了。一盆冷水潑下，胡元倓差點崩潰。就這樣回長沙去？老師們的薪金還沒著落呢！胡元倓硬是腰杆一挺，雙膝跪了下去。這回輪到袁樹勳大出意外了：“這個胡子靖，這個叫化子！”這一跪，徹底把袁樹勳征服了——袁樹勳答應捐款一萬元。
有一次，胡元倓在北京求見國務總理熊希齡，希望熊希齡給明德學堂撥點款。連去了三次，都沒碰上。胡元倓不甘心，不怕別人笑話，也不怕別人把他轟出來，硬是把被褥鋪蓋搬到熊希齡官邸的傳達室。終於如願以償地籌到了款。
為籌款，胡元倓還遠渡南洋。在去南洋的輪船上，胡元倓威脅自己：籌不到款就跳到海裏去！
1935年，胡元倓在詩集《耐庵言誌》的序言裏說到了他四處籌款的事：“明德學校成立，今十有二年矣。其初三年，元倓與萸溪（指龍紱瑞，明德創辦人之一，龍侍郎的兒子）同任校事，不敢一日離；後經組安（譚延闓）、笏棠（廖名縉，民國初年任國會眾議院議員，做過熊希齡的助手，曾任湖南大學的前身工業專門學校的校長）兩友擔任校內事，倓遂終身為校款奔走。”這終身，實際上有38年，其中最艱苦的，是前26年。在這26年中，回湘隻9次，在家過年隻2次，在外過年竟然有24次。據《言誌》所記，南京三年，上海兩年，蘇州一年，杭州一年，旅途兩年，一年在江輪上，一年在火車上。1908年農曆年底，胡元倓在詩中記錄了他在外麵籌款的窘境：途窮臘盡成亡命，風雪橫江倍愴神。