隨著小生意的一步步壯大，賈尼尼的資本也越積越多，於是他開始轉向金融行業，因為他在與農民的交往中，看到農民們為了有錢買生活和生產用品，他們不得不向高利貸者借錢，但高利貸者的利息是非常高的，造成高利貸有錢賺的原因是當時的銀行不肯貸款給貧苦的農民。由此，賈尼尼無償貸款給這些農民，並由此從農民手中獲取了下一季收獲的買賣合同。
賈尼尼22歲那年，娶了一個富商的女兒為妻。不久後，嶽父去世，賈尼尼繼承了他的遺產。有了這筆資金，賈尼尼開始投資一家類似信用社的小銀行。在他的銀行中，連同他自己一共有10個人，大家合股開辦，其中有九個人都是意大利的移民，因此銀行又叫做“意大利銀行”。
由於賈尼尼的銀行是小銀行，因此他沒有設立大股東，董事每人認100股為限，從一些小事上募集資金，其中包括了魚販、菜商、麵包店、餐館、藥店、理發店、油漆店、水電行的老板和鄉下農民等。由於銀行的經營對象並非是那些有錢的富人，而是這些普通的民眾，很快意大利銀行的招牌就在民眾中迅速地傳播開來。正是由於賈尼尼從這些最普通的民眾為經營物件，從一些小業務上開疆拓土，很快就打造出了一片新的領域。
賈尼尼把工作的重心放在小客戶上，在他的銀行裏，小業主和農民能不用擔保獲得25美元低額貸款。賈尼尼的做法無疑扶持了農民和小業主，而這些人要是賺了錢，他們就會成為意大利銀行的忠實儲戶。
1906年，舊金山發生了舉世震驚的大地震。在那些瓦礫堆上，失去家園的人們痛哭著，茫然若失。州政府發布了銀行封鎖令，地下金庫的建築受到損傷，處於動彈不得的狀態。在這種情況下，賈尼尼做出了一個大膽的決定：銀行露天開業。意大利銀行露天開業的消息傳開後，出乎意料的是，來存款的人竟比貸款的人還多。從此以後，意大利銀行顧客的範圍大大地擴大了，許多非意大利籍的移民也把錢存到意大利銀行。到這一年年底，他的銀行存款總額已超過150萬美元；而貸款總額則達到180萬美元。股東們分到5.5%的紅利。此後，賈尼尼又實行大銀行資產的措施，使資產總額達到200萬美元。舊金山大地震對意大利銀行來說是一個轉折點，由此意大利銀行成為美國獨當一麵的商業銀行。
沒過幾年，意大利銀行就蓋了屬於自己的金融大廈。隨後，賈尼尼開始收購、兼並一些經營不善的地方銀行。當時，意大利銀行的分行數量達到24家，總資產達9500萬美元。在加州，意大利銀行的存款額居第四位，而它的分行數量則居全美國第一位。1927年，賈妮妮開始進攻華爾街，這時，已成立控股公司的意大利銀行企業，總資產已達2.2億美元。他先後收購了屬於華爾街的布魯林克商業交換銀行和華爾街中級投資公司。之後，又收購了舊金山的自由銀行和洛杉磯的商業銀行，這樣，賈尼尼成了當之無愧的世界金融巨頭。
賈尼尼從一個毫不起眼的地方崛起，從一件件毫不起眼的事情逐步發展壯大，最後從一個賣菜的小夥子登上了全美國第一大銀行總裁的位置，成為了全美掌握財富最多的人，是得益於他從一步步做起，積少成多啊！