後來，他前往納塔爾上大學，畢業後從事教育工作達17年之久。1936年他被選為格魯特維爾酋長，他的家族從他祖父開始就一直擔任酋長職務。
繼任酋長期間，他走訪部落的各個角落，更深刻地了解了黑人的艱難生活。他無數次親眼看到，在他管轄的地區，白人政府製定的不合理的土地製度以及經濟上的剝削，造成了一係列悲慘情景。這促使他更堅定地走上政治鬥爭的道路。
1946年，他當選為“土著代表議事會”的成員，從1951年開始，任非洲人國民大會的主席，率領一群有正義感的年輕人堅持鬥爭。在1952年的“蔑視運動”中，他與曼德拉、西蘇魯等人一起，始終走在隊伍的最前列。
作為非洲人國民大會主席，他所到之處受到人們的歡迎，影響力甚至超過曼德拉。極大的影響力讓他和曼德拉一樣，成為政府黑名單上的一員。
政府為了降低他的影響力，對他發出最後通牒：要麼退出非洲人國民大會，要麼放棄祖魯的格魯特維爾地區酋長職位。
往前一步是不知未來的路，退後一步則是“人間大道”，起碼不用整日奔波、辛苦。在正義感的驅使下，艾伯特毅然選擇了前者，並堅信“非暴力是唯一可以使用的非革命的、合法的、人道的方法”。
他以實際行動極大地鼓舞了當時正在逐漸降溫的“蔑視運動”，人們對他的行為報之以熱烈的歡呼。正是由於他的非凡勇氣和卓越貢獻，在1952年底的非洲人國民大會上他才被選為主席。但隨後的多次禁令和個人的健康等原因，使他難以擔任實際領導工作。這樣，副主席曼德拉勇敢地站出來，挑起了這副重擔。
自由憲章
1955年，非洲人國民大會迎來一個好消息，在紐約聯盟神學院做訪問學者的馬修斯教授回國了。回國之後，他參加了非洲人國民大會，在內部會議上，他提出建立一個國民議會的建議。所謂的國民議會就是人民代表大會，要代表本國的全體人民，不分種族和膚色，為將來的民主南非草擬出一部自由憲章來。
這個建議和曼德拉的構思是一樣的，這充分說明了這個建議的正確性。
這個建議得到曼德拉的讚同，也得到了艾伯特的讚同。在回憶這件事的時候，曼德拉開懷大笑，他說：
兩個人對非洲人國民大會的未來藍圖的建議驚人地一致，這絕對不是巧合，而是大勢所趨……總而言之，我們主要不是獻身於反對某種東西，盡管這是目前形勢強加於我們的。我們是被為了某種東西而工作的理想所激勵。
這表明，非洲人國民大會的主要任務並不是破壞，而是建設。
非洲人國民大會關於未來藍圖的倡議，很快就得到了南非印度人大會、有色人種組織和民主人士大會的響應。有色人種組織和民主人士大會與以往的社會團體有所不同，他們主要是由崇尚民主平等的白人組成的。很明顯，他們代表著一群白人的信仰，他們的出發點很簡單，準備將非洲人當成平等的人來看待。
幾乎是不約而同地，這些組織紛紛接受了關於共同籌備人民大會的建議，並在之後不久采取了許多有效的措施。經過商討，決定專門成立一個全國行動委員會，稱為南非工會大會。
南非工會大會包括8個非洲人工會、3個有色人種工會和1個白人工會，南非工會大會的成立，標誌著在遭受政府嚴禁之後，非洲人的社會運動又恢複了活力。在這個過程中，這些白人與曼德拉等人整天在一起工作，甚至連吃住都在一起。
在這期間，西蘇魯還曾到訪過中國，與新成立的中華人民共和國工會（中華全國總工會）負責人交換了意見。
這個委員會一成立，即致函南非國內的各政黨、工會、社會團體和宗教團體，建議支持召開人民大會和派代表參加全國行動委員會。頗具諷刺意味的是，馬蘭政府的總理也收到了一封署名為“南非工會大會”的來信。
為了方便交流，南非工會大會還采用了多種語言發表意向書，其中有英語、祖魯語、科薩語、索托語和阿非裏卡語，共同發表《告南非聯邦全體公民書》。
在種族歧視的南非，一時間很多人都在談論傳單上的種種問題，如“如果你能製定法律的話，你會怎麼辦？你怎樣著手把南非建成各族人民的樂園？”同時，各種各樣的回答紛紛被送到了南非工會大會。
人們普遍的回答是抗議《班圖教育法》《通行證法》等新近頒布的幾項法律，同時，這些非洲土著黑人還要求有更多的耕種和放牧設備，要求在議會中擁有更直接的代言人，享有平等的教育權利。
南非工會大會對人們提出的要求進行了認真篩選之後，委員會的人員起草了一份《自由憲章》，在人民大會成立前，曼德拉、西蘇魯和其他受禁製的領導人對草稿進行了探討和研究。
這個時候，馬蘭政府適時地出現了，目的直截了當——製造麻煩，如不允許遠道而來的代表們乘坐公共汽車，必須嚴格執行《通行證法》的相關規定等。幸運的是，這並沒有阻止大會召開。
這次的準備工作做得十分充分。南非工會大會發出了很多宣傳單，宣傳單中還附有一份像詩歌一樣的邀請函，用簡單明了的語言向廣大人民群眾發出了親切的邀請：