葉劍英則一方麵與鄧小平、陳雲、鄧穎超等老一代無產階級革命家保持經常聯係，征求他們對如何解決江青集團的意見，一方麵經常和華國鋒接觸，堅決支持他頂住江青集團篡黨奪權的一切無理要求，決不能讓江青集團篡黨奪權的陰謀得逞。
在粉碎江青集團的生死搏鬥中，中央政治局委員汪東興是一個關鍵人物。他長期擔任中央辦公廳主任兼中央警衛局局長，是中央警衛部隊八三四一部隊主要負責人，在粉碎“四人幫”的鬥爭中具有舉足輕重的作用。華國鋒、葉劍英在分別與汪東興談話中，了解到汪東興在粉碎“四人幫”問題上，是堅決站在黨和人民根本利益立場上的。他們一致認為，為了黨和人民的根本利益，為了中國共產黨和中國社會主義事業的前途，一定要解決“四人幫”的問題，至於個人的命運就不考慮了，要考慮黨和國家的命運。
與此同時，葉劍英作為中共中央副主席、中央軍委副主席，還與人民解放軍軍事科學院主要負責人粟裕、宋時輪，總參謀部主要負責人楊成武，總政治部主要負責人梁必業，空軍主要負責人張廷發、吳富善，海軍主要負責人蕭勁光、蘇振華，北京軍區主要負責人傅崇碧，北京衛戍區主要負責人吳忠、吳烈等，保持著密切聯係，要求他們加強戰備，掌握好各總部領導機關、陸海空軍和海防邊防，掌握好部隊，提高警惕，隨時準備對付一切突發事件。
9月21日，中共中央軍委副主席聶榮臻委派革命戰爭年代的老部下、中國人民解放軍副總參謀長楊成武去找葉劍英，建議“采取果斷措施”，解決“四人幫”的問題。
華國鋒下定解決“四人幫”問題的決心後，委托李先念去找葉劍英。李先念向葉劍英談了對形勢的看法和華國鋒的意見。
葉劍英說，我們同他們（指“四人幫”）的鬥爭是你死我活的鬥爭，隻有你死，才能我活，沒有調和的餘地了，要徹底解決他們的問題，還要有周密的部署。
隔了一天，葉劍英去拜訪華國鋒，兩人單獨進行長談，詳細討論了對“四人幫”及其主要成員實行隔離審查的時間和措施，研究了向中共中央政治局其他成員通報的步驟以及接管重要新聞單位的人選。
這一期間，華國鋒、葉劍英、李先念等同誌分別進行了多次商量，同中共中央政治局的多數同誌進行了個別溝通。
華國鋒曾經說：“葉副主席同‘四人幫’鬥爭是很堅決的。他找到我那兒，和我商量，他說，我們和‘四人幫’的鬥爭是你死我活的鬥爭。在那段時間裏，我和政治局不少同誌都進行了接觸，進行過醞釀。”
在中共中央政治局多數同誌取得解決“四人幫”問題的一致意見後，如何選擇適當的時機、采用適當的方式去解決“四人幫”呢？
毛澤東逝世後，許多老一代革命家、黨政軍領導幹部、黨員和人民群眾，都十分為中國的前途和命運擔憂。姚依林回憶說：陳雲在家裏琢磨的是在即將召開的十屆三中全會上，有無可能利用合法鬥爭打倒“四人幫”？他把中央委員名單反複研究，算來算去，感到十屆三中全會上“四人幫”的力量還是雄厚的，何況毛主席剛剛去世，黨內因循守舊、封建傳統思想仍成風氣，恐對局勢敢怒而不敢言者大有人在！三中全會上以合法鬥爭打倒“四人幫”是無把握的事。陳雲當時和葉帥時有來往，葉帥住在西山。他們恐怕情況暴露，常令孩子們傳話。葉帥掌握著軍委的部隊、西山警衛部隊……葉帥和陳雲研究要打倒“四人幫”隻有兩個辦法：一是大會合法鬥爭，二是武裝解決。通過十屆三中全會解決，算來沒有把握，葉帥堅決同意采取第二種辦法，他下了決心。