Cumhuriyet´in kuruluş aşamasında Siyasal İslam´ın ilk muhalefeti, Birinci Meclis´te Mustafa Kemal´in başkanlığındaki ?Birinci Grup?a karşı, Trabzon mebusu Ali Şükrü beyin başını çektiği ?İkinci Grup?tur.
Birinci Meclis´teki kozmopolit milletvekili yapısı, Mustafa Kemal´i disiplinli, Batıcı ve ileride sözünü dinleyecek bir grup kurmaya itmiş ve 10 Mayıs 1921´de tanıdığı, bildiği ve güvendiği kişilerden oluşan I. Anadolu ve Rumeli Müdafa-i Hukuk Grubu´nu (Birinci Grup) kurmuştur.
Mustafa Kemal´in ?Birinci Grup?una karşı Ali Şükrü Bey, Hüseyin Avni Ulaş, Selahattin Köseoğlu, Hacı Tahir Efendi, Vehbi Efendi, Mehmet Şükrü Bey gibi farklı görüşlü kişilerden oluşan II. Anadolu ve Rumeli Müdafa-i Hukuk Grubu (İkinci Grup) kurulmuş ve zamanla İkinci Grup´un etkinliği ve sayısı Birinci Grup´u geçmeye başlamıştır.
Mustafa Kemal, Nutuk´ta İkinci Grup hakkında şunları söyler: ?Muhalefet düşüncesinin ana kaynağı, Müdafa-i Hukuk Grubu tüzüğünün temel maddesindeki ikinci noktaydı. Yani hükümet kuruluşunun Teşkilât-ı Esasiye Kanunu´na uygun yapılması meselesi. Programın ilk maddesinin son fıkrası, duygu ve düşüncelerde tam bir uyuşma sağlanmasına sürekli bir engel olarak kaldı. Bu sebeple grup içinde de görüş ayrılıkları ve disiplinsizlik baş gösterdi. Bir takım kimseler gruptan ayrıldı. Ayrılanlar dışındakilerle birleşerek grubu yıkmaya çok çalıştılar. Alınan tedbirler buna engel oldu. Sonunda İkinci Grup adıyla yeni bir grup oluştu. Bu grubu oluşturanlar, memleketteki Anadolu ve Rumeli Müdafa-i Hukuk Cemiyeti´nden ayrılmadıklarını, onun kongrelerde tespit edilen gayelerinin takipçisi bulunduklarını iddia ediyorlardı.?
Mustafa Kemal, İkinci Grup´un liderlerinin görünüşte Salâhattin ve Hüseyin Avni (Ulaş) olduğunu, birinci derecede faaliyet gösteren ve kışkırtanların ise Rauf Orbay ve Kara Vasıf Bey olduğunu iddia eder. Ancak, İkinci Grup´un lideri Trabzon mebusu Ali Şükrü beydir. Kazım Karabekir´in anlattığı olay, Mustafa Kemal´in Ali Şükrü beyi dikkatle takip ettiğini göstermektedir. Kazım Karabekir, ?Gazi M. Kemal pek asabi idi. Muhaliflerden Ali Şükrü Bey, ?Ankara´ya matbaa makinesi getirmiş. Tan adında bir gazete çıkaracakmış, siz hâlâ uyuyorsunuz´ diye yaveri Cevat Abbas Bey´e verdi veriştirdi. Ve ?yakın yıkın´ diye çıkıştı. Yalnız kalınca kendilerini teskin ettim. Bu tarzdaki beyanatının dışarıya aks edebileceğini ve pek de doğru olmadığını anlattım? demektedir.
Ali Şükrü Bey, Hilafetin Kaldırılması´na muhalefet etmiş, Bahriye Nazırı ve İstiklal Mahkemesi Reisi İhsan bey ile Trabzon Mebusu Ali Şükrü bey arasında çok sert tartışmalar yaşanmıştır. Ali Şükrü Beyin, zaman zaman Mustafa Kemal´le tartıştığı TBMM Zabıtları´ndan anlaşılmaktadır.
Bu süreçte Ali Şükrü Bey, Topal Osman tarafından öldürülmüştür. O zamanki Başvekil Rauf Orbay, ?Katilleri mutlaka Meclis-i Ali´ye getireceğim? demiş, Topal Osman´ın da öldürtülmesinden sonra olay kapanmıştır.
Ali Şükrü beyin öldürülmesinden sonra bazı kıpırdanmalar olsa da o günlerdeki havanın buna müsait olmamasından dolayı İslamcı muhalefet başka bir mevsime kalmıştır. Bu dönemde Siyasal İslâm´ın siyaset yapma imkânı neredeyse hiç mümkün olmamıştır.
