آیت‌الله مدنی پیش از نهضت سال ۱۳۴۲ در ایران با فرقه‌های گمراه در ستیز بود.
بذر بهائیت در کشورهای اسلامی به وسیله استعمار انگلیس پاشیده شد و نهال آن در دامن کج‌اندیشان به اصطلاح روشنفکر پرورش یافته بود. در اندک مدتی توسط دست‌های پنهان در ممالک اسلامی به ویژه شیعه‌نشین ترویج یافته با ورود فرهنگ بیگانه و بازگشت روشنفکران غربزده از پرورشگاه خود، این کیش ضد مذهب به اوج خود رسید.
رضا خان و عاملان دیگر غرب در ایران برای کوبیدن اسلام خصوصاً مکتب تشیع به ترویج‌کنندگان مرام بهائی‌گری میدان داده بودند و این تفکر ضد دینی در سراسر ایران به ویژه در آذربایجان بدون موانع در حال گسترش بود. (جزئیات ماجرای برخورد ایشان با بهائیان زادگاه خود در کتاب شهید مدنی جلوه اخلاص (از مجموعه دیدار با ابرار) به تفصیل آمده است.) آیت‌الله مدنی در چنین روزگاری بود که از حوزه علمیه به زادگاهش بازگشت و مدتی در آن‌جا ماندگار گردید و از آن روز دوران مبارزات وی نیز شکل گرفت. (یادواره شهید محراب آیت‌الله مدنی، خاطرات آقای بروجردی داماد ایشان.) وی در کنار سید مجتبی نواب صفوی در مقابل افکار پوچ کسروی‌ها نیز مقاومت کرد. 
از همین‌رو وقتی شهید نواب مصمم به مبارزه شد در تهیه اسلحه وی را یاری کرد. در حوزه نجف در بین دوستان آیت‌الله مدنی معروف بود که «اسلحه‌ای که نواب صفوی تهیه کرد با پول کتاب‌های آیت‌الله مدنی بود.»