او تحصيلات ديني خود را در مدارس رضويه و فيضيه قم به پايان رساند. آيت الله طالقاني در زمان طلبگي آشنايي فراواني با امام (ره) داشت و روابط متقابل آن دو، بسياري را در شگفتي افكنده بود. مرحوم آيت الله طالقاني موفق به كسب اجازه نامه اجتهاد از مرجع بزرگ آن، روز آيت الله حاج شيخ عبدالكريم حائري يزدي گرديده و بعد از اتمام تحصيلات به تهران آمده و در مدرسه شهيد مطهري (سپهسالار سابق) به تدريس علوم ديني مشغول شد. در سال 1318 براي اولين بار خشم خويش را نسبت به رژيم و دستگاه حكومتي، با دادن يك اعلاميه در رابطه با كشف حجاب ابراز كرد و در پي آن دستگير و زنداني شد.

پس از شهريور 1320، با تشكيل گروههاي گوناگون سياسي، مبارزه را به طور رسمي آغاز كرد، اما طولي نكشيد كه اين دوران را وقفه اي پيش آمد؛ چرا كه پس از كودتاي 28 مرداد سال 1332، ساواك، مرحوم طالقاني را به جرم مخفي كردن نواب صفوي در خانه اش، دستگير، و به زندان افكند، اما اين دستگيري كوتاه و موقت بود و بزودي آزاد و فعاليت دوباره را آغاز كرد. مرحوم طالقاني در كنگره جهاني شعوب المسلمين كه در كراچي تشكيل مي شد شركت كرد و نيز در كنگره اسلامي قدس كه سالي يكبار تشكيل مي گرديد دوبار در مقام رياست هيئت نمايندگي ايران به بيت المقدس سفر كرد.

ترتيب يافتن «دارالتقريب بين المذاهب الاسلاميه» كه در نزديكي تشيّع و تسنّن سهمي بسزا داشته، يكي از بزرگترين اقدامات قرن اخير بشمار مي رود. آيت الله طالقاني به نمايندگي مرحوم آيت الله العظمي بروجردي «ره» براي رساندن پيام ايشان به شيخ شلتوت ـ هم او كه جواز تقليد از را صادر كرد ـ به آن ديار مسافرت نمود. آيت الله طالقاني در جريان نهضت ملي شدن صنعت نفت ايران مبارزات ارزنده اي داشت و تلاشهاي فراواني در جهت رهانيدن حقوق ملت مسلمان ايران از چنگال استعمارگران چپاول پيشه انجام داد.

پس از شكل گيري نهضت روحانيت به رهبري امام خميني «ره» در سال 1341 و طرح مسائلي چون انجمنهاي ايالتي و ولايتي و انقلاب باصطلاح سفيد، به پيروي از امام «ره» به مخالفت با رژيم پرداخت و به دليل فعاليتهاي زياد در همان سال به زندان افتاد و پس از آزادي مجدداً در سال 1342 در ارتباط با وقايع 15 خرداد دستگير و به ده سال زندان محكوم شد. آيت الله طالقاني در زندان نيز دست از مبارزه و ارشاد برنداشت، رفتار و گفتار مناسبش حتي روي ماموران زندان اثر مثبت گذاشت و در پي همين تلاشهاي فرهنگي و تبليغي بود كه در زندان، با نوشتن تفسير «پرتوي از قرآن» سعي در آشنا كردن افراد به عظمت و سازندگي قرآن كرد. ايشان درباره خود مي گويد:

«من پيش از اين كه در كسوت يك سياستمدار متعارف و معمول باشم يك شاگرد كوچك مكتب قرآن و معلم قرآنم». زنداني شدن مرحوم آيت الله طالقاني در اين مرحله بيش از 4 سال طول نكشيد و در سال 1346 به واسطه فشارهاي داخلي و خارجي بر رژيم شاه از زندان آزاد شد. و بعد از آزادي مبارزه را همچون گذشته ادامه داد و در آستانه سال 1350 همزمان با برگزاري جشنهاي 2500 ساله شاهنشاهي دستگير و به مدت سه سال در زابل و 18 ماه در بافت كرمان در بدترين شرايط به حالت تبعيد بسر برد. در سال 1354 مجدداً به دست ساواك گرفتار شد و به 10 سال زندان محكوم گرديد.

آيت الله طالقاني در دوران انقلاب اسلامي، پس از آزادي از زندان نهايت تلاش خود را در جهت پيروزي انقلاب نمود و پس از پيروزي به رياست شوراي انقلاب اسلامي برگزيده شد و در انتخابات مجلس خبرگان قانونگذاري (12 مرداد 1358) از سوي مردم تهران به عنوان نماينده انتخاب شد.

در اوايل مرداد 1358 از سوي امام خميني «ره» مأمور تشكيل نماز جمعه تهران شد و اولين و با شكوهترين نماز جمعه بعد از پيروزي انقلاب اسلامي در پنجم مرداد به امامت ايشان در دانشگاه تهران برگزار گرديد. بعد از انتصاب به عنوان امام جمعه تهران، موفق به برگزاری پنج نماز جمعه شد كه آخرين نماز جمعه به مناسبت فرا رسيدن سالگرد جمعه خونين 17 شهريور در بهشت زهرا و كنار مزار شهدا برگزار شد. سرانجام در سحرگاه نوزدهم شهريور سال 1358 اين عالم مجاهد پس از سالها فعاليتهاي علمي و مبارزات سياسي عليه رژيم ستمشاهي و عمري تلاش خستگي ناپذير در راه پياده كردن احكام اسلام، در اثر سكته قلبي دار فاني را وداع گفت و به ديدار معبود شتافت. روحش شاد.