بنابر گزارش پایگاه فکر و فرهنگ مبلغ، این بنا بر اساس کتیبه‌ای که در ضلع غربی آن قرار دارد، در سال ۱۳۱۰ هجری قمری (۱۲۷۱ هجری شمسی) توسط مهدی‌قلی‌خان مجدالدوله، داماد ناصرالدین‌شاه، ساخته شده و به نام او نام‌گذاری شده است. گفته می‌شود که ساخت این بنا بر روی زمینی دست‌نخورده آغاز شد و تکمیل آن نزدیک به ۱۰ سال به طول انجامید.
بر اساس تحقیقات محلی و منابع تاریخی، بخش‌هایی از این بنا از زمان ساخت اولیه باقی مانده است، در حالی که قسمت‌هایی مانند شبستان جدید در سال‌های ۱۳۳۵ و ۱۳۳۶ هجری شمسی به آن اضافه شده‌اند. مسجد و مدرسه مجدالدوله با صحنی مستطیل‌شکل به سبک چهارایوانی ساخته شده است. مقصوره و ایوان آن در ضلع جنوبی قرار دارد و در دو طرف گنبدخانه، دو شبستان با ۱۲ ستون زیبا دیده می‌شود که یکی به در شرقی و دیگری به در غربی ایوان جنوبی متصل است. ایوان جنوبی با مقرنس‌کاری‌های بسیار زیبا تزئین شده و اطراف آن به صورت طاق‌کاری است. در غرفه‌های اطراف ایوان هیچ کاشی‌کاری دیده نمی‌شود و تنها آجرکاری وجود دارد. امروزه ایوان جنوبی به شبستان زیرگنبد تبدیل شده است.
در قسمت شمالی مسجد، سردری مشابه ایوان جنوبی وجود داشت که تا سال ۱۳۳۶ هجری شمسی سالم بود و به عنوان ورودی اصلی استفاده می‌شد. این سردر دارای کاشی‌کاری‌های زیبایی بود که بعدها به دلیل گودی زمین، مسجد تخریب و شبستان جدیدی به سبک مدرن ساخته شد. این اثر در تاریخ ۱۶ آذر ۱۳۷۶ با شماره ثبت ۱۹۳۹ به عنوان یکی از آثار ملی ایران در فهرست آثار تاریخی کشور به ثبت رسیده است.
علاوه بر قداست این مسجد که از خانه خدا بودن آن نشأت می‌گیرد، حضور فقها و مجتهدان مشهور به عنوان امام جماعت و مدرس حوزه علمیه، و همچنین برگزاری کلاس‌های احکام تجارت در آن، از دلایل رونق و ماندگاری این مسجد در طول تاریخ بوده است. راه‌اندازی مدرسه علمیه مجد نیز به شهرت این مسجد افزوده است. مسجد مجد از مساجد قدیمی تهران است و محل تحصیل، تدریس و اقامه نماز جماعت بسیاری از بزرگان حوزه علمیه مانند شیخ فضل‌الله نوری و آیت‌الله محمدتقی آملی بوده است. امروزه نیز نماز جماعت این مسجد با حضور چشمگیر مردم، به ویژه کسبه و تجار، برگزار می‌شود.
این مسجد علاوه بر کاربری اصلی‌اش، به عنوان مدرسه دینی طلاب نیز مورد استفاده قرار می‌گیرد. ایوان شمالی (رو به قبله) به شبستان رمضان تبدیل شده و ایوان جنوبی نیز با در و پنجره به طور کامل محدود شده و به شبستان زیرگنبد تبدیل شده است. در ضلع شرقی و غربی، در طرفین ایوان‌ها، حجره‌های مدرسه قرار دارد و در شمال شرقی صحن، کلاس‌های درس و در نیم‌طبقه فوقانی شبستان رمضان، کتابخانه واقع شده است.
درب ورودی مسجد به یک هشتی نسبتاً بزرگ و مرتفع می‌رسد و از آنجا وارد صحن مسجد می‌شویم. صحن مسجد سرسبز و باصفاست. شبستان شمالی که قدمت آن به دوره پهلوی می‌رسد، توسط محمدباقر لولاگر، سازنده و معمار کوچه لولاگر مشهور، ساخته شده است.