مسجد السلطان عبد المجيد بني عام 1186، في عهد صلاح الدين الأيوبي، على أنقاض مسجد قديم بعد أن أطاحت الحروب الصليبية كل المساجد. وقد ثبت تاريخياً أنه في العام 16هجري (650) ميلادي، كان هناك مسجد امامه محمد ابن ياسر الحداد وكان رجل علم مميز. ويقال ان الأمير يوسف الشهابي رمم في الوقت نفسه، المسجد و كنيسة مار يوحنا.
عام 1970، استملكت المديرية العامة للآثار الجهة الشمالية الشرقية من أرض المسجد، وجزءا آخر من الجهة الجنوبية حيث تقع الأعمدة البيزنطية حالياً. كما عمدت الى اعادة جدران المسجد الى سابق عهدها، فـ«كحّلت» الحجر وأعادته كما كان، وغيّرت مدخل المسجد الذي أصبح من الجهة الشرقية.
أما بناء القسم المضاف، فكان من الحجر الرملي الذي يتلاءم وحجر المسجد القديم. وفي عام 1986 أضيفت رواقة الى المسجد.
أما من الناحية التراثية والجمالية، يتميّز الجامع بشكله المربّع وهذا يدلّ على مدى انسجامه مع الفن الحديث، وهو مريح للنظر ومفيد للمصلّين وكل ذلك بهدف توجيه الأنظار الى الامام. أما المئذنة، فتتميز بشكلها الأسطواني المسدس، حيث يتلاءم ارتفاعها مع حجم المسجد، وتعلو المئذنة قبّة يتلاءم حجمها مع مساحة المسجد من الداخل وارتفاعه من الخارج، وهي مبنية من الحجر الرملي .
