يقع في مركز مدينة الرملة، هو مسجد بُني في الأصل ككنيسة أقامها الفرنجة في القرن الثاني عشر الميلادي، وفي عهد الدولة المملوكية حولت كنيسة مار يوحنا التي حولها السلطان بيبرس إلى المسجد الكبير عام 1266، بعد إضافة محراب ومنبر ومئذنة.
وكان المسجد الكبير يبتدأ منه موسم النبي صالح، و«موسم النبي صالح» مركزه سوق وفعاليات ثقافية وترفيهية يستمر لأسبوعين. ورغم النكبة استمر «موسم النبي صالح» حتى 1987 وكان يستهل بمسيرة تبدأ من المسجد الكبير حتى جامع النبي صالح لكن السلطات الإسرائيلية شاركت في إنهاء الموسم (بمنعها دخول فلسطينيي الضفة وغزة) وحملت عليه أوساط إسلامية متشددة بذريعة عواقب الاختلاط.