يقع المسجد في حيّ الدرج بمدينة غزة القديمة، ويُعدّ أحد أبرز وأجمل الجوامع الأثرية في قطاع غزة وأكبرها مساحة. تبلغ مساحة ساحة المسجد نحو 2371 مترًا مربعًا، ويتميّز بتخطيط معماري إسلامي تقليدي يعكس تعاقب الحقب التاريخية التي مرّ بها.
يتكوّن المسجد من صحنٍ مربع مكشوف يتوسط البناء، تحيط به ثلاثة أروقة مخصّصة للصلاة، بينما تتقاطع الأقبية المعمارية لتغطية قاعة الصلاة الرئيسية ذات الشكل المربّع. وتُعدّ ظُلّة القبلة أكبر الظلال المحيطة بالصحن، لما لها من أهمية دينية ومعمارية.
يضمّ المسجد ضريحًا يقع تحت قبة، في الغرفة المطلة على الظلّة الغربية، وتؤكد العديد من الروايات والمصادر التاريخية أن الضريح يعود إلى السيد هاشم بن عبد مناف، جدّ النبي محمد ﷺ، الذي توفي في مدينة غزة أثناء رحلته التجارية المعروفة برحلة الصيف.
أُنشئ المسجد في العهد المملوكي، ثم جُدِّد في عهد السلطان العثماني عبد الحميد الثاني عام 1850م. وقد ارتبط اسم المسجد بتاريخ المدينة، إذ عُرفت غزة باسم «غزة هاشم» نسبةً إلى السيد هاشم بن عبد مناف، ما يمنحه مكانة دينية وتاريخية بارزة في الذاكرة الفلسطينية والإسلامية.