Kubâ Mescidi, İslam’da ilk inşa edilen mescidlerden birisidir. Peygamberimiz sallallahu aleyhi ve sellem Mekke-i Mükerreme’den Medine-i Münevvere’ye hicret ettiği zaman Medine’ye gelmeden Medine yakınında bulunan bugün ise Medine ile bitişmiş durumda olan Kubâ köyünde bu adla anılan mescidi inşa etmiştir.
İlk muhacirler, Efendimiz sallallahu aleyhi ve sellem daha Medine'ye gelmeden Kubâ'da Amr b. Avf oğullarına ait bir hurma kurutma yerini mescid haline getirmişlerdi. Ebu Huzeyfe radıyallahu anhın azatlısı Sâlim radıyallahu anh burada bir grup muhacire Kudüs'e yönelerek namaz kıldırıyordu. Hazreti Peygamber sallallahu aleyhi ve sellem zorlu bir hicret yolculuğunun ardından Medine’nin en büyük yerleşim yerlerinden biri olan Kubâ’ya vardı ve burada birkaç gün kaldıktan sonra şehir merkezine gitti. Böylece nispeten verimli arazileri, su kuyuları ve Medine merkezine yakınlığı ile bilinen Kuba hicretin varış noktası oldu. Hazreti Peygamber sallallahu aleyhi ve sellem burada kaldığı sayılı günlerde Kubâ halkı ile ilgilendi ve ayrıca bir mescit inşası için gerekli çalışmaları başlattı. Kubâ Mescidi’nin inşasında bizzat yer aldı.
Kubâ Mescidinin arsasının kabilenin ileri gelenlerinden Külsûm b. Hidm radıyallahu anha ait olduğu ve Külsûm radıyallahu anhın arsayı mescid yapılması için bağışladığı rivayet edilir. Diğer bir rivayete göre ise mescidin arsası Leyya radıyallahu anha adında bir kadına ait harman yeriydi. Efendimiz sallallahu aleyhi ve sellemi arsaya kıble yönünde bitişik evinde misafir eden kabilenin ileri gelenlerinden Sa‘d b. Hayseme radıyallahu anh burada mescid yapılmasına öncülük etmiş olmalıdır. Çünkü rivayette mescid ona izâfe edilmektedir. Öte yandan münafıklar, “Leyya’nın merkebini bağladığı yerde mi secde edeceğiz?” diyerek bunu Dırâr Mescidi’ni yapmak için bahane saydılar (İbn Şebbe, I, 54-55). Taberânî rahimehullahın bir rivayetine göre Kubâlılar, Resûlullah’tan bir mescid yapmasını talep edince Hazreti Peygamber sallallahu aleyhi ve sellem orada bulunan sahabeden birinin devesine binmesini istemiş, önce Hazreti Ebu Bekir binmiş, deve kalkmamış, ardından Hazreti Ömer binince deve yine kalkmamış, bu sırada Kubâ’ya ulaşmış olan Hazreti Ali binince deve kalkıp yürümüş, Resûl-i Ekrem sallallahu aleyhi ve sellem Hazreti Ali’ye devenin yularını serbest bırakmasını söylemiş ve mescidin onun etrafında dolaştığı arsaya yapılmasını istemiştir (el-Muʿcemü’l-kebîr, II, 246). Mescidin ortalarına isabet eden bir mekân daha sonraları “mebrekü’n-nâka” (devenin çöktüğü yer) olarak anılmıştır (Semhûdî, II, 23). İmam Buhârî’nin (“Menâḳıbü’l-enṣâr”, 45) bir rivayetine göre Hazreti Peygamber Kubâ’da on geceden fazla kalmış ve Mescid-i Kubâ bu sırada yapılmıştır.
Kubâ Mescidi yapılırken, arsa hazırlandıktan sonra temele ilk taşı bizzat Hazreti Peygamber sallallahu aleyhi ve sellem koymuş, ardından sırasıyla Hazreti Ebu Bekir, Hazreti Ömer, Hazreti Osman ve diğerler sahabelerin taşlarını koymalarını istemiştir (Taberânî, II, 339). Mescid-i Kubâ yapılırken Resûl-i Ekrem sallallahu aleyhi ve sellem bir işçi gibi çalışmış, taşıdığı ağır taşları ellerinden alıp yardımcı olmak isteyenlere bir başkasına yardım etmelerini söylemiştir.
623 yılında kıblenin Kâbe-i Şerif olmasıyla birlikte Kubâ Mescidi’ni yeniden inşa ettiği rivayet edilir. (Semhûdî, II, 16) Bu sırada ön duvar ve ona paralel dizilen yedi sütun üstüne bir tavan yapılmıştır. Mescidin güneyinde Külsûm b. Hidm ile Sa‘d b. Hayseme radıyallahu anhumanın evleri bulunmakta ve Sa‘d radıyallahu anhın evinden mescide bir kapı açılmaktaydı. Müslümanlar Resûl-i Ekrem’in misafir kaldığı bu evleri ziyaret eder, ardından Sa‘d’ın evinin tarafında bulunan kapıdan mescide geçip “el-üstüvânetü’l-muhalleka” denilen üçüncü sütunun doğu yanında onun namaz kıldığı yerde namaz kılarlardı. Daha sonra bu kapı kapatılıp mescidin batı duvarında bir kapı açılmıştır.
Peygamberimiz yaşadığı sürece her Cumartesi günü yaya veya binitli olarak bu mübarek mescidi ziyaret eder ve içinde namaz kılardı. (Buhâri, “Fazlu’s-salâti fi Mekke ve’l-Medine”, 3-4.) Bir hadis-i şerifte şöyle buyurulmuştur: “Kuba mescidinde namaz kılmak, bir umre yapmak gibidir.” (Tirmizî, “Mevakit”, 125; İbn Mâce, “İkamet”, 197.)