Allah, ilk insan Hz. Adem'i yarattıksan sonra ona eş olarak Hz. Havva'yı yaratmıştır. Yaratılan ilk iki insan cennette varlıklarını sürdürürken Allah'ı yasakladığı bir emre uymadıkları için yeryüzüne gönderilmişlerdir. Birbirlerini aradıkları uzun yıllar sonucu Arafat'ta kavuşmuşlardır. Arafat'ın batı yönüne doğru ilerleyerek Kabe'nin bulunduğu yere gelmişlerdir. Hz. Adem, Allah'a şükrünü gösermek için ibadet etmek ister. Cennette bulunduğunda nurlu bir sütunu tavaf ediyorlardı. Rabb'inden bunun tekrar kendisine verilmesini ister. O sırada bulundukları yere nurdan bir sütun beliriverir. Şimdiki Kabe'de bulunan Hacer'ül Esved taşı bu sütunun bir parçasıdır. Yılların ilerlemesi ve doğal afetler sonucunda bu sütundan geriye bir şey kalmamıştır. 

Allah'ın emri ile Hz. İbrahim, Kabe'nin bulunduğu yere gider. Burayı biraz kazıktan sonra eski temelleri burada görür. Ve oğlu Hz. İsmail ile Kabe'yi tekrar inşa eder. O günden itibaren çeşitli hasarlar görmesine rağmen Kabe, günümüze kadar sürekli ibadet edilen bir ev olmuştur. Kabe, 4 köşeden oluşan bir oda şeklindedir. Rüknü'l-Iraki köşesinden Kabe'nin damına çıkarılan bir merdiven bulunmaktadır. Bu merdivenin önünde tevbe kapısı denilen bir kapı yer alır.