Sejarah sumur zamzam dikisahkan ketika Nabi Ibrahim as membawa istrinya, Siti Hajar dan putranya, Ismail yang masih menyusui ke Mekah. Kemudian mereka singgah di sebuah pohon, tempat yang kemudian menjadi lokasi sumur zamzam.

Saat itu tak seorang pun yang tinggal di Mekah, tidak pula ada mata air di sana. Ibrahim kemudian meninggalkan istri dan anaknya di sana. Sebagai bekal, Ibrahim meninggalkan sewadah kurma dan sewadah air.

Istrinya kemudian mengikuti Ibrahim sambil berkata, "Ibrahim, ke manakah engkau hendak pergi? Apakah engkau tega meninggalkan kami di tempat yang tidak berpenghuni ini dan tak ada sesuatu apapun?"

Kemudian Siti Hajar bertanya kepada suaminya, "Apakah Allah yang memerintahkan engkau melakukan ini?"

"Ya," jawab Ibrahim. Mendengar jawaban itu, Siti Hajar berkata, "Kalau begitu Allah tidak akan menyia-nyiakan kami."

Wanita itu kemudian kembali ke anaknya, Ismail. Sedangkan Ibrahim terus berjalan, sampai di tempat bernama Tsaniah, ia menghadap ke arah Kabah, kemudian berdoa:

"Ya Tuhan, sesungguhnya aku telah menempatkan sebagian keturunanku di lembah yang tidak mempunyai tanam-tanaman di dekat rumah Engkau (Baitullah) yang dihormati, ya Tuhan (yang demikian) itu agar mereka melaksanakan salat, maka jadikanlah hati sebagai manusia cenderung kepada mereka dan berilah mereka rezeki dari buah-buahan, mudah-mudahan mereka bersyukur." (QS Ibrahim 14:37)

Saat persediaan air habis, bayi Ismail menangis kehausan. Siti Hajar berlari ke arah bukit Shafa mencari bantuan. Lalu berlari lagi turun dari bukit itu menuju bukit Marwah, lalu kembali lagi ke bukit Shafa. Begitu seterusnya hingga 7 kali. Tiba-tiba Siti Hajar melihat malaikat Jibril berdiri di tempat sumur zamzam saat ini berada.

Hadis Ali bin Abu Thalib yang diriwayatkan Imam Ath-Thabari: Malaikat bertanya kepada Hajar, "Siapakah engkau?"

Siti Hajar menjawab, "Aku adalah Hajar, ibu Ismail. Jibril bertanya lagi, "Kepada siapa engkau berdua dipasrahkan?" "Kepada Allah," jawab Siti Hajar.

Jibril berujar, "Engkau berdua telah dipasrahkan kepada Tuhan yang Maha Mencukupi." Jibril kemudian mencari-cari, menggali tanah dengan tumitnya dan terpancarlah air. Siti Hajar tercengang dan mata air itu terus melebar membentuk telaga. Siti Hajar dan Ismail pun segera menyembuhkan dahaganya dengannya.

Lembah Mekah yang sebelumnya tak berpenghuni dan tak memiliki air, kemudian mulai ramai ditinggali. Mata air itu kini menjadi sebuah sumur zamzam yang kini dikunjungi jutaan umat muslim seluruh dunia.

Dari sisi geografis, sumur zamzam memiliki kedalaman sekitar 30,5 meter. Hingga kedalaman 13,5 meter teratas menembus lapisan alluvium Wadi Ibrahim. Lapisan ini merupakan lapisan pasir yang sangat berpori yang berisi batu pasir hasil perpindahan dari tempat lain. Diperkirakan dahulu pernah ada lembah yang dialiri sungai yang saat ini sudah kering. Atau dapat pula merupakan dataran rendah hasil pelapukan batuan yang lebih tinggi topografinya.

Di bawah lapisan alluvial brahim ini terdapat 0,5 meter lapisan yang sangat mudah dilalui air (permeable). Lapisan inilah yang merupakan tempat utama keluarnya air zamzam. Kedalaman 17 meter selanjutnya, sumur ini menembus lapisan batuan keras berupa batuan beku diorit. Jenis batuan beku ini memang jarang ditemui di dunia, namun sangat banyak terdapat di Jazirah Arab.

Dari uji pemompaan, sumur ini mengalirkan air sebesar 11-18,5 liter/detik, sehingga per menitnya bisa mengalirkan 660 liter atau 40.000 liter perjam. Celah-celah atau rekahan ini salah satu yang mengeluarkan air cukup banyak. Ada celah (rekahan) yang memanjang sepanjang 75 cm dengan ketinggian 30 cm ke arah Hajar Aswad. Selain itu terdapat beberapa celah kecil ke arah Shafa dan Marwah.

Kata zamzam dalam bahasa Arab artinya banyak atau melimpah. Dinamakan zamzam karena air sumur zamzam sangat melimpah. Nama lain zamzam antara lain barrah (kebaikan), madhmunah (yang berharga), taktumu (yang tersembunyi), hazmah Jibril (galian Jibril), syifa' saqm (obat penyakit), thaam thu'm (makanan), syarabul abrar (minuman orang-orang baik), dan thayyibah (yang baik).

Air zamzam memiliki sejumlah keutamaan. Diantaranya adalah, air zamzam merupakan air yang digunakan malaikat Jibril ketika membedah Nabi Muhammad saw sebelum Isra' Mi'raj. Rasulullah bersabda, "Malaikat Jibril kemudian membelah dadaku, kemudian turun dan membelah dadaku, kemudian mencucinya dengan air zamzam." (HR Bukhari dari Abu Dzar).

Air zamzam adalah air yang terbaik di muka bumi. Rasulullah bersabda, "Sebaik-baiknya air di muka bumi adalah air zamzam." (HR Ath-Thabrani dari Ibnu Abbas). Air zamzam termasuk makanan yang diberkahi dan mengenyangkan karena kandungan gizinya sangat tinggi. Rasulullah saw bersabda, "Sesungguhnya air zamzam itu diberkahi, ia juga merupakan makanan yang berselera (mengenyangkan)" (HR Muslim)

Air zamzam juga bisa menjadi obat mujarab bagi seluruh penyakit. Rasulullah bersabda, "Sebaik-baik air di muka bumi adalah air zamzam. Di dalamnya terdapat makanan yang diinginkan dan obat bagi penyakit." (HR Ath-Thabrani dari Ibnu Abbas).

Rasulullah juga mengatakan bahwa khasiat dari air zamzam ini sesuai dengan niat peminumnya. Rasulullah bersabda, "Air zamzam menurut dengan apa yang dikatakan peminumnya." (HR Ibnu Majah dari Jabir bin Abdullah). Dalam hadis lain disebutkan, "Air zamzam menurut niat peminumnya. Jika engkau meminumnya untuk niiat kesembuhan, Allah akan menyembuhkanmu. Jika engkau meminumnya karena kehausan, Allah akan memuaskanmu. Jika engkau meminumnya karena kelaparan, Allah akan mengenyangkanmu. Ia adalah usaha Jibril dan pemberian air minum Allah kepada Ismail." (HR Abdurrazzaq)