Masa Muda

Dalam usia 8 tahun ia sudah meninggalkan Jilan menuju Baghdad pada tahun 488 H/1095 M. Karena tidak diterima belajar di Madrasah Nizhamiyah Baghdad, yang waktu itu dipimpin Ahmad al Ghazali, yang menggantikan saudaranya Abu Hamid Al-Ghazali. Di Baghdad beliau belajar kepada beberapa orang ulama sepertiIbnu Aqil, Abul Khatthat, Abul Husein al Farra' dan juga Abu Sa'ad al Muharrimiseim. Beliau menimba ilmu pada ulama-ulama tersebut hingga mampu menguasai ilmu-ilmu ushul dan juga perbedaan-perbedaan pendapat para ulama. Dengan kemampuan itu, Abu Sa'ad al Mukharrimi yang membangun sekolah kecil-kecilan di daerah Babul Azaj menyerahkan pengelolaan sekolah itu sepenuhnya kepada Syeikh Abdul Qadir al Jailani. Ia mengelola sekolah ini dengan sungguh-sungguh. Bermukim di sana sambil memberikan nasihat kepada orang-orang di sekitar sekolah tersebut. Banyak orang yang bertaubat setelah mendengar nasihat beliau. Banyak pula orang yang bersimpati kepada beliau, lalu datang menimba ilmu di sekolah beliau hingga sekolah itu tidak mampu menampung lagi.

Murid

Murid-muridnya banyak yang menjadi ulama terkenal, seperti al Hafidz Abdul Ghani yang menyusun kitab Umdatul Ahkam Fi Kalami Khairil Anam, SyeikhQudamah, penyusun kitab fiqih terkenalal Mughni.

Perkataan Ulama tentangnya

Syeikh Ibnu Qudamah sempat tinggal bersama beliau selama satu bulan sembilan hari. Kesempatan ini digunakan untuk belajar kepada Syeikh Abdul Qadir al Jailani sampai beliau meninggal dunia.

Syeikh Ibnu Qudamah ketika ditanya tentang Syeikh Abdul Qadir menjawab, "Kami sempat berjumpa dengan beliau di akhir masa kehidupannya. Ia menempatkan kami di sekolahnya. Ia sangat perhatian terhadap kami. Kadang beliau mengutus putra beliau yang bernama Yahya untuk menyalakan lampu buat kami. Ia senantiasa menjadi imam dalam salat fardhu."

Karya

Imam Ibnu Rajab juga berkata, "Syeikh Abdul Qadir al Jailani Rahimahullah memiliki pemahaman yang bagus dalam masalah tauhid, sifat-sifat Allah,takdir, dan ilmu-ilmu ma'rifat yang sesuai dengan sunnah."

Karya karyanya  :

Tafsir Al Jilanial Ghunyah Li Thalibi Thariqil Haq,
Futuhul Ghaib.
Al-Fath ar-Rabbani
Jala' al-Khawathir
Sirr al-Asrar
Asror Al Asror
Malfuzhat
Khamsata
Asyara Maktuban
Ar Rasael
Ad Diwaan
Sholawat wal Aurod
Yawaqitul Hikam
Jalaa al khotir
Amrul muhkam
Usul as Sabaa
Mukhtasar ulumuddin

Murid-muridnya mengumpulkan ihwal yang berkaitan dengan nasihat dari majelis-majelis beliau. Dalam masalah-masalah sifat, takdir dan lainnya, ia berpegang dengan sunnah. Ia membantah dengan keras terhadap orang-orang yang menyelisihi sunnah.

Awal Kemasyhuran

Al-Jaba'i berkata bahwa Syeikh Abdul Qadir pernah berkata kepadanya, "Tidur dan bangunku sudah diatur. Pada suatu saat dalam dadaku timbul keinginan yang kuat untuk berbicara. Begitu kuatnya sampai aku merasa tercekik jika tidak berbicara. Dan ketika berbicara, aku tidak dapat menghentikannya. Pada saat itu ada dua atau tiga orang yang mendengarkan perkataanku. Kemudian mereka mengabarkan apa yang aku ucapkan kepada orang-orang, dan merekapun berduyun-duyun mendatangiku di masjid Bab Al-Halbah. Karena tidak memungkinkan lagi, aku dipindahkan ke tengah kota dan dikelilingi dengan lampu. Orang-orang tetap datang di malam hari dengan membawa lilin dan obor hingga memenuhi tempat tersebut. Kemudian, aku dibawa ke luar kota dan ditempatkan di sebuah mushalla. Namun, orang-orang tetap datang kepadaku, dengan mengendarai kuda,unta bahkan keledai dan menempati tempat di sekelilingku. Saat itu hadir sekitar 70 orang para wali radhiallahu 'anhum.

Dalam beberapa manuskrip didapatkan bahwa Syeikh Abdul Qadir berkata, "Sebuah suara berkata kepadaku saat aku berada di pengasingan diri, "kembali ke Baghdad dan ceramahilah orang-orang". Aku pun ke Baghdad dan menemukan para penduduknya dalam kondisi yang tidak aku sukai dan karena itulah aku tidak jadi mengikuti mereka". "Sesungguhnya" kata suara tersebut, "Mereka akan mendapatkan manfaat dari keberadaan dirimu". "Apa hubungan mereka dengan keselamatan agamaku/keyakinanku" tanyaku. "Kembali (ke Baghdad) dan engkau akan mendapatkan keselamatan agamamu" jawab suara itu.

Aku pun membuat 70 perjanjian dengan Allah. Di antaranya adalah tidak ada seorang pun yang menentangku dan tidak ada seorang muridku yang meninggal kecuali dalam keadaan bertaubat. Setelah itu, aku kembali ke Baghdad dan mulai berceramah.

Hubungan Guru & Murid

Syeikh Abdul Qadir berkata, "Seorang Syeikh tidak dapat dikatakan mencapai puncak spiritual kecuali apabila 12 karakter berikut ini telah mendarah daging dalam dirinya.Dua karakter dari Allah yaitu dia menjadi seorang yang sattar (menutup aib) dan ghaffar (pemaaf).Dua karakter dari Rasulullah Shallallahu 'alaihi Wassalam yaitu penyayang dan lembut.Dua karakter dari Umar dan Utsman yaitu jujur dan dapat dipercaya.Dua karakter dari Umar yaitu amar ma'ruf nahi munkar.Dua karakter dari Utsman yaitu dermawan dan bangun (tahajjud) pada waktu orang lain sedang tidur.Dua karakter dari Ali yaitu alim (cerdas/intelek) dan pemberani.

Masih berkenaan dengan pembicaraan di atas dalam bait syair yang dinisbatkan kepadanya dikatakan: Bila lima perkara tidak terdapat dalam diri seorang syeikh maka ia adalah Dajjal yang mengajak kepada kesesatan.

Dia harus sangat mengetahui hukum-hukum syait zhahir, mencari ilmuhakikah dari sumbernya, hormat dan ramah kepada tamu, lemah lembut kepada si miskin, mengawasi para muridnya sedang ia selalu merasa diawasi oleh Allah.

Syeikh Abdul Qadir juga menyatakan bahwa Syeikh al Junaid mengajarkan standar al Quran dan Sunnah kepada kita untuk menilai seorang syeikh. Apabila ia tidak hafal al Quran, tidak menulis dan menghafal Hadits, dia tidak pantas untuk diikuti.

Syeikh Abdul Qadir berkata, "Kalimat tauhid akan sulit hadir pada seorang individu yang belum di talqin dengan zikir bersilsilah kepada Rasullullah olehmursyidnya saat menghadapi sakaratul maut".

Karena itulah Syeikh Abdul Qadir selalu mengulang-ulang syair yang berbunyi: Wahai yang enak diulang dan diucapkan (kalimat tauhid) jangan engkau lupakan aku saat perpisahan (maut).

Pada tahun 521 H/1127 M, dia mengajar dan berfatwa dalam semua madzhab pada masyarakat sampai dikenal masyarakat luas. Selama 25 tahun Syeikh Abdul Qadir menghabiskan waktunya sebagai pengembara sufi di Padang Pasir Iraq dan akhirnya dikenal oleh dunia sebagai tokoh sufi besar dunia Islam. Selain itu dia memimpin madrasah dan ribath di Baghdad yang didirikan sejak 521 H sampai wafatnya pada tahun 561 H.Madrasah itu tetap bertahan dengan dipimpin anaknya Abdul Wahab (552-593 H/1151-1196 M), diteruskan anaknya Abdul Salam (611 H/1214 M). Juga dipimpin anak kedua Syeikh Abdul Qadir, Abdul Razaq (528-603 H/1134-1206 M), sampai hancurnya Baghdad pada tahun 656 H/1258 M.