Abdul-Qadir al-Jilani nació en Nif, provincia de Jila, al sur del mar Caspio, en 1077 y murió en Bagdad en 1166.
A los 18 años, se traslada a Bagdad, donde prosigue sus estudios de ciencias tradicionales, y se convierte posteriormente en discípulo del maestro sufí Abu’l-Khair Hammad ibn Muslim al-Dabbas. Al terminar sus estudios, deja Bagdad, pasando los siguientes 25 años como un vagabundo en las regiones desérticas de Irak. En 1127 regresa a Bagdad y comienza a predicar en público, enseñando en la escuela de su antiguo maestro Al-Mukharimii, pero finalmente construye una residencia y casa de huéspedes, para albergar a su familia y dar alojamiento a sus alumnos. Vivió hasta una edad avanzada y continuó su trabajo hasta su último aliento.
Aunque da nombre a una de las cuatro órdenes derviches consideradas mayores, la Qadiri, no puede afirmarse con rigor que fundara ninguna escuela sufí. Fueron sus seguidores en el siglo XV quienes instituyeron la cofradía como se ha expandido posteriormente.