Tharîqah yang pendiriannya dinisbatkan kepada seorang wali quthub yang menjadi tonggak tharîqah dan tokoh para wali besar yaitu Syaikh Sayyid Ahmad al-Rifa`i bin (1)Sayyid `Ali, bin (2)Sayyid Yahya, bin (3)Sayyid Tsabit, bin (4)Sayyid Hazim, bin (5)Sayyid Ahmad, bin (6)Sayyid Ali, bin (7)Sayyid Hasan al-Rifa`ah, bin (8)Sayyid al-Mahdi, bin (9)Sayyid Abu Qasim Muhammad, bin (10)Sayyid Hasan, bin (11)Sayyid Husain, bin (12)Sayyid Musa al-Tsani, bin (13)Sayyid Ibrahim al-Murtadha, bin (16) Imam Musa al-Kadzîm, (15)bin Imam Ja`far Shadiq, bin (16)Imam Muhammad al-Baqir, bin (17)Imam Zainal Abidin Ali, bin (18)Sayyid Imam Abi Abdillah al-Husain, bin (19)Sayyidina Ali wa Sayyidatina Fatimatuz Zahra’, binti (20)Sayyidil Khalqi Sayyidina Muhammad Saw. Beliau dilahirkan di Ummi Abidah daerah pertengahan antara Bashrah dan Bagdad yaitu daerah yang masyhur di Irak tepatnya hari Kamis pada pertengahan pertama bulan Rajab, yakni pada tahun 512 H., (A’lâm al-Shûfiyah, halaman: 412-413).
Pengembaraannya dalam menuntut ilmu dimulai dengan belajar Fiqih madzhab Syafi’i dari pamannya yang bernama Syekh Abi Bakrin al-Wasiti al-Anshari. Beliau sempat mengajar kitab al-Tanbih, lalu masuk Tharîqah kemudian menempa dirinya dengan sungguh-sungguh. Ia tinggalkan gemerlap dunia dan memusatkan perhatian pada tharîqah sehingga menjadi seorang wali besar dan sangat ahli dalam ilmu tharîqah. Imam Rifa`i memiliki banyak sâlik yang sangat menghormatinya. Menurut Ibnu Khalkan dan lainnya, santri-santrinya terkenal dengan nama Rifa`iyah atau Ahmadiyah atau Bathaihiyah, Para santrinya memiliki hal-hal yang aneh dan menakjubkan, (Nûr al-Abshâr, halaman: 252).
Syaikh Syamsuddin Sibtu bin al-Zauji dalam kitab Tarikhnya mengatakan, bahwa disamping Imam Rifa`i yang memiliki berbagai karamah dan maqâm, santri-santrinya juga luar biasa. Mereka kadang menaiki binatang buas dan bermain-main dengan ular. Di antara mereka bahkan ada yang memanjat pohon kurma kemudian menjatuhkan diri ke tanah, namun tak merasa sakit sedikitpun, (Jâmi’ al-Karâmât al-Auliyâ’, juz 1, halaman: 402).
Menurut Imam Jalaluddin al-Suyuti, Imam Rifa`i ini menyandang mandat (ijazah) tharîqah dari (1)Syaikh Ahmad al-Wasithi al-Qârî, dari (2)Syaikh Abil Fadhal bin Kamikh al-Kâmakhâni, dari (3)Syaikh Ghulam bin Tarakkân, dari (4)Syaikh Abi Ali al-Rauzabati, dari (5)Syaikh `Ali al-‘Ajami, dari (6)Syaikh Abi Bakar al-Syibli, dari (7)Imam Abul Qasim al-Junaidi aI-Baghdadi, dari (8)Imam as-Sari as-Saqathi, dari (9)Imam Abi Mahfud al-Karkhi, dari (10)Syaikh Imam Dawud al-Thâ’i, dari (11)Syaikh Habib al-Ajami, dari (12)Syaikh Imam Hasan al-Bishri, dari (13)Suami al-Batûl, dan anak dari paman Rasûlullâh, Maulana Amiril Mu’minin al-Imam Ali bin Abi Thalib Krw., dari (16)Sayyidil Makhluqin wa Imamin Nabiyyin wal Mursalin Sayyidina Muhammadin Saw., (Qawa`id al-Mar`iyah fi Ushul al-Tharîqah al-Rifa`iyah, halaman: 107).
Beliau juga menyandang mandat Tharîqah dari pamannya (1)Sayyid Syaikh Manshur al-Batha’i al-Robbani, dari pamannya (2)Syaikh Abil Manshur al-Thayyib, dari (3)Syaikh Abi Sa`id Yahya al-Bukhari al-Wasithi, dari (4)Syaikh Abi Ali al-Qurmuzi, dari (5)Syaikh Abil Qasim al-Sundusi al-Kabir, dari (6)Syaikh Abi Muhammad Ruwaim al-Baghdadi, dari (7)Syaikh Abil Qasim al-Junaidi, dari (8)Syaikh Sari al-Saqathi, dari (8)Syaikh Ma’ruf ibn Fairuz al-Karkhi, dari (9)Imam Ali bin Musa al-Ridha, dari ayahnya (10) Imam Musa al-Kadzîm dari ayahnya (11) Imam Ja’far al-Shâdiq, dari ayahnya (12)Imam Muhammad al-Baqir dari ayahnya (13)Imam ‘Ali Zainal ‘Abidin, dari (16)al-Imam Amiril Mu’minin Asadullah Sayyidina Ali bin Abi Thalib Krw., dari (15)Rasûlullâh Saw., (Qawa`id al-Mar`iyah fi Ushul al-Tharîqah al-Rifa`iyah, halaman: 107 dan Thabâqat al-Kubra, halaman: 200).
Imam Rifa`i sering melihat Nur kebesaran Allâh Swt. Ketika hal itu terjadi, maka dirinya meleleh seperti genangan air. Maka berkat Rahmat Allâh Swt., kemudian mengeras sedikit demi sedikit hingga kembali ke wujud semula. Ia berkata pada santri-santrinya, “Sekiranya bukan karena kemurahan Allâh Swt., niscaya aku tidak akan kembali pada kalian“. Di dalam kitab Thabâqat karya Abdul Wahab Ibnu as-Subki terdapat kisah, bahwa ada seekor kucing yang tidur di lengan baju Imam Rifa`i, Ketika waktu shalat tiba, ia menggunting lengan bajunya dengan pelan-pelan agar tidak membangunkan si kucing. Seusai shalat dan si kucing telah bangun dari tidurnya, ia jahit lengan bajunya sehingga tersambung kembali, (Thabâqat al-Kubra, halaman: 204).
Imam Rifa`i pernah mengambil air wudhu’ pada musim dingin, ketika terlihat ia sedang meluruskan lengan tangannya dalam waktu yang cukup lama dan tidak menggerakkan sama sekali, lalu ada seorang mu`adzin bernama Ya`qub mendatanginya dan langsung mencium tangannya. “Ya’qub, engkau telah mengganggu si lemah ini“, kata Imam Rifa`i seraya menunjuk sesuatu yang berada di lengannya. “Apakah itu?” Tanya Ya’qub. “Ada seekor nyamuk yang sedang menikmati rezekinya dari lenganku. Karena engkau mencium tanganku, nyamuk itu pergi”, jawab Imam Rifa`i. Di antara kata-kata Imam Rifa`i yang terkenal, “Aku telah mencoba menempuh semua jalan menuju kepada Allâh Swt. Namun aku tak menemukan jalan yang lebih mudah, lebih dekat dan lebih pantas selain dari kefakiran, kehinaan dan susah“, (Nûr al-Abshâr, halaman: 253).
Dalam kitab Thabâqat karya Imam al-Sya`rani diterangkan bahwa Imam Rifa`i selalu memulai salam kepada setiap orang yang dijumpai sampai kepada seekor hewan atau anjing sekalipun. Bila mendengar kabar adanya orang sakit, ia akan menjenguknya meski orang yang sakit tersebut tinggal di tempat yang jauh. Ia akan kembali dari menjenguk orang yang sakit tersebut setelah satu hari atau dua hari, (Thabâqat al-Kubra, halaman: 203).
Imam Rifa`i keluar ke jalan untuk menunggu orang buta lewat. Bila ada orang buta lewat, ia ambil tangannya dan menuntunnya. Bila melihat orang tua renta, maka ia mendatangi penduduk desa dan berpesan dengan mengutip sabda Rasûlullâh Saw., “Barangsiapa yang memuliakan orang sudah tua renta (Muslim), maka Allâh Swt. akan menunjuk orang yang akan memuliakannya di hari tuanya nanti”. Bila datang dari perjalanan dan hampir sampai di Ummi Abidah desanya, Imam Rifa`i mengumpulkan kayu bakar. Kayu bakar tersebut diikat, lalu dipanggul di pundaknya. Yang demikian juga diikuti oleh sâlik–sâliknya. Setelah sampai di desanya, kayu bakar tersebut ia bagikan kepada para janda, orang miskin, orang lumpuh, orang sakit, orang buta dan orang tua renta, (Thabâqat al-Kubra, halaman: 203).
Diantara kata-kata Imam Rifa`i yang terkenal; “Di antara tanda tenang bersama Allâh Swt. adalah merasa resah bersama orang-orang kecuali para wali. Sebab tenang bersama mereka (para wali) berarti tenang bersama Allâh Swt”. Selain itu ia pernah berkata, “Sesuatu yang lebih dekat dengan murka Allâh Swt. adalah melihat (dengan perasaan bangga) pada diri sendiri, tingkah laku dan amalnya. Yang lebih parah dari itu adalah meminta imbalan atas amal (ibadah)”. Diantara karamah Imam Rifa`i adalah ketika sedang mengajar di atas kursinya, maka orang yang jauh sekalipun akan mendengar seperti berada di dekatnya. Bahkan, semua penduduk desa sekitar pun turut mendengar seperti berada di tempat pengajiannya sekalipun orang tuli juga bisa mendengar pengajiannya, meski hanya ucapannya saja.
Sebelum meninggal dunia Imam Rifa`i menderita sakit perut. Dalam keadaan demikian, ia mengeluarkan kotoran (berak) setiap hari seperti biasanya selama sebulan lamanya. Ia ditanya akan hal itu, “Dari mana asal semua (kotoran) ini, sedangkan Engkau tidak pernah makan atau minum selama 20 hari?” Ia menjawab, “Ini semua berasal dari dagingku, tapi sekarang dagingku telah habis dan hanya tinggal otakku. Sekarang dari otak yang akan keluar, besok aku akan berangkat menuju Allâh Swt”. Setelah itu keluar kotoran putih dua atau tiga kali, lalu ia wafat pada waktu dhuhur yakni pada hari Kamis 12 Jumadil Ula tahun 578 H. Kalimat terakhir yang beliau ucapkan adalah;
أَشْهَدُ أَنْ لَآإِلٰهَ إِلَّا اللهُ وَأَشْهَدُ أَنَّ مُحَمَّدًا رَسُوْلُ اللهِ
Pada hari meninggalnya banyak sekali orang yang melayat. Ia dikebumikan di kuburan Yahya al-Bukhari, (Thabâqat al-Kubra, halaman: 206).