Diantara ibadah dan riyadhohnya, pernah dalam waktu yang cukup lama ia berpuasa dan hanya berbuka dengan kurma yang masih hijau. Juga selama 90 hari ia berpuasa dan sholat malam di lembah Yabhur dan selama 40 tahun beliau sholat subuh di Masjid Baa Isa, di kota Lisk, dengan wudhu Isya. Setiap malam ia berziarah ke tanah pekuburan Tarim dan berkeliling untuk melakukan sholat di berbagai masjid di Tarim diakhiri dengan sholat Subuh berjamaah di masjid Baa Isa. Sepanjang hidupnya ia berziarah ke makam Nabiyullah Hud sebanyak 40 kali. Setiap malam, selama 40 tahun, ia berjalan dari Lisk menuju Tarim, melakukan sholat di setiap masjid di Tarim, mengusung air untuk mengisi tempat wudhu, tempat minum bagi para peziarah, dan kolam tempat minum hewan. Dan sampai akhir hayatnya sang Syeikh tidak pernah meninggalkan sholat witir dan dhuha.

Berbeda dengan para wali di Tarim yang hampir semuanya menutupi hal (keadaan) mereka, Syeikh Abubakar bin Salim mendapatkan perintah agar ia meng-izhar-kan (menampakkan) kewaliannya. Pada awalnya ia sendiri merasa enggan dan ragu, sampai akhirnya hal ini sampai kepada gurunya, Al-Imam Ahmad bin Alwi Bajahdab. Ia manyatakan, "Tidaklah maqam-nya Syeikh Abubakar bin Salim akan berkurang dengan nampaknya kewalian yang dimilikinya, karena kalimat Bismillah telah diletakkan di setiap perkataannya. Dan sungguh tidak berkurang sama sekali kadar maqam kewalian dikarenakan masyhurnya beliau, terkecuali seperti berkurangnya satu biji dalam makanan". Tatkala perkataan guru beliau ini disampaikan kepadanya, Syeikh Abubakar bin Salim melakukan sujud syukur kepada Allah SWT dan berkata, "Aku merasa cukup dengan isyarat pengukuhan ini, sebagai lambang kemegahan dan keagungan yang diberikan Allah SWT".

Setelah kejadian itu, ia berangkat dari Inat menuju Tarim untuk berziarah dan berjumpa dengan guru beliau tersebut, maka setelah sampai gurunya bertanya, "Bagaimanakah bentuk isyarat yang telah engkau terima ?". Ia menjawab, "Sesungguhnya telah datang kepadaku serombongan pemuka kaum Ba'alawi dan bersama mereka ada Syeikh Abdul Qadir Al-Jailani, mereka semuanya memerintahkan kepadaku agar aku mengizharkan diriku. Bagaimanakah pandangan anda sendiri ?. Apakah saya dilarang ?. Sesungguhnya diriku sendiri kurang menyukai kemasyhuran ?". Setelah mendengar perkataan beliau, gurunya diam sesaat dan setelah itu ia berbincang dengan Syeikh Abubakar bin Salim dengan perkataan yang tidak dipahami oleh orang yang hadir kala itu, kemudian gurunya berwasiat kepada Syeikh Abubakar dengan beberapa wasiat dan memerintahkan beliau untuk pulang dan menetap di kota Inat. Pulanglah Sang Syeikh ke Kota Inat, dan disanalah ia kemudian termasyhur. Namanya yang harum semerbak dikenal di seluruh penjuru negeri. Cahaya ilmu dan kemuliaannya berkemilau menerangi orang-orang yang berjalan di jalan Allah SWT. Ia hidupkan kota Inat dengan ilmu. Manusia datang dari berbagai pelosok daerah guna menuntut ilmu darinya sehingga Inat menjadi kota yang ramai oleh pencinta ilmu. Murid-murid beliau datang dari berbagai kota di Yaman dan mancanegara, antara lain Syam, India, Mesir dan berbagai negara lainnya. Diantara beberapa muridnya yang terkenal adalah Habib Ahmad bin Muhammad Al-Habsyi (Shohibus Syi’ib), Habib Abdurrahman bin Muhammad Al-Jufri, Habib Muhammad bin Alwi, Sayyid Yusuf Al-Qodhiy bin Abid Al-Hasany, Syeikh Hasan Basyaib serta beberapa murid lainnya.

Demi kepentingan pendidikan dan pengembangan dakwah, ia mendirikan sebuah masjid dan membeli tanah pekuburan yang luas. Al-Mualim Ahmad bin Abdurrahman Bawazir berkata, "Ada satu kisah yang diriwayatkan dari Al-Mualim Abdurrahman bin Muhammad Bawazir yang ia terima dari beberapa orang arifin, Beliau berkata, "Sesungguhnya tatkala Sayyidina Syeikh Abubakar bin Salim mendirikan masjidnya yang masyhur di Kota Inat, beliau berkata kepada orang yang sedang membangunnya dikala itu yaitu Ibnu Ali sambil menunjuk satu dinding yang baru didirikan, "Dinding yang didirikan ini tidak akan dimakmurkan oleh orang-orang, kami menginginkannya agar sedikit maju". Ibnu Ali menjawab, "Ya Sayyidi yang engkau inginkan adalah kemaslahatan tetapi bagaimanakah kami akan merubahnya lagi, karena dinding ini sudah terlanjur didirikan di tempat ini". Syeikh Abubakar yang saat itu sedang memegang tongkat memukul dinding tersebut, maka dengan izin Allah SWT dinding tersebut berpindah tempat dari tempatnya semula sampai pada tempat yang diinginkan olehnya".

Penduduk Inat sangat mencintai Syeikh Abubakar, hal ini antara lain dikarenakan keluhuran budi pekerti yang dimilikinya. Beliau merupakan seorang dermawan yang suka menjamu tamu. Jika tamu yang berkunjung banyak, maka ia memotong satu atau dua ekor onta untuk jamuannya. Karena sambutan yang hangat ini, maka semakin banyak orang yang datang mengunjunginya. Dalam menjamu dan memenuhi kebutuhan para tamunya, ia tidak segan-segan untuk turun tangan sendiri. Mereka datang terhormat dan pulang pun dengan terhormat. Dalam kesehariannya, ia mengeluarkan sedekah sebagaimana orang yang tidak takut jatuh miskin, setiap hari ia membagikan seribu potong roti kepada fakir miskin.

Beliau dikenal sebagai seorang yang sangat tawadhu, tidak ada seorang pun yang pernah melihatnya duduk bersandar ataupun bersila. Syeikh Abdurrahman bin Ahmad Ba Wazir, seorang yang faqih, berkata, "Selama 15 tahun sebelum wafatnya, di dalam berbagai majlisnya, baik bersama kaum khusus ataupun awam, Syeikh Abubakar bin Salim tidak pernah terlihat duduk, kecuali dalam posisi duduknya orang yang sedang tasyahud akhir".

Semasa hidupnya beliau selalu membaca wirid-wirid tarekat, dan secara pribadi, ia mempunyai beberapa wirid dan selawat. Antara lain sebuah amalan wirid besar miliknya yang disebut Hizb al-Hamd wa al-Majd yang ia diktekan kepada muridnya sebelum fajar tiba di sebuah masjid. Itu adalah karya terakhir yang disampaikan ke muridnya, Allamah Faqih Syeikh Muhammad bin Abdurrahman Bawazir pada tanggal 8 bulan Muharram tahun 992 H.

Selain menyusun wirid dan selawat, Syeikh Abubakar bin Salim juga banyak menulis kitab, terutama yang berhubungan dengan masalah tasawwuf, antara lain Miftah as-Sara'ir wa Kanz adz-Dzakha'ir yang beliau susun sebelum usianya melampaui 17 tahun. Mi'raj Al-Arwah yang membahas ilmu hakikat. Beliau memulai menulis buku ini pada tahun 987 H dan menyelesaikannya pada tahun 989 H. Fath Bab Al-Mawahib yang juga mendiskusikan masalah-masalah ilmu hakikat. Ia memulainya di bulan Syawwal tahun 991 H dan dirampungkan dalam tahun yang sama tangal 9 Dzulhijjah. Ma'arij At-Tawhid, serta sebuah diwan yang berisi pengalaman pada awal mula perjalanan spiritualnya.

Perjalanan kehidupan Syeikh Abubakar bin Salim banyak dibukukan oleh para ulama terkenal, tidak kurang dari 25 buku yang menceritakan biografi kehidupan beliau, antara lain Bulugh Azh-Zhafr wa Al-Maghanim fi Manaqib As-Syeikh Abi Bakr bin Salim karya Allamah Syeikh Muhammad bin Sirajuddin. Az-Zuhr Al-Basim fi Raba Al-Jannat fi Manaqib Abi Bakr bin Salim Shahib Inat oleh Allamah Syeikh Abdullah bin Abi Bakr bin Ahmad Basya'eib. Sayyid al-Musnad pemuka agama yang masyhur, Salim bin Ahmad bin Jindan Al-Alawy mengemukakan bahawa dia memiliki beberapa manuskrip (naskah yang masih berbentuk tulisan tangan) tentang Syeikh Abu Bakar bin Salim. Di antaranya Bughyatu Ahl Al-Inshaf bin Manaqib Asy-Syeikh Abi Bakr bin Salim bin Abdullah As-Seggaf karya Allamah Muhammad bin Umar bin Sholeh bin Abdurrahman Baraja Al-Khatib.

Banyak dari kitab-kitab tersebut yang mencantumkan kisah kekeramatan Syeikh Abubakar bin Salim. Seperti yang diriwayatkan oleh Faqih Muhammad bin Sirojuddin Jamal Rohimahullah dalam kitabnya Bulughizhofri wal Maghanimi fi Manaqibi As-Syeikh Abu Bakar bin Salim RA. Sesungguhnya aku bermusafir ke negeri India pada bulan Asyura, tahun 973 H dengan naik kapal, sampai akhirnya pada satu tempat yang dikenal dengan Khuril Gari. Pada saat itu sangatlah gelap dan hujan turun sangat lebatnya, dan pada saat itu kapal kami mengalami kerusakan. Dan para penumpangnya merasa kebingungan dan ketakutan sehingga mereka menangisi keadaan mereka. Aku sendiri berdoa kepada Allah SWT dan bertawassul kepada para waliullah. Akupun lalu beristighasah dan bertawajjuh hatiku kepada Sayyidi Syeikh Abubakar bin Salim. Setelah aku bertawassul kepadanya, aku mendengar suara beliau seolah-olah begitu dekat denganku. Lalu aku berdiri dan memberitahukan kepada penumpang bahwasanya telah mendapatkan isyarat dan kabar gembira dalam keadaan yang sangat sulit saat itu. Dan ternyata kamipun diselamatkan oleh Allah SWT dengan kemuliaan Sayyidi Syeikh Abubakar bin Salim.

Juga diceritakan dalam Kitab Insus Salikin Ila Maqomatil Washilin yang dikarang oleh Sayyid Abdullah bin Ahmad Baharun. Didalam kitab tersebut diceritakan kisah dari Umar bin Ali Bamansur. Kami mendapat kabar dari seorang arifin, ia bercerita, tatkala wafat seorang wali besar yaitu As-Syekh Makruf Bajamal di negeri Budhoh, salah satu daerah di Dau'an. Kaum solihin melihat dengan ainul bashiroh mereka ada sungai dengan cahaya yang cemerlang mengalir dari Budhoh. Sungai tersebut mengalir ke Syibam dan memenuhi kota itu dengan cahaya hingga ke Ghurfah dan Tarim, sampai akhirnya ke kota Inat dan terakhir bermuara di hadirat Syeikh Abubakar bin Salim. Dari kabar ini, akhirnya seluruh murid Syeikh Makruf mengetahi bahwa maqam kewalian gurunya telah berpindah kepada Syeikh Abubakar bin Salim. Tertulis di dalam Majmu' Kalam Al-Habib Ali Al-Habsyi bahwasanya Syeikh Makruf memiliki murid lebih kurang 100 ribu orang.

Pada waktu menjelang wafatnya, Syeikh Abubakar berada di kamar Sayyid Yusuf Al-Qodhiy bin Abid Al-Hasany salah seorang murid kesayangannya. Sambil memangku gurunya, Sayyid Yusuf membaca ayat Quran yang berbunyi Falammaa Qodhoo Zaidun Wathoro. Ia membaca ayat ini sebagai isyarat keinginan dari Sayyid Yusuf untuk mewarisi kedudukan kewalian Syeikh Abubakar bin Salim dan bila Syeikh Abubakar bin Salim menjawab dengan Zawwajnaa Kahaa, maka itu adalah isyarat bahwa kedudukan beliau akan diwarisi oleh Sayyid Yusuf, namun Syeikh Abubakar bin Salim tidak menjawab seperti itu, malah ia berkata "Wahai Yusuf, engkau menginginkan kedudukan kami. Sungguh kedudukanku adalah untuk anakku dan kalau sekiranya aku tidak mendapati daripada salah satu anak-anakku yang akan mewarisi kedudukanku, maka aku akan tanam maqam kewalianku ini di padang pasir Inat". Jawaban beliau ini mengkiaskan bahwa maqam kewalian Syeikh Abubakar bin Salim hanya diwarisi oleh anak-anak beliau. Dan pada malam Ahad, tanggal 27 Dzulhijjah 992 H, Syeikh Abubakar bin Salim berpulang ke rahmatullah. Dengan meninggalkan keturunan yang kelak juga menjadi pemuka kaum Alawiyyin yang meneruskan jejak ayahnya. Beliau dimakamkan di kota Inat, Hadramaut. Di turbah (makam) Syeikh Abubakar bin Salim terdapat pasir atau tanah (katsib) yang sangat termasyhur kemujarabannya bagi orang-orang yang menginginkan keberkahan. Yang termasyhur bahwa tanah ini bisa menyembuhkan berbagai macam penyakit dan oleh karena itulah juga Syeikh Abubakar bin Salim mendapatkan gelar Maula Katsib. Diceritakan oleh Sayyid Abdul Qodir bin Abdullah bin Umar bin Syeikh Abubakar bin Salim, beliau berkata, "Suatu ketika aku dan guruku Al-Arif Billah Ahmad Al-Junaid berziarah ke Inat dan kepada Sayyidi Syeikh Abubakar bin Salim. Sesudah ziarah guruku menginginkan dan mengambil pasir di makam tersebut untuk menyembuhkan luka yang dideritanya pada salah satu kakinya. Dan ia meminta kepada salah seorang daripada keturunan Syeikh Abubakar agar meletakkan pasir tersebut atas luka beliau, dan luka tersebut sembuh dengan seizin Allah SWT.

Selang beberapa waktu setelah wafatnya Syeikh Abubakar bin Salim, berkumpullah anak-anak beliau untuk mencari dan memilih siapa diantara mereka yang akan menjadi khalifah menggantikan ayah mereka. Mereka berkumpul di suatu Syi'ib, dan barang siapa mendapat tanda dari Allah SWT, maka dialah yang dipilih sebagai khalifah. Ternyata yang mendapatkan tanda adalah Sayyidina Husein bin Syeikh Abubakar. Ia mendapatkan langsung satu bejana yang berisi air turun dari langit. Maka anak-anak Syeikh Abubakar bin Salim pun meminum daripada bejana tersebut dan mereka berkata kepada Sayyidina Husein, "Engkaulah yang berhak menjadi khalifah".

Pada riwayat yang lain, diceritakan oleh Al-Imam Al-Habib Ali bin Muhammad bin Husin Al-Habsyi, "Tatkala Syeikh Abubakar bin Salim wafat, maka setiap anak-anak daripada Syeikh Abubakar bin Salim menginginkan menjadi khalifah menggantikan ayahanda mereka. Maka ibunda mereka berkata, "Kalian semuanya mempunyai keberkahan, akan tetapi siapa yang keramatnya terlihat maka ia akan menjadi khalifah". Maka anak-anak Syeikh Abubakar bin Salim pergi ke Wadi Inat. Dan mereka membentangkan sajadah masing-masing ditengah Wadi Inat, lalu melakukan shalat serta bermunajah kepada Allah SWT. Tak lama kemudian turun kepada Syeikh Umar Al-Mahdhar bejana dan rantai emas dari langit. Maka Syeikh Umar memanggil saudara-saudaranya, "Apakah kalian mendapatkan sesuatu?". Mereka menjawab "Tidak". Maka merekapun menyerahkan kekhalifahan kepada Syeikh Umar, namun kekhalifahan diserahkan dan dipegang oleh Sayyidina Husin. Beliau berkomentar mengenai saudaranya Syeikh Umar Al-Mahdhar. "Sesungguhnya aku bersahabat dengan saudaraku Umar Al-Mahdhar dan aku tidak merasa sebagai saudaranya, akan tetapi aku merasa dan menempatkan diriku sebagai pembantu dan murid baginya".

Dikisahkan bahwa Sayyidina Husin sekali waktu mendapatkan gangguan dari para pembesar setempat beserta pasukannya, sehingga membuatnya berhijrah ke Mekkah dan Madinah dan menetap disana selama 7 tahun. Pada suatu hari beliau didatangi oleh Nabi Khidir AS dan berkata, "Sesungguhnya datukmu Rasulullah SAW mengucapkan salam atasmu dan memerintahkan dirimu agar segera pulang ke Hadramaut". Nabi Khidir memberitahukan kepadanya bahwa rasa permusuhan dari musuh-musuhnya akan dihilangkan oleh Allah dan musuh-musuh beliau akan berubah mencintainya. Dan Nabi Khidir memberitahukan kepadanya agar berjalan bersama satu kafilah Arab di Hadramaut. Nabi Khidir juga memberitahukan kepada beliau bahwa kafilah ini akan mempunyai hubungan yang dekat dengan keturunan beliau sampai hari kiamat. Selain itu Nabi Khidir memberikan kepada Sayyidina Husin 3 buah benda, yaitu bejana atau gelas yang besar, tongkat dan gendang. Ketika sang Sayyid pulang, ia mendapati kaum syiah zaidiyah sedang merajalela dan berbuat semena-mena. Lalu beliau memerintahkan agar menabuh gendang yang diberikan oleh Nabi Khidir diatas gunung. Ketika gendang tersebut ditabuh, dengan izin Allah, kaum Zaidiyah yang tadinya berlaku semena-mena tiba-tiba bertingkah seperti orang gila, dan merekapun kabur tercerai berai. Belakangan Imam Ahmad bin Hasan Al-Atthas mengatakan, "Kami telah melihat bejana yang diberikan Nabi Allah Khidir kepada Sayyidina Husein bin Syeikh Abubakar bin Salim beserta tongkatnya ada di Kota Inat".

Hingga saat ini masih banyak keturunan Syeikh Abubakar bin Salim, disebutkan didalam kitab Mu'jamul Lathief, selain dari jalur Sayyidina Husin juga diantaranya yang terkenal dengan fam Al-Hamid, Bin Jindan, Al-Muhdar dan Al-Haddar. Keluarga Bin Jindan, nasab mereka bersambung kepada Ali bin Muhammad bin Husein bin Syeikh Abubakar bin Salim. Keluarga Al-Hamid, merupakan keturunan dari Al-Hamid bin Syeikh Abubakar bin Salim. Keluarga Al-Muhdhar, keturunan Umar Al-Muhdhar. Syeikh Abubakar bin Salim memberi nama Umar Al-Muhdhar karena ingin mendapatkan berkah Sayyidina Umar Al-Muhdhar bin Abdurrahman As-Seggaf, juga dengan harapan agar anaknya dapat meneladani dan mewarisi ilmu yang dimiliki oleh Umar Al-Muhdhar, seorang arif billah yang amat dikaguminya. Dan keluarga Al-Haddar, yang merupakan keturunan Ahmad Al-Haddar bin Abdullah bin Ali bin Muhsin bin Husin bin Syeikh Abubakar bin Salim.