Dua ulama Arif billah ini hidup satu masa. Dan bertempat di lokasi yang tidak berjauhan; sama-sama tinggal di Pekalongan. Dikisahkan saking kompaknya, ketika Habib Hasyim hendak melakukan satu kegiatan atau satu rencana Habib Hasyim selalu meminta ijin dan saran dari Habib Ahmad bin Thalib Alathas.

Pun demikian sebaliknya dengan Habib Ahmad bin Thalib. Jika belum meminta restu dari Habib Hasyim, Habib Ahmad tidak akan berani melangkah.

Kalau Habib Hasyim sudah datang ke tempat Maulid, sementara Habib Ahmad bin Thalib belum datang Habib Hasyim menangguhkan acara, sampai datangnya Habib Ahmad bin Thalib. Begitu juga dengan Habib Ahmad bin Thalib, jika beliau datang pertama, sementara Habib Hasyim belum datang, beliau urung memulai. Kekompakan keduanya terlihat ketika seorang Habib asal Hadhramiy hendak pamitan pada keudanya.

Dikisahkan,  Pada permulaan Abad dua puluh Habib Muhammad Ali Muhsin datang dari Hadhramaut ke Indonesia, tepatnya kota Pekalongan. Setelah tinggal di Indonesia sang Habib merasa tidak kerasan.
Ketika hendak pamitan, beliau merasa kebingungan. Mana yang pertama didatangi, Habib Ahmad Bin Thalib Al Athas ataukah Habib Hasyim bin Umar bin Yahya. ‘Habib Ahmad atau Habib Hasyim’, terus saja sambil jalan berfikir demikian.

Ketika beliau datang kerumah Habib Ahmad. Habib Muhsin belum sempat bicara, Habib Ahmad berseloroh; ‘Ya Muhsin ila Habib Hasyim bn Umar Awalan, hai Muhsin pamitan ke Habib Hasyim dahulu’. Langsung saja beliau  datang ke Habib Hasyim. Ketika berpamitan ke Habib Hasyim, Habib Hasyim mengatakan; ‘kuburanmu disini, dan disini kotamu, nanti kamu yang menggantikan kami semua’.

Habib Muhsin datang ke Habib Ahmad, Habib Ahmad berkata; ‘apa yang dikatakan Habib Hasyim adalah perkataanku. Kemudian hari terbukti, ketika Habib Ahmad wafat Habib Muhsin yang menggantikan Habib Ahmad mengajar di Salafiyah bersama Habib Muhammad Abdurrahman. Ketika Habib Hasyim Wafat yang menggantikan menjadi imam  Masjid An Nur adalah Habib Muhsin. Ajib.