Menimba Ilmu dari Para Tokoh Besar
Di masa kecilnya, Habib Ali Al Jufri mulai menimba ilmu kepada bibi dari ibunya, seorang alimah dan arifah billah, Hababah Shafiyah binti Alwi bin Hasan Al Jufri. Wanita shalihah ini berpengaruh besar dalam mengarahkannya ke jalur ilmu dan perjalanan menuju Allah.
Kemudian ia menimba ilmu dari para tokoh besar. Habib Abdul Qadir bin Ahmad As Segaf adalah salah satu guru utamanya. Kepadanya ia membaca dan mendengarkan pembacaan kitab Shahih Al Bukhari dan Shahih Muslim, Tajrid Al Bukhari, Ihya Ulumuddin, dan kitab-kitab penting lainnya. Cukup lama Habib Ali belajar kepadanya, sejak usia 10 tahun hingga berusia 21 tahun.
Nasihat Habib Ali Zainal Abidin Perbanyak Yaa Sayyidii Yaa Rosuulalloh
Inilah Nasihat Habib Ali Zainal Abidin Perbanyak Yaa Sayyidii Yaa Rosuulalloh yang tulis kembali dalam sebuah artikel sebagaimana berikut :
Ya Sayyidii Yaa Rosuulalloh
Duhai Bagindaku, Ya Rosuulalloh
Yaa Rosuulalloh
Yaa Rosuulalloh
Engkau telah wariskan budi pekerti kepada kami, Engkau telah wariskan akhlak mulia kepada kami. Bertahun-tahun lalu engkau telah mewariskan itu semua, namun kami mengabagaikannya.
Pada malam ini kami berjanji untuk menghidupkan teladanmu, Yaa Rosuulalloh. Baik itu kepada orang yang kami cintai ataupun yang memusuhi kami, kepada yang sepaham ataupun tidak.