Saat KH. Hasyim Asy’ari hendak mendirikan organisasi ulama (belum bernama NU), beliau menyebutnya sebagai Jam’iyyah Ulama (Rekaman pidato KH. As'ad tentang sejarah berdirinya NU), atau perkumpulan para ulama. Di saat para ulama berkumpul di Jl. Bubutan Surabaya, 31 Januari 1926 M/ 16 Rajab 1344 H, adalah Kiai Mas Alwi yang mengusulkan kata Nahdlatul Ulama. Sebelum berdirinya NU, kata Nahdlah (bangkit) bukan kata yang asing. Misalnya ditemukan dalam nama Nahdlatut Tujjar (Kebangkitan Saudagar) dan Nahdlatul Wathan (Kebangkitan Negeri).
Kiai Hasyim bertanya kepada Kiai Mas Alwi: “Mengapa Nahdlatul Ulama?” Kiai Mas Alwi menjawab: “Sebab tidak semua ulama memiliki jiwa Nahdlah, kiai. Ada ulama yang sekedar diam di pondoknya saja, dan yang ada di dalam organisasi ini adalah ulama yang memiliki jiwa Nahdlah”. Kiai Hasyim Asy’ari menerimadan kiai-kiai yang lain menyetujuinya. (Hasil wawancara M. Ma'ruf Khazin dengan Gus Solahuddin Azmi bin KH. Mujib bin KH. Ridwan Abdullah pencipta lambang NU. Hingga kini nama Kiai Mas Alwi jarang disebutkan dalam jajaran pendiri NU, mungkin di antaranya karena faktor tidak punya keturunan. Bahkan makamnya hanya terletak di pemakaman umum, Rangkah Surabaya. Padahal kiprahnya sangat besar, khususnya sebelum berdirinya NU, baik di sekolat Nahdlatul Wathan maupun dalam persiapan berdirinya NU bersama KH. Wahab Hasbullah dan KH. Ridwan Abdullah di Surabaya)
Lalu dari mana asal kalimat Nahdlah dan Ulama diambil? Menurut KH. Abdurrahman Wahid (Gus Dur) [Disampaikan dalam acara Halal bi Halal PCNU Kota Surabaya, 2006] dua kalimat tersebut diambil dari kata mutiara kitab al-Hikam karya Syaikh Ibn ‘Athaillah as-Sakandari dan Surat Fathir ayat 28. Nahdlah diambil dari kalimat:
لَا تَصْحَبْ مَنْ لَا يُنْهِضُكَ حَالُهُ وَ لَا يَدُلُّكَ عَلَى اللّهِ مَقَالُهُ.
“Janganlah kamu bersahabat dengan seorang yang perilakunya tidak membuatmu bangkit, dan ucapannya tidak mengarahkanmu kepada Allah.” [Athaillah as-Sakandari, al-Hikam]
Sedangkan kata Ulama diambil dari ayat berikut:
إِنَّمَا يَخْشَى اللّهَ مِنْ عِبَادِهِ الْعُلَمَاءُ. (فاطر: ٢٨)
“Sesungguhnya yang takut kepada Allah di antara hamba-hamba-Nya, hanyalah ulama.” [QS. Fathir:28]