Sheikh Ismail dilahirkan pada 17 Syaaban 1311 H. Beliau merupakan anak kepada Haji Muhammad Salleh Bin Haji Hashim juga cicit kepada Haji Ishak, pengasas pondok Pulau Pisang dan Kadi Besar Negeri Kubang Pasu semasa pemerintahan Tunku Anom.

Beliau mendapat pendidikan awal daripada bapanya di Pondok Pulau Pisang. Pada tahun 1330H, beliau berangkat ke Mekah bersama ayahnya untuk menyambung pelajaran di Masjidilharam. Setelah tamat, beliau menyambung lagi pengajiannya di Universiti Al-Azhar, Mesir selama lima tahun mulai 1346H hingga 1351H dan berjaya mendapat ijazah Aliahtul Qarbak. Beliau banyak menghasilkan kitab berkaitan dengan sistem dan peraturan persekolahan agama waktu itu. Malangnya, kebanyakan kitab yang berguna itu hilang dan hanya dua buah sahaja yang ditemui iaitu Hidayat-An-Nufus dan Tarbiyat-Ul-Auladiyah.

Walaupun sibuk dengan jawatan itu, beliau masih sempat melawat dan mengajar di pondok Pulau Pisang yang sedang ditadbir oleh bapanya, Haji Muhammad Salleh. Beliau turut memberi sumbangan fikiran, tenaga dan modal untuk meningkatkan taraf pondok itu sebagai pusat pendidikan. Sheikh Ismail bertanggungjawab memberi nama kepada pondok itu sebagai Madrasah Ishakiah dan serentak dengan itu kaedah pendidikan tradisional dikemaskinikan mengikut sistem pengajaran moden ketika itu.

Sheikh Ismail meninggal dunia pada 23 Syawal 1364H dalam usia 53 tahun iaitu setahun selepas Haji Muhammad Salleh meninggal. Jenazahnya dikebumikan di perkuburan Masjid Pulau Pisang berhampiran kubur ayah dan nendanya. Setelah beliau pulang ke rahmatullah, nadi keunggulan pondok itu sebagai pusat ilmiah Islam diteruskan oleh adiknya, Tuan Haji Kassim.