Ismail Marzuki lahir dan besar di Jakarta dari keluarga Betawi. Nama sebenarnya adalah Ismail, namun kebanyakan orang memanggilnya Ismail Marzuki, ini karena ayahnya bernama Marzuki (Ismail bin Marzuki). Di lingkungan teman-temannya ia kerap dipanggil Mail, Maing, atau Bang Maing.
Ia dilahirkan di Kampung Kwitang, Kecamatan Senen, Jakarta Pusat, pada tanggal 11 Mei 1914. Tiga bulan setelah Ismail dilahirkan, ibunya meninggal dunia. Sebelumnya Ismail Marzuki juga telah kehilangan dua orang kakaknya bernama Yusuf dan Yakup. Kemudian ia tinggal bersama ayah dan seorang kakaknya yang masih hidup bernama Hamidah, yang usianya 12 tahun lebih tua dari Ismail.
Ismail mempunyai ketertarikan yang mendalam pada bidang seni. Ia memulai debutnya di bidang musik pada usia 17 tahun, ketika untuk pertama kalinya ia berhasil mengarang lagu "O Sarinah” pada tahun 1931. Tahun 1936, Ismail memasuki perkumpulan orkes musik Lief Java sebagai pemain gitar, saxophone, dan harmonium pompa.
Pada tahun 1940, Ismail Marzuki menikah dengan Eulis Zuraidah, seorang primadona dari klub musik yang ada di Bandung di mana Ismail Marzuki juga tergabung di dalamnya. Pasangan ini kemudian mengadopsi seorang anak bernama Rachmi, yang juga keponakan Eulis.
Pada masa penjajahan Jepang, Ismail Marzuki turut aktif dalam orkestra radio pada Hozo Kanri Keyku Radio Militer Jepang. Ketika masa kependudukan Jepang berakhir, Ismail Marzuki tetap meneruskan siaran musiknya di RRI. Selanjutnya ketika RRI kembali dikuasai Belanda pada tahun 1947, Ismail Marzuki yang tidak mau bekerja sama dengan Belanda memutuskan untuk keluar dari RRI.
Ismail Marzuki baru kembali bekerja di radio setelah RRI berhasil diambil alih. Ia kemudian mendapat kehormatan menjadi pemimpin Orkes Studio Jakarta. Pada saat itu ia menciptakan lagu Pemilihan Umum dan diperdengarkan pertama kali dalam Pemilu 1955.
Ismail Marzuki tutup usia pada umur 44 tahun 25 Mei 1958 di kediamannya, kawasan Tanah Abang, Jakarta Pusat, karena penyakit paru-paru yang dideritanya.
Beberapa karya Ismail Marzuki yang cukup dikenal antara lain:
- Panon Hideung (1936)
- Di Ambang Sore (1966)
- Aryati (1936)
- Gugur Bunga (1945)
- Melati di Tapal Batas (1947)
- Wanita (1948)
- Rayuan Pulau Kelapa (1944)
- Sepasang Mata Bola (1946)
- Bandung Selatan di Waktu Malam (1948)
- O Sarinah (1931)
- Keroncong Serenata
- Ibu Pertiwi
- Kasim Baba (1937)
- Hari Lebaran (1954)
- Halo, Halo Bandung (1946)
- Bandaneira
- Lenggang Bandung
- Sampul Surat
- Karangan Bunga dari Selatan (1944)
- Selamat Datang Pahlawan Muda (1949)
- Juwita Malam
- Sabda Alam (1950)
- Roselani
- Rindu Lukisan (1950)
- Indonesia Pusaka (1940)
- Selendang Sutera (1946)
- Jangan Ditanya Kemana Aku Pergi