Nhạc sĩ Nguyễn Đức Toàn sinh ngày 10-3-1929 tại Hà Nội, trong một gia đình có truyền thống nghệ thuật: cụ thân sinh là nhà điêu khắc, các anh chị em hầu hết đều làm âm nhạc. Ít ai biết được, ngành nghề ông say mê và theo học ban đầu là hội họa: Năm 1944, ông học vẽ tại trường Cao đẳng Mỹ thuật Đông Dương. Cách mạng Tháng Tám năm 1945, nhạc sĩ sáng tác bài hát đầu tiên Ca ngợi đời sống mới.
Năm 1946, nhạc sĩ tham gia Đoàn kịch Sao Vàng cùng nhạc sĩ Đỗ Nhuận, và tham gia kháng chiến chống Pháp. Trong thời gian này, ông đã sáng tác bài hát nổi tiếng Quê em miền Trung du. Bài hát này thời kỳ kháng chiến vẫn vang lên trong vùng tạm chiếm trên sóng phát thanh với hai giọng ca Thái Thanh – Thái Hằng. Trong thời kì này, nhạc sĩ đảm nhiệm vai trò Phó đoàn Đoàn Văn công Việt Bắc, tham gia diễn kịch, vẽ minh hoạ, trình bày báo, và sáng tác âm nhạc, với những bài Chiều hậu phương, Lúa mới và một số ca cảnh.
Giai đoạn sau năm 1954, ông viết Mời anh đến thăm quê tôi, Biết ơn chị Võ Thị Sáu, Noi gương Lý Tự Trọng, Bài ca Ngô Mây, Ca ngợi Trần Thị Lý, Ca ngợi Nguyễn Văn Trỗi...
Trong những năm 1968-1970, ông tu nghiệp ở Nhạc viện Kiev (Ukraina), tại đây ông đã viết các tác phẩm khí nhạc như Sonate viết cho violon (dàn dựng và xuất bản ở Moskva), Tổ khúc giao hưởng Tổ quốc (dàn nhạc Novosibirk)...Khi về nước, ông viết những ca khúc, hợp xướng như Bài ca xây dựng, Tiếng hát buổi bình minh, Bài ca chiến thắng...
Sau ngày giải phóng miền nam, thống nhất đất nước, nhạc sĩ chuyển sang sáng tác những ca khúc đầy chất trữ tình như Từ ngày hôm nay, Tình em biển cả, Chiều trên bến cảng, Hà Nội một trái tim hồng
Năm 2000, nhạc sĩ được trao tặng Giải thưởng Hồ Chí Minh về Văn học - Nghệ thuật.