Sinh ra trong một gia đình nhà giáo nghèo, từ thuở còn là cậu sinh viên năm thứ nhất ngành Thanh Nhạc và đại học Ngoại Ngữ, Ngọc Sơn đã ấp ủ niềm đam mê âm nhạc cho riêng mình. Năm 19 tuổi, anh đoạt giải Ca sĩ xuất sắc nhất Liên hoan tiếng hát toàn quốc.Thành công của Sơn không chỉ nhờ giọng ca thiên phú mà còn ở khả năng sáng tác. Trong đó, nổi bật là những bài hát Ngọc Sơn viết về cha mẹ.

Cho tới nay, đã hơn 20 năm, cái tên Ngọc Sơn đã để lại nhiều cảm xúc trong lòng khán giả, Với thế mạnh là những ca khúc trữ tình nên Ngọc Sơn còn được khán giả đặt cho biệt danh là “Ông hoàng nhạc sến”. Cùng với Ngọc Hải và Ngọc Hà, ba anh em Ngọc sơn đã từng thực hiện nhiều chương trình ca nhạc trên khắp đất nước.

Với giọng nam cao, ấm, khỏe có âm vựng khá rộng, với một phong cách chuyên nghiệp và rất “quái dị” mỗi khi lên sân khấu,Ngọc Sơn không chỉ để lại cho khán giả trong nước và quốc tế ấn tượng với những ca khúc dân tộc đằm thắm, trữ tình mà anh còn có sức cuốn hút bởi nhiều thể loại âm nhạc khác nhau như Pop, Rap, Rock…Ngọc Sơn đã phát hành gần trăm dĩa CD ca nhạc, album cá nhân, hoặc những tuyển tập trong 30 bài nhạc bằng tiếng mẹ đẻ hay ngoại quốc do chính anh sáng tác.