Vốn có tình yêu ca hát từ nhỏ, nhạc sĩ Thanh Sơn học nhạc từ hồi tiểu học với thầy Võ Đức Phấn (em ruột nhạc sĩ Võ Đức Thu). Đến năm 1959, ông đăng ký tham dự cuộc tuyển lựa ca sĩ của Đài phát thanh Sài Gòn và đoạt giải nhất. Sau khi đoạt giải, nhạc sĩ Thanh Sơn khởi nghiệp con đường ca hát của mình trong ban Tiếng tơ đồngcủa Hoàng Trọng.

Đến năm 1963, ông bỏ hẳn nghề ca sĩ để chuyên tâm sáng tác.

Những ca khúc trong thời kỳ đầu sáng tác của nhạc sĩ Thanh Sơn (trước năm 1975) thường nói về tình cảm của tuổi học trò. Trong đó, những ai từng qua một thời cắp sách đến trường không thể không biết đến lời ca:

“Mỗi năm đến hè lòng man mác buồn/Chín mươi ngày qua chứa chan tình thương ...” (Nỗi buồn hoa phượng)

Hay giai điệu đầy hoài niệm trong ca khúc Lưu bút ngày xanh: "Lòng xao xuyến mỗi khi hoa phượng rơi/Nhắc lại câu chuyện buồn/Trường còn kia ôi mái đổ tường rêu/Nơi kỷ niệm êm ái ...”

Các ca khúc về mùa hè của nhạc sĩ Thanh Sơn thường chứa chan nỗi buồn man mác của giây phút chia tay bạn bè, tình yêu tuổi học trò.

Ngoài ra, nhạc sĩ còn có nhiều tác phẩm trữ tình với chủ đề ca ngợi thiên nhiên, mà quen thuộc nhất là Mùa hoa anh đào: "Mùa xuân sang có hoa anh đào/Màu hoa tôi trót yêu từ lâu ..."

Ông nổi tiếng với dòng nhạc bolero. Nhiều nhà lý luận âm nhạc nhận xét, trước năm 1975, nhạc Thanh Sơn chịu ảnh hưởng của nhạc vàng: chân thật, giản dị, ít trau chuốt.