Kim Tiểu Phương còn là sinh viên ngành sáo của Học viện âm nhạc quốc gia, Phương rất hay tham gia biểu diễn ở các khách sạn lớn trong các buổi dạ tiệc dành cho du khách nước ngoài. Một lần, sau khi nghe Phương biểu diễn một số bài sáo, có một du khách người Hàn Quốc đến bên Phương vỗ tay tán dương rồi hỏi tên. Hôm đó, Phương “bị” người ta gọi là Tiểu Phương vì lúc đó Phương rất nhỏ con. Phương rất thích cái tên này. Sau này, một người anh của Phương
học từ Trung Quốc về nói rằng cái tên Tiểu Phương nếu gắn thêm chữ Kim nữa sẽ rất tốt và nghệ danh Kim Tiểu Phương ra đời từ đó.