Từ những năm 1.500 đến 1.000 năm trước công nguyên (TCN), người ta đã tìm được những văn tự bằng tiếng Sanskrit (một loại chữ cổ đại của Ấn Độ) miêu tả về một loại gỗ thơm được dùng để khử mùi được gọi là “agāru” hay “aguru” có nghĩa là một loại “gỗ không nổi” (Non-floating wood).
Một số văn tự Ấn Độ cổ khác như tiếng Pali (kinh Phật nguyên thủy viết bằng chữ này) gọi trầm hương là “agalu” hay tiếng Prakrit gọi là “aguru”
Vào thế kỷ 2 TCN, con đường tơ lụa được hình thành, kết nối phương Đông với phương Tây, những lái buôn Trung Quốc mang những sản vật như tơ lụa, đồ sứ, hương liệu, gia vị và cả trầm hương sang phương Tây để trao đổi. Từ đó Trầm hương cũng có thêm nhiều tên gọi mới. Người Arab (Ả rập) gọi Trầm hương là “ālūwwa”, người Isarael cổ gọi là “aḥāloth” còn người Greek (Hy Lạp) thì gọi là “agallochum” có lẽ đều là bắt nguồn từ tiếng Sankrit (agāru) nêu trên.
Nhờ con đường tơ lụa mà cả những xứ tận trời tây cũng đã biết tới Trầm hương và gọi tên theo gốc cổ. Như trong tiếng Bồ Đào Nha gọi là “aguila” hoặc “d’aguila”, tiếng Pháp gọi trầm hương là “d’aigle” còn tiếng Anh thì như nhiều người biết gọi là “agarwood”.
Ở Việt Nam, do Trầm Hương trong tự nhiên phân bố từ các tỉnh từ Thanh Hóa vào đến Bình Thuận và Tây Nguyên. Thời kỳ con đường tơ lụa phát triển mạnh thì vùng đất này là của Champa. Do đó, các lái buôn Trung Quốc chủ yếu mua của người Champa và mang sang phương Tây. Thời kỳ này, người Việt Nam vẫn chưa biết nhiều về Trầm Hương.
Trầm Hương được người Việt Nam ứng dụng nhiều trong lãnh vực: Quân Sự và Y Tế tầm 600 năm trở lại đây khi các Chúa Nguyễn làm chủ vùng đất từ Thanh Hóa trở vào miền nam Việt Nam. Do Trầm Hương có tính sát khuẩn, nên mỗi khi đến vùng đất mới khai phá, quân lính được cho uống rượu Trầm Hương để phòng các bệnh về đường tiêu hóa, hô hấp, …. Một phần rượu Trầm Hương dùng để phun xịt những doanh trại mà lính đóng quân để sát khuẩn. Vì nơi nào tập trung đông người ở chung như doanh trại quân đội, chỉ cần một vài người bị bệnh thì rất dễ gây ra dịch bệnh lây lan. Tuy nhiên, trong cả quá trình mở cõi về phương nam, quân lính Việt dù luôn phải sống trong môi trường khắc nghiệt rừng thiêng nước độc, ông cha ta không phải chịu bất cứ một trận dịch bệnh nào là nhờ vào việc ứng dụng trầm hương vào đời sống như chữa bệnh cũng như phòng bệnh.
Vậy, tên trầm hương trong tiếng Việt là từ đâu? Tiếng Trung Quốc gọi Trầm Hương là “Chén Xiang” đọc âm gần giống: “Chìm Hương” có lẽ bắt nguồn từ ý nghĩa của từ “agāru” (một loại gỗ không nổi) của tiếng Sankrit.
Ngoài ra, tiếng Hán còn có từ “Kilam” được phiên âm tiếng Việt ra là “Kỳ Nam”.
Với ảnh hưởng mạnh của tiếng Hán Việt đối với lịch sử văn hóa Việt Nam, có lẽ từ “Trầm Hương” của ta được mượn từ đấy cũng với ý nghĩa là “một loại hương thơm chìm xuống”