Njegov pojam potječe od grčkih riječi, ksilon (drvo) i telefon (zvuk), što znači " zvuk drveta ". Ksilofon je udaraljkaški glazbeni instrument formiran od niza drvenih listova različitih veličina i vodoravno poredanih kao tipke kojima se udara palicama za stvaranje zvukova. Podrijetlo ksilofona potječe iz jugoistočne Azije u četrnaestom stoljeću, stoljeće kasnije doseglo je Afriku, a njegova se upotreba proširila po cijelom kontinentu, postajući važan instrument njihove kulture.
Afrički su ga robovi uveli u Latinsku Ameriku, gdje je poznata kao marimba. U 1500-ima ovaj je instrument dospio u Europu, a kao narodni instrument koristio se u Srednjoj Europi, a poljski i ruski prevoditelji su u 19. stoljeću popularizirali ksilofon u zapadnoj Europi. Ovaj instrument ima veliku važnost u brojnim klasičnim djelima. Njegovo prvo orkestralno pojavljivanje bilo je u Danca macabre Camille Saint-Saëns (1874); ovaj skladatelj koristio ga je i u "Fosilima" Karnevala životinja (1886), poput Igora Stravinskog u Petruški (1911).
Ksilofon zahtijeva veliku virtuoznost perkusionista; Njegova trenutna tehnika vrlo je složena i zahtijeva sjajnog stručnjaka. Njegova uloga u trenutnom orkestru nije pružiti egzotični dodir djelu, već je to neovisan i vrlo važan ton unutar razvoja orkestra. Instrumenti poput ksilofona, ali s metalnim folijama, nazivaju se metalofonima.