Assolutamente vera e conosciutissima è l'affermazione secondo la quale il vibrafono venne inventato attorno al 1921 e, da questa data, prese presso a diffondersi in tutta la propria terra natia, gli Stati Uniti.
Pochi però conoscono lo strumento da cui venne poi preso spunto per ideare il vibrafono. Infatti, questo strumento non venne ideato di sana pianta, bensì venne sviluppato partendo dal glockenspiel, uno strumento che nasce in Germania ed è costituito da piastre metalliche da suonarsi con dei battenti. Per poter meglio rendere un'idea di come è, all'incirca un glockespiel, potremo dire che è del tutto simile a quello strumento musicale con piastrine di metallo colorate con cui giocano i bambini.

Il particolare suono di questo primo strumento lo fece entrare a far parte di numerose composizioni assai famose, come "Il flauto Magico" di Mozart, nonchè di uno dei più diffusi strumenti per orchestra. Fu probabilmente qusta sua diffusione a portare la fama del glockenspiel oltreoceano, consentendo così la nascita del vibrafono.

Tornando brevemente al vibrafono, possiamo dire che una grande diffusione ebbe inizio subito dopo la sua comparsa del 1921, soprattutto grazie alla musica jazz che subito seppe riconoscere le grandi potensialità di questo strumento. Eppure, perchè il vibrafono possa entrare a pieno titolo nell'alveo degli strumenti principe della musica jazz, si dovranno attendere gli anni '50 e l'arrivo di importanti gruppi musicali che promossero e valorizzarono il suono di questo strumento.

Un altra conquista venne ottenuta negli anni '60, quando il vibrofono venne promosso, da un ruolo di strumento melodico, ad un fondamentale ruolo armonico; ciò fu possibile grazie all'introduzione della tecnica che permettava di utilizzare due battenti per mano, così da creare armonie ed accrodi più articolati.