Già dagli anni della fondazione, il Corpo dei Carabinieri ebbe i suoi primi trombettieri, nucleo originario di musicanti che via via, con successivi riordinamenti nell'organico e nella dotazione degli strumenti, diede vita nel 1862 alla "Fanfara".
Primo capo Fanfara della Legione Allievi Carabinieri fu nominato il maresciallo d'alloggio a cavallo Luigi Cajoli. Il 1° febbraio 1886 il Ministero della Guerra, su proposta del comando generale dell'Arma, approvò una nuova formazione organica per la Fanfara della Legione Allievi, trasferita l'anno precedente da Torino a Roma, che fu chiamata "Musica" e Cajoli divenne capo-musica con assegnazione alla categoria degli ufficiali con la sua nomina a sottotenente. Il maestro Cajoli è autore di una Marcia d'Ordinanza dei Carabinieri Reali usata come marcia d'ordinanza fino al 1929, allorquando fu sostituita da “La Fedelissima”.
Dalla Musica derivò, infine, la "Banda" che, venne istituita il 15 marzo 1920, col seguente dispaccio del Ministero della Guerra “Istruzione per la costituzione e il servizio della Banda dell'Arma dei Carabinieri Reali".
Il corpo musicale, divenuto così, anche negli atti ufficiali, Banda dell'Arma e non più della sola Legione Allievi, fu articolato in 70 esecutori, oltre il maestro direttore.
Il 30 ottobre 1920 la Banda scortò all'Altare della Patria la Bandiera dell'Arma, che ricevette, nel corso di una solenne cerimonia, la prima Medaglia d'Oro al Valor Militare per il validissimo contributo alla vittoria delle armi d'Italia (1915-1918).
Al maestro Cajoli successe, il 1°aprile 1925, il maestro Luigi Cirenei, allievo di Pietro Mascagni e musicista di rara sensibilità, che mantenne alta la tradizione ed elevò ulteriormente il livello artistico del complesso.
Dopo le vicende della Seconda Guerra Mondiale, fu lo stesso maestro Cirenei, al quale si deve la composizione della Marcia d'Ordinanza dell'Arma dei Carabinieri, "La Fedelissima", dalle note limpide e solenni, ad iniziare l'opera di ricostruzione. Nel 1947 subentrò il maestro Domenico Fantini, il quale, proseguendo l’opera di Cirenei con un lavoro profondo e analitico e con fervente passione da grande artista, rinnovò ed arricchì ulteriormente il patrimonio della Banda.
Nel 1972, al maestro Fantini successe il maestro Vincenzo Borgia, che, dotato di spiccata sensibilità artistica, trasfuse nei suoi orchestrali un linguaggio nuovo nel quale presero vita tutti gli elementi più evoluti dell'arte musicale. Il maestro Borgia è tra l’altro l’autore della Marcia d’ordinanza dei Corazzieri “Fanfara Solenne”.
Dal 1° Luglio 2000 la Banda è diretta dal maestro Massimo Martinelli. Oggi, con i suoi 102 orchestrali, assunti e selezionati attraverso concorsi pubblici, la Banda Musicale dell'Arma dei Carabinieri costituisce una complessa struttura in grado di interpretare composizioni tra le più celebrate. Il suo ricchissimo repertorio va dalle tradizionali marce militari ai brani classici ed a quelli moderni e contemporanei.