Alla fine del conflitto il Grappa è un immenso cimitero: ben 23.000 sono stati i morti, decine e decine di migliaia i feriti da ambo le parti. I resti di quella che fu la grande IV armata vengono inizialmente tumulati in sepolcreti provvisori: Valpiana, Col Calzeron, Pertica, Mure, Meda, Coston e Cima Grappa.

Tale sistemazione non era però onorevole né duratura: sorse così l'idea di un unico grande cimitero a carattere monumentale. Sulla cima già esisteva il sacello della Madonnina dei Grappa: la statua bronzea raffigurante Maria Ausiliatrice, installata sulla cima nel 1901, era stata mutilata da una granata nemica nel gennaio del '18. Restaurata, ma con i segni appariscenti delle ferite, e decorata con la croce di guerra, essa ritornò sul Grappa nel 1921.
La prima sistemazione dei caduti nei pressi dei sacello, in sei rami di galleria confluenti a raggiera in una cripta centrale, per una lunghezza di circa seicento metri, fu abbandonata per l'eccessiva umidità. Nel 1925 ebbero perciò inizio i lavori per la costruzione dell'Ossario monumentale, inaugurato dieci anni più tardi, il 22 settembre 1935, dal re Vittorio Emanuele III.

L'intera costruzione si adagia, lineare ed imponente, sul costone di vetta, con l'aspetto di una fortezza. Il corpo centrale del monumento, dove sono custoditi i resti di 12.615 caduti, di cui 10.332 ignoti, è costituito da cinque gironi concentrici digradanti a tronco di piramide. Ciascun girone è alto quattro metri e circoscritto da un ripiano circolare largo dieci.
Le spoglie dei 2.283 caduti identificati sono disposte in ordine alfabetico e custodite in loculi coperti da lastre di bronzo con inciso il nome e le decorazioni al valor militare del caduto. Quelle dei 10.332 ignoti sono raccolte in urne comuni più grandi, che si alternano alle tombe singole.

I cinque gironi sono collegati da un'ampia gradinata centrale a cinque rampe, che dalla base del monumento porta alla sommità, dove sorge il piccolo artistico sacello, santuario della Madonnina dei Grappa. Tra il 4° e il 5° girone, in posizione centrale, alla sommità della monumentale scalea che adduce al vertice del monumento, è la tomba del maresciallo d'Italia Gaetano Giardino, che prima di morire (nel 1935) aveva espresso il desiderio di essere sepolto lassù tra i suoi soldatini, come usava chiamare con affetto paterno gli eroici soldati della sua IV^ armata, passata alla storia col nome di Armata del Grappa.
Dal piazzale del tempio si snoda la suggestiva Via Eroica, che corre per 250 metri circa fino al portale Roma, donato dalla città eterna, tra due file di cippi in pietra che portano scolpiti a grandi lettere i nomi delle località legate ai più famosi fatti d'arme delle storiche battaglie dei Grappa.
L'osservatorio è stato ricavato sopra il portale Roma: dal terrazzo si ha modo di osservare l'ampio panorama circostante, in cui si possono individuare i punti di maggiore interesse storico mediante l'ausilio di una planimetria in bronzo che ne riporta le esatte indicazioni.
In un apposito settore, a nord est del Portale Roma, sono state riunite le salme di 10.295 caduti austro-ungarici rinvenute nelle zone circostanti. La sistemazione a loculi dei 295 caduti noti, su due ripiani sovrapposti, è analoga a quella degli italiani. I diecimila caduti rimasti ignoti sono raccolti in due urne ai lati della cappella centrale.
Dal piazzale antistante l'ossario si interna nelle viscere del monte la galleria Vittorio Emanuele III, un'estesissima opera di fortificazione sotterranea i cui numerosi condotti laterali portano alle caverne dov'erano piazzati i cannoni, le mitragliatrici, i riflettori. Accanto all'entrata, la casermetta Milano, ora museo storico, con annessa sala di proiezione di documentari cinematografici dell'epoca.