La basilica prende il nome da un episodio della storia di Roma, riguardante il martirio di quattro marmorari cristiani che, sotto l’imperatore Diocleziano, furono condannati a morte per essersi rifiutati di scolpire degli idoli pagani.
Originariamente la basilica fu edificata sui resti di una ricca residenza aristocratica di età tardoantica, ma andò completamente distrutta nell’incendio del 1084.

La basilica ha l’aspetto di una fortezza, di una rocca medioevale, circondata da imponenti mura e sormontata da torri.

Il cortile è sovrastato dalla massiccia torre del IX secolo, poi trasformata in torre campanaria, la più antica presente a Roma: molto semplice e tozza, è costruita in cortina e presenta un loggiato con quadrifore con pilastrini in marmo.

La chiesa è a tre navate sovrastate da matronei posti su colonne provenienti da monumenti della Roma imperiale. L’abside abbraccia tutte e tre le navate ed è l’unico esempio a Roma. Il pavimento, in stile cosmatesco, è ancora quello originale, formato da grandi dischi di marmo e porfido e da mosaici policromi realizzati con tasselli ricavati da antichi marmi romani.

Nel catino absidale è dipinta la Gloria di tutti i Santi, un tempo detto il “Coro delle Angelesse” per la somiglianza degli Angeli a figure femminili. I sontuosi affreschi che la ricoprono sono opera del pittore fiorentino Giovanni da San Giovanni (1592-1636).

Nella cappella è conservato un gioiello dell’arte pittorica medievale, in cui sono narrate le Storie di papa Silvestro. Tra le scene raffigurate, quella celebre della Donazione di Costantino al Papa, in cui Roma e altre regioni dell’Occidente vengono cedute alla Chiesa.