La basilica di San Giovanni Battista dei Fiorentini ha acquisito nel corso dei secoli opere di pregio assoluto, tutte inserite in un contesto storico e artistico coerente. Con la crescita della comunità fiorentina in Roma, la chiesa si è poi circondata di ambienti atti a svolgere un'attività religiosa e sociale costante, ambienti come l'oratorio di Sant'Orsola della Pietà e l'Ospedale della Natione. Con l'arrivo della monarchia e del regime fascista, che inaugurarono una stagione di imponenti sventramenti urbanistici, l'oratorio e l'ospedale vennero abbattuti verso la fine del XIX e degli inizi del XX secolo, le opere d'arte furono depositate in diverse strutture e alcune furono ospitate nella chiesa.
Il Museo odierno è stato ideato per permettere una degna sistemazione di queste opere, con l'intento di preservarle e renderle accessibili al pubblico, e insieme di ricostruire e conservare la memoria dell'evoluzione artistica sociale e devozionale del quartiere rinascimentale e barocco di Roma.
Il Museo, dedicato all'arte sacra, venne inaugurato nel 2001 al termine di tre anni di lavori. Il progetto, ha previsto la ristrutturazione di locali prestigiosi e nascosti - come il sottotetto della navata destra della chiesa - e ha rappresentato la prima struttura museale nata dopo l'istituzione del Polo museale romano. È stata così creata una struttura moderna e versatile nel pieno rispetto della struttura antica. Il Museo è strutturato in una sequenza di sale in una configurazione da galleria, portate a uguale livello grazie a un sistema di solai rivestiti da una pavimentazione in legno. Per la copertura si è deciso di lasciare in vista le capriate lignee originali della navata, permettendo la naturale illuminazione degli ambienti per mezzo di lucernari.
La struttura è raggiungibile dalla chiesa e dall'ingresso indipendente del Palazzo dell'Arciconfraternita della Pietà dei Fiorentini.