Queste due chiese affiancate e comunicanti attraverso una serie di archi aperti nella parete in comune, insieme costituiscono un organismo tra i più interessanti e suggestivi del paese.
La chiesa più antica è quella di destra, dedicata a S. Oliva, patrona fin dal medioevo di Cori; In base ad una iscrizione, che era affissa su una facciata della chiesa, alcuni storici hanno affermato che in questo luogo esisteva un edificio di culto cristiano già dal II secolo, costruito sui resti di un tempio romano dedicato a Giano.