Affacciata su un canale del fiume (oggi interrato), fino all’800 la chiesa e la piazzetta antistante costituivano un angolo caratteristico della città. Anche il monastero benedettino a più chiostri, con lo xenodochio (ospizio per pellegrini) annesso, ha perso le sue caratteristiche ed è in parte adibito a sede di altre istituzioni. La chiesa fu costruita in età longobarda, ma venne distrutta e ricostruita dopo il terremoto del 1117 e poi di nuovo rifatta nelle forme attuali a partire dal 1481, dagli Olivetani.
La facciata romanico-gotica fu rivestita da un prospetto in marmo bianco, nella parte inferiore (tre arcate, con portale del 1592) da Michele Sanmicheli. La parte superiore della facciata mantiene il rivestimento in cotto e tufo, con decorazione ad archetti. Sul fianco destro della chiesa si erge il campanile, ritenuto opera di fra’ Giovanni da Verona (monaco olivetano, molto attivo all’interno della chiesa come intarsiatore), ma terminato nel 1533.
L’interno a croce latina a 3 navate, con transetto e presbiterio rialzati, conserva una ricca decorazione pittorica. Sono, infatti, presenti opere di Girolamo Savoldo, di Nicolò Giolfino, di Giovan Francesco e Francesco Caroto, di Domenico e Francesco Morone, di Antonio Balestra, di Paolo Farinati, di Francesco Torbido, di Girolamo Mocetto, di Paolo Cavazzola, del Guercino, di Domenico Brusasorci, di Alessandro Turchi (l’Orbetto).
Di grandissimo interesse le tarsie di fra’ Giovanni da Verona, nel coro ligneo e sugli armadi della sagrestia, nonché il leggio e il candelabro intagliati.
Sotto il presbiterio si trova la cripta, costruzione preromanica con colonne e capitelli del VIII sec. Vi sono conservate opere di Domenico Brusasorci, Luca Giordano, Francesco Morone, Antonio Balestra e la popolare "Muletta", preziosa scultura lignea del XIV sec., raffigurante Gesù che entra a Gerusalemme a cavallo di una mula; da qui il nome dato alla statua, che ogni anno veniva portata in processione per le vie cittadine in occasione della Messa delle Palme.