Die Vorgeschichte der Kapellen und Kirchen an diesem Standort ist lang. Doch eindeutig ist, dass ab 1955 der richtige Name des 1881 gebauten barocken Vorläufers vom "Kleinen Michel" aktuell "Katholische Kirche St. Ansgar und St. Bernhard" lautet. Er wurde zur ersten katholischen Kirche in Hamburg nach der Reformationszeit dem Bischof Ansgar geweiht..
Dieser Altbau - durch Kriegseinwirkungen erheblich zerstört - erhielt ab Fundament durch den Architekten Gerhard Kamps und den Architekten Jean-Charles Moreux aus Paris als erster Kirchbau in der Neustadt einen Neubau im sachlichen Stil.
Im Inneren zeigt der von Fritz Fleer 1975 geschaffene "Kreuzweg" auf 14 Bronzetafeln das Leiden Christus auf seinem Kreuzweg über Golgota nach Ostern (2.Foto). Diese Tafeln sind erst seit dem Jahr 2000 im Kleinen Michel zu sehen.
Auf einem Sockel als Teil einer vorgelagerten Mauer steht die bronzene Statue von Kaiser Karl dem Großen. Sie stammt vom Bildhauer Engelbert Peiffer aus einem ehemaligen Brunnen dessen ehemaliger Standort gegenüber vom Domplatz an der Straße Alter Fischmarkt lag.