Zwirner besuchte bis 1821 die Bauschule zu Breslau, anschließend bis 1828 die königliche Bauakademie und die Universität zu Berlin. Bald darauf trat der Schüler Schinkels als Hilfsarbeiter in die königliche Oberbaudeputation ein. In den Jahren 1829 bis 1831 errichtete Zwirner nach dessen Entwurf in Kolberg das Rathaus und nach eigenem Plan die 1834 fertiggestellte reformierte Kirche. 1833 wurde er – nach dem Tode seines Vorgängers Friedrich Adolf Ahlert – mit der Leitung der Bauarbeiten am Kölner Dom betraut. Durch seine Leitung nahm der Dombau einen neuen Aufschwung. Ein besonderes Verdienst erwarb er sich durch die Organisation der Bauhütte des Domes, aus der viele tüchtige, mit den Grundregeln der Gotik gründlich vertraute Bauleute hervorgingen. 1841, nach Abschluss der Restaurierungsarbeiten, legte Zwirner König Friedrich Wilhelm IV. die Pläne für die Vollendung des Domes vor, die dieser akzeptierte. Im Jahr 1842 wurde er durch die Gründung des Zentral-Dombau-Vereins zu Köln ein geborenes Vorstandsmitglied des Vereins. Die Katholische Enzyklopädie von 1913 nennt Zwirner „einen der feinsten Kenner des mittelalterlichen Stils“; dennoch bemängelte sie, dass bei seiner Arbeit am Dom „Monotonie des Entwurfs“ sichtbar wird.
1853 wurde Zwirner zum Geheimen Regierungs- und Baurat ernannt. Nach seinem Tod am 22. September 1861 erschien das Domblatt, die Vereinszeitschrift des Dombauvereins, mit schwarzer Umrandung der Titelseite, eine Ehre die außer Zwirner bisher nur der im selben Jahr zuvor verstorbene König Friedrich Wilhelm IV. erhalten hatte.
Bis zu seinem Tode war Zwirner Dombaumeister von Köln. Beigesetzt wurde er auf dem Melaten-Friedhof. Der Dombau wurde nach seinen Plänen von seinem ehemaligen Stellvertreter und Nachfolger Karl Eduard Richard Voigtel vollendet. Anfänglich dem klassizistischen Stilgefühl noch nahestehend, zeigte er sich in seinen eigenen Bauten dann als Vertreter eines neugotischen Historismus.