Merkel, dessen Vater Lehrer und Organist war, erhielt bei den Lehrern Ernst Julius Otto und Johann Schneider Unterricht in Kontrapunkt und Orgel. Für einige Jahre nahm er eine Lehrtätigkeit an der Dresdner Schule wahr und wurde Organist an der Waisenhauskirche und Kreuzkirche, bevor er im Jahr 1864 Hoforganist an der katholischen Hofkirche in Dresden wurde. Von 1867 bis 1873 war er Dirigent der Dreißigschen Singakademie und seit dem Jahr 1861 Lehrer am Königlichen Konservatorium für Musik. Merkel machte sich einen Namen als virtuoser Organist und Komponist für die Orgel. Er war Lehrer des Dresdner Chorleiters und Komponisten Hugo Richard Jüngst.
Am 12. Dezember 1857 wurde er in die Loge „Zum goldenen Apfel“ aufgenommen und im März 1866 deren Meister.