Er war Abgeordneter für Eisleben in der Frankfurter Nationalversammlung, Teilnehmer am Gothaer Nachparlament und ab 1866 Abgeordneter des preußischen Abgeordnetenhauses. Er gehörte zu den Unterstützern Bismarcks. Haym war ab 1868 ordentlicher Professor für deutsche Literatur an der Universität Halle, 1873/74 wurde er Rektor der Hallenser Alma Mater.