Horst Fuhrmann studierte nach Kriegsdienst und Kriegsgefangenschaft an der Universität Kiel die Fächer Geschichte, Klassische Philologie und Rechtsgeschichte und wurde 1952 mit der preisgekrönten Arbeit über mittelalterliche Patriarchate promoviert. Er arbeitete von 1954 bis 1957 am Institut der Monumenta Germaniae Historica in München und am Deutschen Historischen Institut in Rom und habilitierte sich 1960 in Kiel in den Fächern Mittlere und Neuere Geschichte mit einer Schrift über die Bedeutung und Wirksamkeit der Pseudoisidorischen Dekretalen.
1962 wurde er auf den Lehrstuhl für Mittlere und Neuere Geschichte an der Universität Tübingen berufen. Von 1971 bis 1994 war er dann Präsident der Monumenta Germaniae Historica und Ordinarius für Geschichte an der Universität Regensburg, 1974 wurde er ordentliches Mitglied der Bayerischen Akademie der Wissenschaften und war von 1992 bis 1997 deren Präsident.
Fuhrmann wurde mehrfach mit Ehrenpromotionen bedacht und erhielt unter anderem das Große Verdienstkreuz des Verdienstordens der Bundesrepublik Deutschland mit Stern und den Orden Pour le mérite für Wissenschaften und Künste. Er ist korrespondierendes Mitglied der Académie des Inscriptions et Belles-Lettres und auswärtiges Mitglied der Accademia Nazionale dei Lincei. Er gehört zur Kommission für die Herausgabe des Mittellateinischen Wörterbuchs bei der Bayerischen Akademie der Wissenschaften.