Peter Herde wurde 1933 im oberschlesischen Ratibor geboren. Er war der Sohn von Konrektor Reinhard Herde und Hildegard Herde. In Ratibor verbrachte er seine Kindheit und die ersten Jugendjahre. Seit dem Herbst 1943 besuchte er das Realgymnasium Ratibor. Die Familie flüchtete Ende Januar 1945 vor der Roten Armee und fand ihre neue Heimat im westfälischen Arnsberg. In Neheim-Hüsten legte er 1953 das Abitur ab. Im Sommersemester 1953 begann er an der Universität Heidelberg das Studium der Fächer Physik und Mathematik. Fritz Ernst weckte durch seine Vorlesungen Herdes Interesse für Geschichte. Im Jahr 1954 ging Herde an die Universität München, um Geschichte, Germanistik und Anglistik zu studieren. Durch Friedrich Baethgen wandte Herde sich der Papst- und Reichsgeschichte des Spätmittelalters zu. Bernhard Bischoff brachte ihm die Paläographie, die mittellateinische Literaturgeschichte und die Handschriftenkunde näher. Durch Peter Acht begann er sich mit den Papsturkunden des 13. Jahrhunderts zu beschäftigen. In München wurde er 1958 unter der Betreuung von Peter Acht mit der Arbeit Beiträge zum päpstlichen Kanzlei- und Urkundenwesen im 13. Jahrhundert zum Dr. phil. promoviert. Die Dissertation wurde zum Standardwerk der päpstlichen Kanzleigeschichte und Diplomatik. Die Arbeit erschien 1967 in einer zweiten, erheblich erweiterten Auflage. Ein Jahr nach seiner Promotion wurde Herdes erster wissenschaftlicher Aufsatz Gestaltung und Krisis christlich-jüdischen Verhältnisses in Regensburg am Ende des Mittelalters veröffentlicht. Der Aufsatz war ein Ergebnis seiner Arbeit an der Ausgabe der Urkunden und Aktenstücke zur Geschichte der Juden in Regensburg.
Von 1960 bis 1962 arbeitete er am Deutschen Historischen Institut Rom. Großen Einfluss übte der dortige Direktor Walther Holtzmann auf ihn aus. In Rom knüpfte er freundschaftliche Beziehungen zu Hermann Goldbrunner, Dieter Girgensohn, Norbert Kamp, Arnold Esch, Rudolf Hiestand und Rupert Hacker. Seine Habilitation befasste sich mit dem Formularium audientie litterarum contradictarum. Die Arbeit war methodisch innovativ, da Herde Fragen der Urkundenwissenschaft und der Kanonistik miteinander verknüpfte. Nach seiner Habilitation 1965 – ebenfalls bei Peter Acht – wirkte er in München als Dozent. Bereits 1968 wurde er im Alter von 35 als ordentlicher Professor für mittlere und neuere Geschichte an die Universität Frankfurt berufen. Die Position trat er im Folgejahr an. Ab 4. Juni 1976 lehrte er als ordentlicher Professor für Geschichte, insbesondere mittlere Geschichte, Landesgeschichte und historische Hilfswissenschaften, an der Universität Würzburg. Im Jahr 2001 wurde er emeritiert. Seine Abschiedsvorlesung, bei der er neuere Entwicklungen im deutschen Hochschulwesen durchaus kritisch betrachtet, hielt er am 16. Juni 2001 auf einem Symposion im Museumszentrum Lorsch.
Herde arbeitet auf dem Gebiet der mittelalterlichen und neueren Geschichte, besonders zur Reichs- und Papstgeschichte des späteren Mittelalters, zur Sozial- und Geistesgeschichte des italienischen Humanismus und zur Geistesgeschichte des Risorgimento. Seine weiteren Forschungsinteressen betreffen die historischen Hilfswissenschaften, die bayerische Landesgeschichte und die Geschichte des Zweiten Weltkrieges.
Herde forschte über das spätmittelalterliche päpstliche Urkundenwesen, über die Geschichte Italiens, vor allem Florenz im Zeitalter der Renaissance und der Geschichte Siziliens. Über Karl I. von Anjou veröffentlichte Herde einen umfangreichen Beitrag im Dizionario biografico degli Italiani. Aus dieser Studie zum ersten Angevinen auf dem sizilianischen Thron ging 1979 eine Biographie hervor. In Würzburg beschäftigte sich Herde intensiv mit der fränkischen Geschichte und der Reichs- und Papstgeschichte des 13. Jahrhunderts. Herde widmete sich aber auch Problemen des 19. Jahrhunderts. Dabei untersuchte er u.a. die Beziehungen Bayerns und des Heiligen Stuhls in der Zeit des Kulturkampfs. Herde legte 1981 mit seiner Biographie über Papst Cölestin V. ein Standardwerk vor. In italienischer Übersetzung erschien die Arbeit 2004 und wurde 2008 durch seine MGH-Edition der ältesten Viten des „papa angelicus“ ergänzt. Mit seiner 1986 veröffentlichten Arbeit stellte Herde erstmals die Geschichte des mittelalterlichen Guelfentums zusammenhängend dar.[11] Gemeinsam mit seinem Schüler Thomas Frenz gab er 2000 das Brief- und Memorialbuch des Passauer Domdekans Albert Behaim von 1246 heraus. Herde veröffentlichte zahlreiche Einzeluntersuchungen über Bonifaz VIII. Die Arbeiten stehen in einem Zusammenhang mit der von Herde vorbereiteten Biographie. Der erste Band der Biographie mit den drei Kapiteln „Jugend und kirchliche Weihe“, „Auf dem Weg zum pästlichen Thron“ und „Wahl zum Papst, Weihe und Krönung“ konnte 2015 in der Reihe „Päpste und Papsttum“ erscheinen. Seit den 1990er Jahren widmete sich der geborene Oberschlesier Herde auch der schlesischen Geschichte. Aus dieser Beschäftigung ging 2001 die Edition der italienischen Akten zur Volksabstimmung in Oberschlesien 1921 hervor. Zum Ende des ausgehenden Jahrhunderts befasste sich Herde intensiver mit der Geschichte der Geschichtswissenschaft. Dabei entstanden zahlreiche Untersuchungen über Würzburger Historiker wie Anton Chroust (1998/2012), Max Buchner (2002) oder Michael Seidlmayer (2007/2012). Herde untersuchte die Hintergründe der gescheiterten Berufungen von Franz Schnabel nach Heidelberg und Hermann Heimpels nach München. Dabei wertete Herde eingehend die Akten der amerikanischen Militärregierung aus. Mit dem israelischen Historiker Benjamin Kedar legte er 2011 eine Untersuchung über den Historiker Karl Bosl vor, die zu einer Diskussion und einer Neubewertung Bosls NS-Vergangenheit führte. Die deutsche Übersetzung in einer wesentlich erweiterten Fassung erschien 2016. Zur Geschichte des Zweiten Weltkrieges legte er zahlreiche Arbeiten vor, darunter zwei Monographien über die geheime Flugverbindung zwischen den Achsenmächten und Japan (Der Japanflug, 2000) und über die japanische Besatzungspolitik im Pazifikraum (Großostasiatische Wohlstandssphäre, 2002).
Für seine Forschungen wurden Herde zahlreiche wissenschaftliche Ehrungen und Mitgliedschaften zugesprochen. Er ist gewähltes Mitglied vieler wissenschaftlicher Gesellschaften, Akademien und Kommissionen, unter anderem der Wissenschaftlichen Gesellschaft an der Johann Wolfgang Goethe-Universität Frankfurt am Main (seit 2010 als Ehrenmitglied), der Gesellschaft für fränkische Geschichte, der Historischen Kommission für Schlesien, der Medieval Academy of America, der Royal Historical Society in London und der Commission internationale de diplomatique (seit 1970). Der Geburtsort Cölestins, Sant’Angelo Limosano, hat ihn für seine Arbeiten über diesen Papst und Heiligen zum Ehrenbürger ernannt. Eine Gastprofessur nahm er von 1966 bis 1967 an der University of California, Berkeley wahr. Dabei gehörten Robert Helmholtz, Milo Kearney und John McCullough zu seinen akademischen Schülern. Weitere Gastprofessuren führten Herde 1971 an die University of Washington, 1971/72 und 1984 an das Institute for Advanced Study in Princeton, 1973 an die University of Chicago und 1979 nach Dumbarton Oaks. Im Jahr 1998 wurde er zum 65. Geburtstag mit einer umfangreichen Festschrift gewürdigt. Anlässlich seines 70. Geburtstages 2003 wurde Herde durch ein wissenschaftliches Kolloquium in Lorsch an der Bergstraße und 2008 durch ein weiteres Kolloquium geehrt. Herde lehnte Rufe an die University of California in Los Angeles als Nachfolger von Gerhart Ladner und an die Ludwig-Maximilians-Universität in München als Nachfolger von Peter Acht ab.
Herde heiratete 1965. Seine Hobbys sind Fotografie, Fliegen und Sport. So konnte er (bis 2007) acht Mal das Bayerische Sport-Leistungs-Abzeichen in Gold und 42 Mal das Deutsche Sportabzeichen in Gold erringen.