Er beschäftigte sich mit den historischen Grundlagen und der Entwicklung der deutschen Sprache. Ein weiteres Forschungsgebiet war die mittelhochdeutsche Grammatik. Weinhold gilt als Vertreter der Romantischen Anthropologie.
Karl Weinhold wurde als Sohn eines mittellosen Pastors im schlesischen Reichenbach südöstlich von Waldenburg geboren.
Nach einem Studium der Theologie und Philologie (1842–1845) an der Universität Breslau, wo er auch Vorlesungen bei Theodor Jacobi hörte, ging er 1845 nach Berlin. Ein Jahr später promovierte er in Halle mit einer Interpretation der Völuspá. Nach seiner Habilitation 1847 und wenigen Jahren der Lehrtätigkeit in Halle kehrte er 1849 als Nachfolger von Jacobi als Extraordinarius nach Breslau zurück. 1850 und 1851 lehrte er als ordentlicher Professor in Krakau bzw. Graz. In Krakau wurde Weinhold Zeuge des großen Krakauer Brands. Leider verlor er dabei etliche Unterlagen, darunter die „erste Sagensammlung“.
In Graz lehrte er zehn Jahre (einen Lehrstuhl in Wien hatte er aus konfessionellen Gründen abgelehnt). In dieser Zeit beschäftigte er sich mit der von Grimm vorgeschlagenen Möglichkeit einer historisch motivierten Orthographienorm. 1851 erschien auch sein Buch „Geschichte der deutschen Frauen in dem Mittelalter“. Hierin drückt sich die Heimatverbundenheit Weinholds aus, von manchen Deutschtümelei genannt. Ähnlich wie Richard Wossidlo in Nordostdeutschland sorgte Weinhold in Schlesien und Mitteldeutschland für die Etablierung der Volkskunde.
1861 nahm er eine Professur in Kiel an, wo er das erste germanistische Seminar in Preußen einführte. 1870 bis 1872 fungierte er als Rektor, was auch eine Würdigung seiner Leistungen war.
Nach 15 Jahren verließ Weinhold Kiel und ging zurück nach Breslau. Dort trat er die Nachfolge von Heinrich Rückert an. Auch dort konnte er ein erstes germanistisches Seminar etablieren. 1879/80 war er wiederum Rektor.
1889 zog Weinhold nach Berlin um, wo er noch einige Jahre als Professor, Universitätsrektor (1893/94) und hoch angesehenes Mitglied in der Berliner Akademie der Wissenschaften arbeitete. In dieser Zeit beschäftigte sich Weinhold ausführlich mit den Themen Syntax und Lexikologie. Unter anderem machte er sich für ein Wörterbuch der älteren deutschen Rechtssprache stark, wurde dann auch Mitglied der 1896 erstmals zusammentretenden Gründungskommission des Deutschen Rechtswörterbuchs (DRW). Außerdem war er Mitglied der Berliner Gesellschaft für Anthropologie, Ethnologie und Urgeschichte.
Als er 1901 im Alter von 77 Jahren starb, hinterließ er einen großen wissenschaftlichen Nachlass, der im Archiv der Akademie für weitere Forschungen hinterlegt wurde.