Karl Friedrich Steinmetz 1806 trat in das Kulmer Kadettenhaus ein. Sein Vater, Johann Wilhelm von Steinmetz, verstarb im Alter von 46 Jahren im Jahre 1808. Karl Friedrich rückte in das Berliner Kadettenhaus auf und erwarb dort schnell den Rang eines Portepeeunteroffiziers.
Anfang 1813 wurde Steinmetz als Leutnant dem 1. Infanterieregiment zugeteilt, das zum Verband des Yorckschen Korps gehörte, und machte alle Gefechte dieses Korps mit, wofür er das (neu gestiftete) Eiserne Kreuz erhielt.
Im Jahre 1818 wurde er zum Premierleutnant befördert und 1819 in das 2. Garderegiment versetzt. 1820 ging er zur Kriegsschule und wurde 1824 zum topographischen Büro kommandiert. 1828 wurde er zum Hauptmann befördert; 1839 wurde er Major und Kommandant des Düsseldorfer Garde-Landwehr-Bataillons. 1841 bekam er das Garde-Reserve-Bataillon Spandau.
Erst das Jahr 1848 brachte ihn in die Lage, seine militärischen Fähigkeiten seit den Befreiungskriegen zum ersten Mal wieder im Felde zu bewähren. Eine königliche Order betraute ihn mit dem Befehl über zwei Bataillone des 2. (später 32.) Infanterieregiments. An der Spitze dieser Truppenteile zog von Steinmetz in den Schleswig-Holsteinischen Krieg. Für seine Leistungen während dieses Feldzuges erhielt er den Orden Pour le Mérite, den ihm Prinz Wilhelm bei der Parade der zurückgekehrten Bataillone persönlich umhängte.
Es folgten die Beförderungen zum Oberstleutnant 1849, Oberst und Kommandanten des Kadettenkorps 1851 und zum Generalmajor und Kommandanten von Magdeburg 1854. Ende 1857 übernahm er das Kommando über die 1. Division in Königsberg. Sechs Monate später erhielt er die Beförderung zum Generalleutnant und Kommandanten der 1. Division. Als solcher kommandierte er die große Parade bei der Krönung Wilhelms I. zu Königsberg. 1862 kommandierter er das II. Armeekorps, 1864 das V. Armeekorps.