Carl Friedrich wurde als Sohn des Kaufmanns und Obermühlenschreibers Christian Friedrich Kaltschmid und dessen Frau Eva Rosina Exner geboren. 1715 bezog er das Elisabethgymnasium in Breslau, welches unter der Leitung des Rektors Gottlob Kranz (1660–1733) stand. Kaltschmied studierte ab 1726 zunächst Rechtswissenschaften an der Universität Jena, wandte sich dann der Medizin zu und wurde 1732 bei Hermann Friedrich Teichmeyer mit der Arbeit De cancro in specie mammarum promoviert.
1735 habilitierte er sich mit der Arbeit Disp. med. de vulnere hepatis curato, cum disquisitione in lethalitatem vulnerum hepatis. 1736 wurde er vom Herzog von Sachsen-Eisenach zum Hofrat und Leibarzt ernannt. 1738 wurde er Professor extraordinarius der Universität Jena. Im Jahr 1745 wurde er zum Mitglied der Leopoldina gewählt.
1746 wurde er ordentlicher Professor für Medizin. Kaltschmid beteiligte sich auch an den organisatorischen Aufgaben der Hochschule und war in den den Wintersemestern 1749, 1755, 1759, 1765 Rektor der Alma Mater.
1755 wurde er vom Herzog von Sachsen-Weimar zum Geheimen Kammerrat erhoben. Nach dem Tod von Hamberger, wurde er erster medizinischer Professor und erhielt er auch die Stelle eines Provincial-Physikus. Er war auswärtiger Beisitzer der Kur-Mainzer Akademie der nützlichen Wissenschaften, 1761 Mitglied der fürstlich teutschen Gesellschaft schöner und höherer Wissenschaften.