Karl Augustin war der Sohn eines Landwirts. Er besuchte die Volksschule in Olbersdorf und danach die Gymnasien in Leobschütz und Neisse, wo er 1870 das Abitur ablegte. Danach nahm er am Deutsch-Französischen Krieg teil und begann 1871 das Studium der Theologie an der Universität Breslau. Am 17. April 1874 wurde er vom Breslauer Fürstbischof Heinrich Förster zum Priester geweiht und anschließend zum Spiritual am Priesterseminar berufen. 1876 wurde er zum Domstifts-Sekretär und gleichzeitig zum Kurator der Grauen Schwestern im Breslauer Josephsstift ernannt. 1882 wurde Karl Augustin Geheimsekretär der fürstbischöflichen Kanzlei, 1886 Assessor im Ordinariat, wo er zwei Jahre später zum Geistlichen Rat aufstieg und 1904 zum Ehrendomherr ernannt wurde.
Wegen der Krankheit des amtierenden Weihbischofs Heinrich Marx wurde Karl Augustin am 10. März 1910 durch Papst Pius X. zum Weihbischof in Breslau berufen und am 25. April 1910 durch Fürstbischof Georg Kardinal von Kopp zum Titularbischof von Diocaesarea geweiht. Mitkonsekrator war der Apostolische Vikar der Sächsischen Erblande, Aloys Schäfer.
1911 wurde er zum Ehrendoktor der Theologie an der Universität Breslau ernannt und im selben Jahr in das Breslauer Domkapitel aufgenommen. Danach diente er noch einige Jahre unter dem Bischof Adolf Bertram. Sein direkter Nachfolger wurde Weihbischof Valentin Wojciech, für die Apostolische Delegatur für Brandenburg und Pommern wurde ab 1923 Weihbischof Josef Deitmer zuständig.
Weihbischof Karl Augustin (lateinisch Carolus Augustin) weihte mehrere Priester und konsekrierte mehrere Kirchen, darunter auch am 22. September 1912 die Kirche Mater Dolorosa in Berlin-Lankwitz, da die Provinz Brandenburg und damit auch Berlin, damals als Delegaturbezirk zum Bistum Breslau gehörten.
Karl Augustin hat sich als Kuratus von 1897 bis 1919 sehr für die Kongregation der Grauen Schwestern in Breslau eingesetzt.
Für seine Leistungen wurde ihm der Rote Adlerorden 3. Klasse mit Schleife verliehen.