Karl Christian Felmy studierte nach dem Abitur von 1958 bis 1964 Evangelische Theologie in Münster und in Heidelberg. Danach war er von 1964 bis 1969 Assistent am Ostkirchen-Institut in Münster. 1970 wurde er mit einer Dissertation über das Thema Predigt im orthodoxen Rußland. Untersuchungen zu Inhalt und Eigenart der russischen Predigt in der zweiten Hälfte des 19. Jahrhunderts promoviert.
Nach seiner Ordination war er von 1971 bis 1975 Referent für Orthodoxie am Kirchlichen Außenamt der EKD in Frankfurt und anschließend Assistent am Lehrstuhl für Geschichte und Theologie des christlichen Ostens in Erlangen bei Fairy von Lilienfeld. 1981 wurde er in Erlangen habilitiert. Nach einer Zwischenstation als Pfarrer in Fürth war er von 1982 bis 1985 Professor für Konfessionskunde an der Ruprecht-Karls-Universität Heidelberg. 1985 wurde er auf den Lehrstuhl für Geschichte und Theologie des christlichen Ostens der Universität Erlangen-Nürnberg berufen. Zwischen 1995 und 1997 war Felmy Dekan der Theologischen Fakultät. Felmy wurde am 31. März 2003 emeritiert. 2007 konvertierte er zur russisch-orthodoxen Kirche.