Kiß ging 1822 nach Berlin, wo er an der Akademie und in Rauchs Atelier lernte und nach Schinkels Kompositionen die Reliefs für das Giebelfeld an der Nikolaikirche in Potsdam ausführte. Im Januar 1839 modellierte er die mit einem Panther kämpfende Amazone, welche seinen Namen bekannt machte. Er führte sie 1842 für König Ludwig I. in Marmor aus, und später wurde sie in Bronzeguss von Fischer vor dem Altes Museum in Berlin aufgestellt. Die höchste menschliche Kraftäußerung der brutalen Gewalt des Angriffs eines wilden Tiers gegenüber hat der Künstler in ergreifender Weise zur Anschauung gebracht. 1847 wurde zu Breslau die von Kiß modellierte und von Klagemann in Bronze ausgeführte Reiterstatue Friedrichs des Großen enthüllt. Den König Friedrich Wilhelm III. bildete Kiß zweimal in Bronze, einmal für Potsdam zu Fuß in Generalsuniform mit Mantel und unbedecktem Haupte, dann zu Pferd mit dem Lorbeerkranz für Königsberg (1851). Sechs weibliche allegorische Figuren zieren das Postament des Denkmals an den Ecken, während die Felder mit Reliefs aus der preußischen Geschichte geschmückt sind.
Ferner schuf Kiß einen heiligen Michael, der den Drachen besiegt, in Bronze, ein Geschenk König Friedrich Wilhelms IV. an seinen Bruder, den späteren Kaiser Wilhelm, zur Erinnerung an den von ihm gedämpften Aufstand in Baden (Schloss Babelsberg), eine kolossale Reiterstatue des heiligen Georg als Drachentöter in Bronze (ehemals im Schlosshof zu Berlin, jetzt an der Spree im Nikolaiviertel), ein Standbild Beuths vor der Berliner Bauakademie sowie die Bronzefiguren für den Wilhelmplatz in Berlin, welche sechs ältere Marmorstatuen ersetzten. Vier derselben, Keith, Zieten, Seydlitz und der Alte Dessauer, blieben unverändert; Winterfeldt und Schwerin modellierte Kiß neu. Der Wilhelmplatz ist heute Teil der Wilhelmstraße bzw. mit Nachkriegsbauten der DDR überbaut. Zieten und der Alte Dessauer sind inzwischen dem Lapidarium entrückt und stehen in alter Frische wieder an der Wilhelmstraße/ Ecke Mohrenstraße. Das einzige größere Marmorwerk, welches Kiß vollendete, ist ein Grabmonument für die Gräfin Henckel von Donnersmarck, welches sich an Rauchs Denkmal der Königin Luise anlehnt.