Zimerman studierte an der Musikakademie Kattowitz und gewann 1975 den Warschauer Chopin-Wettbewerb. Außerdem wurde er mit dem Sonderpreis der Chopin-Gesellschaft ausgezeichnet.
Er arbeitete seitdem mit den Dirigenten Herbert von Karajan, Leonard Bernstein, Seiji Ozawa und Sir Simon Rattle zusammen und schloss Bekanntschaft mit dem Pianisten Arthur Rubinstein. Den größten Einfluss auf ihn aber hatten nach eigenem Bekunden die Dirigenten Kirill Kondraschin und Carlo Zecchi sowie der polnische Theaterregisseur Tadeusz Kantor, der ihm Mittel der Kommunikation mit einem vielsprachigen Ensemble aufzeigte, welche Zimerman bei seiner Zusammenarbeit mit Orchestern nützlich waren.
Zimerman zog frühe Plattenveröffentlichungen zurück, weil sie den eigenen hohen Standards nicht mehr genügten. Die Folge war, dass seine wenigen erhältlichen Einspielungen oft zu den Referenzen auf dem Markt zählen, so z. B. seine Interpretationen von Debussys Préludes, der Klavierkonzerte, des Totentanzes und der h-Moll-Sonate von Liszt sowie die Konzerte Nr. 1 und Nr. 2 von Rachmaninow.
Zimerman gibt nicht mehr als 50 Konzerte pro Jahr, was nach seinen eigenen Angaben nicht kostendeckend ist.
Zimerman tritt in unregelmäßigen Abständen auch als Dirigent in Erscheinung. Nach dem Tode Leonard Bernsteins, mit dem er eine Gesamtaufnahme der Klavierkonzerte Beethovens in Angriff genommen hatte, vollendete er die Einspielungen der noch fehlenden ersten beiden Konzerte und übernahm dabei auch die Aufgaben des Dirigenten.
Dieses „Experiment“ wiederholte er im Jahre 1999: durch die Gründung des Polish Festival Orchestras zu Chopins 150. Todestag. Zusammen mit den jungen, ausschließlich polnischen Musikern ging Zimerman auf Tournee – ausschließlich mit den beiden Konzerten in e-Moll op. 11 und f-Moll op. 21, die er anschließend auf CD einspielte.
Krystian Zimerman leitet eine Meisterklasse an der Musikhochschule Basel.
Im April 2009 sorgte er für einen Eklat während eines Konzerts in den Vereinigten Staaten, als er von der Bühne im Bezug auf den amerikanischen Raketenschild in Polen forderte: Get your hands off my country („Lassen Sie Ihre Hände von meinem Land“).[1] Diese Äußerungen waren möglicherweise auch persönlich motiviert, da Zimermans Steinway-Flügel acht Jahre zuvor, kurz nach den Terroranschlägen des 11. September bei der Einreise in die USA wegen Terrorverdacht vom Zoll konfisziert und vernichtet wurde.[2]
Am 4. Juni 2013 brach er ein Konzert in der Philharmonie Essen ab, weil es ein Zuhörer filmte. Nachdem er die Bühne wieder betreten hatte, erklärte Zimerman seinen Ärger über illegale Videos.