Nach dem Abitur am Johanneum in Breslau studierte Wilhelm Kroll, Sohn eines Amtsgerichtsrats, ab 1887 an der Breslauer Universität Klassische Philologie. 1888 wechselte er für zwei Semester nach Berlin, wo ihn Hermann Diels und Carl Robert prägten. Nach seiner Rückkehr nach Breslau wurde er 1891 mit einer Arbeit über Symmachus promoviert und unternahm eine Studienreise nach Venedig und Rom, um in den dortigen Bibliotheken Material für seine Habilitationsschrift zu sammeln. Anschließend vertiefte er seine Studien zwei Semester lang in Bonn bei Hermann Usener, Franz Bücheler und Georg Loeschcke. In diesem Jahr gewann er den Akademiepreis der Berliner Akademie der Wissenschaften für die Bearbeitung der Schriften des Neuplatonikers Damaskios.
In Breslau wurde Kroll 1894 mit einer Arbeit über die chaldäischen Orakel habilitiert und zum Privatdozenten ernannt, trat aber auch hauptamtlich in den Schuldienst ein. 1899 folgte er einem Ruf an die Universität Greifswald zum ordentlichen Professor als Nachfolger Eduard Nordens. Von Greifswald aus unternahm er Forschungsreisen nach England und Frankreich. Von 1906 bis 1913 lehrte er als ordentlicher Professor in Münster, bevor er einem Ruf an seine Heimatuniversität Breslau folgte, wo er Nachfolger seines Freundes Franz Skutsch wurde. In Breslau blieb Kroll bis zu seiner Emeritierung 1935, unterbrochen von Gastaufenthalten in den USA (am Institute for Advanced Study) und Großbritannien. 1922/23 war er Rektor der Universität, 1927/28 Dekan der Fakultät. Um 1937 zog er nach Berlin, wo er zwei Jahre später im 70. Lebensjahr verstarb.
Kroll war Ehrendoktor der Universitäten Breslau (juristische Fakultät), Oxford (1936) und Cambridge, außerdem Mitglied des Deutschen Archäologischen Instituts und korrespondierendes Mitglied der Wiener Akademie der Wissenschaften.
Zwischen 1927 und 1934 war Kroll Präsident der Schlesischen Gesellschaft für vaterländische Kultur.