Er studierte in Wien, Jena und Leipzig. Seine Dissertation reichte er 1876 in Jena ein und wurde dort 1879 Professor. Von 1883 bis 1889 war er in Basel und ab 1889 in Würzburg tätig. Von 1894 bis 1921 lehrte er in Leipzig.
Johannes Volkelt war in seiner Lehre beeinflusst von Hegel, Schopenhauer, Hartmann, Kant und Hume. Er wollte eine kritische Metaphysik aufstellen und deshalb die Metaphysik mit einer skeptisch-kritischen Herangehensweise verbinden. Dabei führte er zahlreiche psychologische Argumente in seine Theorie ein.
Als der Begründer der Erkenntnistheorie im modernen Sinne des Wortes wird gewöhnlich Kant genannt. Gegen diese Auffassung lässt sich einwenden, dass die Geschichte der Philosophie vor Kant zahlreiche Untersuchungen aufweist, die als mehr denn bloße Keime zu einer solchen Wissenschaft anzusehen sind. So bemerkte Volkelt in seinem grundlegenden Werk über Erkenntnistheorie, dass schon mit Locke die kritische Behandlung dieser Wissenschaft ihren Anfang genommen habe. Aber auch bei noch früheren Philosophen, ja schon in der Philosophie der Griechen, finden sich Erörterungen, die gegenwärtig in der Erkenntnistheorie angestellt zu werden pflegen. Indessen sind durch Kant alle hier in Betracht kommenden Probleme in ihren Tiefen aufgewühlt worden, und an ihn anknüpfend haben zahlreiche Denker dieselben so allseitig durchgearbeitet, dass man die bereits früher vorkommenden Lösungsversuche entweder bei Kant selbst oder bei seinen Epigonen wiederfindet.
Volkelt unterschied ein erkenntnistheoretisches von einem psychologischen Apriori. Zum erkenntnistheoretischen Apriori schreibt er:
„Unter jenem ist die unbezweifelbare Tatsache zu verstehen, daß die eigentümlichen Functionen des Denkens nicht durch die Erfahrung gegeben sind; also daß das Denken Leistungen vollzieht, zu denen es die Erfahrung als solche nicht berechtigt, deren es unter bloßer Zugrundelegung der Erfahrung niemals fähig wäre. [Erfahrung und Denken. 1886, 494]“
Zum psychologischen Apriori heißt es: Entscheidend ist, dass die eine „Erscheinung für eine andere bestimmend, maßgebend ist“. [Volkelt, Johannes: Erfahrung und Denken. 1886, 89] Kausalität ist die „unabänderliche Regelmäßigkeit in der Verbindung zweier Factoren oder Factorencomplexe“.
Volkelt hat sich in mehreren Werken mit der Ästhetik befasst.