Pfeil ging bereits 1873 auf Reisen, zunächst reiste er mit der Hermannsburger Mission nach Natal in Südafrika. Er zog dann nach Südafrika, ließ sich auf den Drakensbergen im Oranje-Freistaat nieder und betrieb dort Landwirtschaft und Viehzucht. 1883 kehrte er nach Deutschland zurück und unterstützte die Idee einer deutschen Kolonisation Ostafrikas.
Er begab sich mit Carl Peters und Karl Ludwig Jühlke nach Sansibar. Mit den Begleitern durchzog er Usegua und Usagara. Im Mai 1885 begab er sich von Usegua nach Kutu, das er durch Verträge für die Deutsch-Ostafrikanische Gesellschaft erwerben konnte. Dann fuhr er den Rufiji abwärts und überschritt einige Monate später das Rubehogebirge, drang in das Land der Wahehe ein und erforschte im Dezember 1885 als erster Europäer den Lauf des Ulanga, den Oberlauf des Rufiji.
Vom Dezember 1886 bis Mai 1887 bereiste er den Pangani aufwärts und durchquerte Usegua von Norden nach Süden. Im Juli kehrte er zurück und trat dann in die Dienste der Neuguinea-Kompanie. Er unternahm eine Expedition in das Innere Neuguineas und nahm dann eine Stellung in der Verwaltung des Bismarck-Archipels ein, wo er unter anderem Neu-Mecklenburg durchquerte. Eine Krankheit zwang ihn, die Südsee zu verlassen. Nach einem längeren Aufenthalt auf Java traf er im Oktober 1889 wieder in Europa ein.
Von Juni bis November 1892 bereiste Pfeil im Auftrag des Syndikats für die Siedlung in Deutsch-Südwestafrika das Land vom Oranjefluss bis Windhuk und die Walfischbucht. 1895 bis 1897 war sein Bruder "Marcus" (1859-1916 ), mit dem er öfter verwechselt wird, kaiserlicher Konsul in der portugiesischen Kolonie Mosambik mit Sitz in der Hauptstadt Lourenço Marques.
1897 und 1899 nahm er an einigen Marokkoreisen Theodor Fischers teil, denen 1901 weitere Reisen nach Marokko 1901 folgten.
Pfeil war seit 1895 in zweiter Ehe verheiratet mit Anna Freiin von Minutoli, einziger Tochter von Alexander Freiherr von Minutoli-Woldeck. Aus seiner ersten Ehe 1890 mit Gertrud Leo stammten Zwillinge 1891 - an deren Geburt die Mutter starb - die Söhne auch wiederum 1908 bzw. 1918 starben. Die zweite Ehe blieb kinderlos, deshalb adoptierte das Ehepaar 1922 den Neffen Ortwin Graf von Pfeil, um die Nachfolge der Güter zu regeln.
Seit 1906 war er Mitglied des Guestphalia Jena.[1]
Joachim Graf von Pfeil und Klein-Ellguth starb am 12. März 1924 in Friedersdorf, Schlesien.