Scholz war Angehöriger der deutschen Jugendbewegung und ist besonders bekannt durch seine zahlreichen Lieder. In Gruppen der Jugendbewegung war und ist er auch unter seinem Fahrtennamen Olka bekannt.
Nach dem Gymnasium in Tarnowitz und dem Abitur in Kattowitz nahm Scholz ein Studium der Vermessungstechnik in Danzig auf, das er 1934 abbrach. Von 1936 bis 1938 absolvierte er ein Architekturstudium an der Technischen Hochschule Berlin; in dieser Zeit übernahm er die Leitung der „Gruppe Polen im Bund Auslandsdeutscher Studierender“. Ende 1938 erhielt er das Ingenieur-Diplom, danach arbeitete Scholz in einem Architekturbüro.
1938 wurde Scholz eingebürgert, er trat der Allgemeinen SS in Berlin bei (SS-Nummer: 417461). 1941 meldete er sich freiwillig zur Waffen-SS. Er war ab 1942 Mitarbeiter der Amtsgruppe C, Bauten, im SS-Wirtschafts- und Verwaltungshauptamt (WVHA) und möglicherweise an der Vorbereitung des Generalplans Ost beteiligt.
Von September 1942 bis Februar 1945 war er Adjutant bei SS-Brigadeführer Walther Schieber im Rüstungslieferungsamt des Reichsministeriums für Bewaffnung und Munition. Im Januar 1943, während der Schlacht von Stalingrad, wurde er zur Truppe kommandiert, jedoch auf Schiebers Intervention wieder ins Rüstungsministerium zurückversetzt. Anfang 1945 wurde er nach Ellrich im Harz versetzt, wo er Kommandant der IV. SS-Baubrigade wurde, einer zuerst zum KZ Dora-Mittelbau und ab dem 15. Januar 1945 zum KZ Sachsenhausen gehörenden KZ-Häftlingseinheit, die unter anderem am Bau der Helmetalbahn mitwirkte und zum Teil auch als „KZ-Außenlager“ bezeichnet wird.
Im April 1945 führte Scholz die ihm unterstellten 1000 KZ-Häftlinge auf einem Evakuierungsmarsch durch den Harz nach Siptenfelde. Scholz wurde von US-amerikanischen Einheiten festgenommen und war von 1945 bis 1948 in amerikanischem Kriegsverbrechergewahrsam u. a. in Dachau. Nach seiner Entlassung 1948 wurde Scholz Architekt bei der BASF. Nach dem Zweiten Weltkrieg trat er der SPD bei.
1993 sollte Scholz den Eichendorff-Literaturpreis erhalten. Nachdem Paulus Buscher Rechercheergebnisse aus dem Berlin Document Center und dem Institut für Zeitgeschichte über Scholz' Vergangenheit in der SS und im KZ-System öffentlich gemacht hatte, widerrief die Jury ihr Votum. Den Preis erhielt dann Bodo Heimann.
Scholz war sowohl vor wie auch nach dem Zweiten Weltkrieg in verschiedenen Gruppen der Bündischen Jugend meist in führender Position tätig. Vor 1933 war er Mitglied in der „Jungdeutschen Erneuerungsbewegung in Polen“. Scholz war beteiligt an der Herausgabe der Zeitschrift Zelte im Osten, er veröffentlichte dort Texte, Lieder und Grafiken. Er war führendes Mitglied der Deutschen Jungenschaft in Polen und wurde in die dj.1.11 aufgenommen. Nach dem Engagement Eberhard Koebels in der KPD trat Scholz in die Jungentrucht von Karl Christian Müller, genannt teut, über.
Von 1933 bis 1936 war er nach eigenen Angaben zeitweise hauptberuflicher Führer in der Hitlerjugend.
1959 wurde Scholz Mitglied in der wieder neu gegründeten Deutschen Jungentrucht und wirkte 1960 an deren Zusammenschluss mit dem Jungwandervogel und der Jungenschaft im Bund zum „Bundes deutscher Jungenschaften“ (BdJ) mit.