Scholz wurde in Juliusburg, in Schlesien geboren. Er legte das Abitur in Limburg a.d. Lahn ab und studierte Rechts- und Volkswirtschaft in Frankfurt am Main, Marburg und Heidelberg. Nach dem Ablegen der juristischen Staatsexamina wurde er 1967 Assessor beim Bundesamt für die Anerkennung ausländischer Flüchtlinge in Zirndorf, Regierungsrat beim Landratsamt Hersbruck (heute Teil des Landkreises Nürnberger Land) und Oberregierungsrat beim Landratsamt Fürth. Vor seiner Wahl zum Oberbürgermeister war er Leitender Regierungsdirektor beim Landesuntersuchungsamt für das Gesundheitswesen Nordbayern (seit 2002: Bayerisches Landesamt für Gesundheit und Lebensmittelsicherheit) in Erlangen.
Ludwig Scholz gehörte dem Nürnberger Stadtrat von 1972 bis zu seinem Tode an. Von 1988 bis 1996 war er darüber hinaus Fraktionsvorsitzender der Stadtratsfraktion der CSU. 1996 gewann er überraschend die Stichwahl zum Oberbürgermeister gegen Amtsinhaber Peter Schönlein (SPD). Bei der Kommunalwahl 2002 unterlag er in der Stichwahl dem Herausforderer Ulrich Maly (SPD). Scholz war der erste Oberbürgermeister Nürnbergs, der der CSU angehörte. Er war auch der erste katholische Amtsinhaber seit der Reformation in Nürnberg.
Ludwig Scholz hatte großen Anteil daran, dass bei der Fußballweltmeisterschaft 2006 Nürnberg als Spielort vorgesehen wurde. Ebenso leistete er einen großen Beitrag dazu, die Eishockeyweltmeisterschaft 2001 auch in Nürnberg stattfinden zu lassen. Im Jahr 2000 wurde das 950. Gründungsjubiläum der Stadt Nürnberg unter seiner Ägide begangen, aus dem ein jährlich stattfindendes Großereignis, die Blaue Nacht, hervorging. Besondere Verdienste hat sich Ludwig Scholz erworben, indem er sich für die Einrichtung eines bundesweit einzigartigen Museums stark machte, das Dokumentationszentrum Reichsparteitagsgelände. Darüber hinaus hat sich Ludwig Scholz u.a. um Städtepartnerschaften, effizientere Verwaltung und den Sport verdient gemacht.
Scholz war verheiratet und hatte drei Kinder sowie sechs Enkelkinder. Er verstarb überraschend am 20. September 2005 an den Folgen eines Herzinfarktes und wurde am 23. September auf dem Friedhof von Nürnberg-Eibach beigesetzt.
Ihm zu Ehren ist seit 2009 eine Brücke über den Main-Donau-Kanal, unweit seines letzten Wohnsitzes, benannt.