Bereits mit sechs Jahren erhielt er Klavierunterricht, sollte aber nach dem Willen seines Vater das Bankgeschäft erlernen. Er arbeitete zwei Jahre als Kassierer und verwendete sein Gehalt, um nebenbei weiter Klavier, Harmonielehre und Komposition zu erlernen. Er verließ die Bank und wechselte nach Dresden und später nach Berlin, um Musik zu studieren. Seinen Unterhalt verdiente er als Klavierspieler in Nachtclubs und schloss sich dann den Weintraub Syncopators, einer populären Jazzband der späten 20er-Jahre, an.
In dieser Zeit begann er, Arrangements für einige deutsche Musikfilme zu schreiben. Seine bekannteste frühe Arbeit war die Orchestrierung und Orchesterleitung für Josef von Sternbergs Der blaue Engel (1930) mit Marlene Dietrich. Durch den großen Erfolg des Films bekam er vom Leiter der UFA-Studios in Berlin, Erich Pommer weitere Aufträge, darunter den, die Musik zu Fritz Langs Version von Liliom (1934) zu schreiben, der dann mit Charles Boyer in Paris verfilmt wurde. Als Jude musste Waxman nach der „Machtergreifung“ aus Nazideutschland fliehen. 1934 arbeitete er nur vorübergehend in Frankreich und siedelte wenig später in die Vereinigten Staaten von Amerika über.
Der nächste Auftrag von Erich Pommer, die Arrangements zum Film Music in the Air von Jerome Kern, führte Franz Waxman nach Amerika. Sein erster großer Erfolg als Komponist war die Vertonung des Horror-Klassikers Frankensteins Braut (1935) mit Boris Karloff.
Er arbeitete unter anderem für die Universal Studios und für Metro-Goldwyn-Mayer. Dabei entstanden zahlreiche Musiken für Filmklassiker, darunter Dr. Jekyll und Mr. Hyde (1941), Hitchcocks Rebecca (1940), Die Frau, von der man spricht, Haben und nicht Haben (1944) mit Lauren Bacall, Hitchcocks Verdacht (1942) und Der Fall Paradin (1949) mit Gregory Peck, Boulevard der Dämmerung (Sunset Boulevard) (1950), Prinz Eisenherz (1954), Das Fenster zum Hof (1954), Der Hofnarr (1956) mit Danny Kaye, Die Geschichte einer Nonne mit Audrey Hepburn oder auch Taras Bulba (1962) mit Yul Brynner.
Franz Waxman starb am 24. Februar 1967 in Los Angeles an den Folgen einer Krebs-Erkrankung.