Musikalisch früh begabt, leitete Ralph Erwin bereits mit 11 Jahren ein Schulorchester. 1915 legte er in Wien die Matura ab und zog als Kriegsfreiwilliger in den Ersten Weltkrieg. Nach dem Krieg, in dem er schwer verwundet wurde, studierte er in Wien Musikgeschichte und Philosophie und war als Barpianist, Cabarett- und Caféhausmusiker tätig. Seine ersten Veröffentlichungen, wie das Lied Bar, kleine Bar oder das Revuelied für das Apollo-Theater, der Ragtime Du bist so schön, erschienen unter dem Pseudonym „Harry Wright“, auf Anraten seines Verlegers nahm er dann den Künstlernamen „Ralph Erwin“ an. 1927 übersiedelte er nach Berlin.
Das Lied Ich küsse Ihre Hand, Madame (Text von Fritz Rotter), das 1929 in dem gleichnamigen Film mit Marlene Dietrich verwendet wurde, machte Erwin weithin bekannt. Als einer der letzten Stummfilme enthält er bereits eine kurze Gesangsszene, in der Richard Tauber für den Hauptdarsteller Harry Liedtke das Titellied singt. Als Schallplatte wurde dieses Lied in kurzer Zeit ein Verkaufsschlager. Mit dem Film The Emporer Waltz und Bing Crosby wurde es 1948 auch noch weltberühmt.
- Ich küsse Ihre Hand, Madame,
und träum' es war ihr Mund.
Ich bin ja so galant, Madame,
doch das hat seinen Grund ...
Erwin unternahm danach Gastspielreisen, gab Auftritte im Rundfunk und schrieb die Musik für mehr als 40 deutsche und französische Tonfilme, die bis 1933 teilweise noch deutsch-französische Gemeinschaftsproduktionen waren. In den Filmen traten die bekanntesten Schauspieler der Zeit auf, so z. B. in Der kleine Seitensprung Hermann Thimig, Renate Müller, Otto Wallburg; Madame hat Ausgang mit Liane Haid; Das schöne Abenteuer (1932) mit Alfred Abel, Wolf Albach-Retty, Adele Sandrock, Otto Wallburg, Blandine Ebinger; Die drei von der Kavallerie (1932) mit Paul Hörbiger; Liebe Scherz und Ernst (1932) mit Adele Sandrock; So ein Mädel vergißt man nicht mit Willi Forst, Dolly Haas, Regie Fritz Kortner.
Nach der Machtergreifung 1933 musste Erwin wegen seiner jüdischen Herkunft nach Frankreich emigrieren. Er lebte in Paris und komponierte weiterhin vor allem für Filme. Nach dem Einmarsch der Deutschen wurde er in das Internierungslager von Beaune-la-Rolande verschleppt, von wo aus die Inhaftierten weiter nach Drancy transportiert wurden. Seine Frau konnte ihn aber befreien. Er lebte in einem Versteck, dort starb er später an den Folgen eines Bauchschusses.