Junge hatte 18-jährig als Schauspieler am Stadttheater seiner Heimatstadt Görlitz begonnen und spielte in der Folgezeit an Provinzbühnen (so zum Beispiel in Oberschlesien, wo er rund um das Jahr 1908 sein Domizil in Beuthen aufgeschlagen hatte). Nach Kunststudien in Italien kam Junge nach Berlin, wo er als Bühnenbildner an der dortigen Staatsoper und am Staatstheater arbeitete. 1920 stieß er zum Film. Dort assistierte Junge zunächst dem erfahrenen Architekten-Kollegen Paul Leni, ab 1923 zeichnete er als Chefarchitekt selbst verantwortlich.
Ein früher Förderer Alfred Junges wurde der Regisseur E. A. Dupont, für den der Görlitzer unter anderem die Bauten zu dessen berühmtestem Film Variété entwarf. Daneben war er vor allem für die Regisseure Hans Steinhoff und Erich Waschneck aktiv. Dupont und Junge gingen Ende 1927 nach England, um zwei Filme (Moulin Rouge und Nachtwelt) umzusetzen. Im Anschluss daran kehrten beide wieder nach Berlin zurück. Zwei weitere England-Engagements brachte das Team 1930 erneut auf die Britischen Inseln. Die dort entstandenen Kontakte führten 1932 zu Junges Entschluss, sich in London niederzulassen. Junge wurde am 22. Oktober 1946 eingebürgert.
Er fand sofort Anschluss an die britische Filmindustrie und arbeitete zunächst für die Firma Gaumont. Neben zahlreichen schwächeren Filmen designte Junge auch mehrmals die Kulissen für Alfred Hitchcock (dessen Nebenwerk Waltzes from Vienna und die frühen Thriller Der Mann, der zuviel wußte und Jung und unschuldig). Mit dem betulichen Abenteuerstoff King Solomon’s Mines, der vorlagegerechten Adaption von A. J. Cronins sozialkritischem Roman Die Zitadelle und der vielbeachteten, gefeierten Lehrer-Biographie Auf Wiedersehen, Mr. Chips arbeitete sich Junge an die Spitze britischer Filmarchitekten.
1942 begann eine überaus erfolgreiche Kooperation mit dem Regie- und Produktions-Duo Michael Powell (mit dem er bereits im Jahrzehnt zuvor erstmals zusammengearbeitet hatte) und Emeric Pressburger, für das Alfred Junge in den kommenden vier Jahren einige der vorzüglichsten Farbfilm-Großproduktionen dieses Jahrzehnts ausstattete. Vor allem seine Dekorationen zu dem romantischen Fantasy-Märchen Irrtum im Jenseits – besonders erwähnenswert: die Himmel-Sequenzen, die Junge mit seinem Landsmann Hein Heckroth entwarf – und das im Himalaya-Gebirge in Nordindien angesiedelte Nonnen- und Schuldrama Schwarze Narzisse, für die er mit einem Oscar ausgezeichnet wurde, gehörten zu den Spitzenleistungen britischer Filmarchitektur der 1940er Jahre.
Nach der Auszeichnung mit dem Akademiepreis benannte die amerikanische Filmgesellschaft MGM Junge zum Leiter der Design-Abteilung ihrer britischen Dependance. In dieser Eigenschaft überwachte er in den kommenden Jahren alle in Großbritannien gedrehten MGM-Produktionen in Bezug auf ihre künstlerische Gestaltung. Seine besten Spätwerke als Szenenbildner umfassten vor allem historische Stoffe, allen voran die beiden prunkvollen Ritterfilme Ivanhoe und Die Ritter der Tafelrunde mit Robert Taylor in der jeweiligen Hauptrolle. Nach dem kommerziellen Misserfolg des als Comeback von David O. Selznick konzipierten, überaus kostspieligen und ambitionierten Hemingway-Remakes In einem anderen Land zog sich Junge 1957 im Alter von 71 Jahren aus dem Filmgeschäft zurück.