Urodził się w biednej rodzinie, jako najmłodsze z dziewięciorga dzieci. Gdy tylko podrósł na tyle, by móc pracować, pomagał utrzymywać bliskich jako stolarz i handlarz złomem. Już w dzieciństwie zachwycił się teatrem i mając 16 lat dołączył do wędrownej trupy w charakterze złotej rączki, maszynisty teatralnego oraz początkującego aktora. Będąc przystojnym i ambitnym młodzieńcem, szybko zaczął otrzymywać główne role. Wkrótce został zauważony przez
Maxa Reinhardta, pod okiem którego zdobywał dalsze aktorskie szlify w Berlinie.
W 1920 stał się także popularnym aktorem filmowym, specjalizował się w romantycznych kreacjach. Zagrał w przeszło 60 produkcjach, głównie w latach 20. Pracował z największymi postaciami niemieckiego kina:
Paulem Lenim,
F.W. Murnauem,
Conradem Veidtem,
Emilem Janningsem. Jednak bardziej od aktorstwa interesowała go reżyseria, którą zajął się w 1923. W swoim reżyserskim debiucie pracował z młodą
Marleną Dietrich. Razem z żoną
Charlotte Hagenbruch założył też własną wytwórnię filmową.
W 1930 skorzystał z oferty Warner Bros. i wyemigrował do Hollywood, aby reżyserować niemieckojęzyczne wersje największych przebojów studia. Z łatwością odnalazł się w świecie hollywoodzkich produkcji, także za sprawą swoich zdolności aktorskich oraz umiejętności opowiadania historii, dzięki czemu awansował na regularnego reżysera wytwórni. Jego pierwszym znaczącym filmem był "
Ostatni lot". W kolejnych latach kręcił średnio 6 obrazów rocznie, m.in. film science-fiction "
Trzy godziny życia", komedię "
Jewel Robbery" i thriller "
Mgła nad Frisco".
W latach 30. razem z żoną pomagał wydostawać ludzi z nazistowskich Niemiec, sprowadził do Hollywood m.in.
Bertolta Brechta i
Kurta Weilla. Zapewnił pracę wielu Niemcom i niemieckim Żydom. Zatrudniał ich przy swoich filmach, robił też wszystko w swojej mocy, aby włączać ich do produkcji u innych twórców.
W 1934 do Ameryki przybył
Reinhardt. W Hollywood Bowl wystawił legendarną już produkcję "Snu nocy letniej"
Szekspira, co przyciągnęło uwagę szefów Warner Bros. Chcieli, aby razem ze swoim dawnym uczniem stworzyli filmową wersję sztuki ("
Sen nocy letniej"), dzięki której Dieterle był postrzegany jako twórca prestiżowych obrazów. Nakręcił dla studia m.in. trzy filmy biograficzne z
Paulem Munim w roli głównej: "
Pasteur" (3 Oscary i 1 nominacja), "
Życie Emila Zoli" (3 Oscary i 7 nominacji, w tym pierwszy Oscar za najlepszy film dla studia Warner Bros.) oraz "
Juarez" (2 nominacje do Oscara).
Na przełomie lat 30. i 40. stworzył jedne ze swoich najlepszych dzieł, mianowicie "
Dzwonnika z Notre Dame" (2 nominacje do Oscara) oraz "
All That Money Can Buy" (1 Oscar i 1 nominacja). Uwagę przyciągała też kolejna biografia "
Eksperyment doktora Ehrlicha" (nominacja do Oscara). Dobrą passę przedłużył dzięki współpracy z producentem
Davidem O. Selznickiem. Najpierw przy filmie "
I’ll Be Seeing You", a potem reżyserując
Jennifer Jones, przyszłą żonę
Selznicka - "
Listy miłosne", "
Pojedynek w słońcu", "
Portret Jennie".
W latach 50. jego twórczość straciła na jakości, bardziej odpowiadała realizacji harmonogramu zdjęć, niż artystycznych ambicji. Było to po części skutkiem "polowania na czarownice" w dobie makkartyzmu. Nigdy oficjalnie nie trafił na czarną listę, jednak nie mógł uwolnić się od podejrzeń o sympatie komunistyczne (za sprawą filmu "
Blokada" oraz ludzi, z którymi pracował i którym pomagał), co skutkowało słabszymi projektami, czy wręcz ich brakiem. Pod koniec dekady powrócił do rodzinnych Niemczech, a w połowie lat 60. przeszedł na emeryturę.
Dieterle tworzył kino różnych gatunków, aczkolwiek najbardziej pamiętany jest za filmy biograficzne. Był szanowany za techniczną biegłość i skrupulatne rzemiosło. Miał zdolność do romantycznej ekspresji, nierzadko nasycanej mroczniejszymi półtonami - co nie powinno dziwić, zważywszy na jego korzenie w sztuce niemieckiego ekspresjonizmu. Niemniej charakterystyczne było jego zachowanie na planie zdjęciowym: zawsze nosił duży kapelusz i białe rękawiczki. Było to przyzwyczajenie z początków kariery, gdy musiał szybko przeskakiwać z roli aktora do technika.