Joseph Ruben przyszedł na świat w 1951 roku w Briarcliff w stanie Nowy Jork. Odbył studia teatralne na uniwersytecie w Michigan oraz na Brandeis University.
Swą reżyserską karierę zaczął od kręcenia przeciętnych filmów klasy B. W 1974 debiutował dramatem "Bratowa", gdzie wystąpił młody i nieznany jeszcze aktor John Savage. Później nakręcił kilka obrazów o nastolatkach dla nastolatków, które przyniosły mu przychylność publiczności. Widzów zainteresował swym filmem science-fiction "Ucieczka w sen", zaś krytycy bardzo dobrze wypowiadali się o jego thrillerze "Ojczym".
Jednak o Josephie Rubenie głośno zrobiło się dopiero wtedy, gdy nakręcił swój kolejny thriller "Sypiając z wrogiem". W rolach głównych wystąpili tam Julia Roberts i Patrick Bergin. Później zrobił jeszcze "Pociąg z forsą" - kasowy film z gwiazdorską obsadą [Wesley Snipes, Woody Harrelson, Jennifer Lopez]