Urodził się jako Irwin Lawrence Mazursky w nowojorskim Brooklynie. Jego rodzice - robotnik Dawid i maszynistka Jean, z pochodzenia Żydzi, emigrowali z Europy i osiedlili się w Ameryce. Jego matka uwielbiała kino, dlatego często zabierała tam swojego jedynka, niekiedy na dwa seanse dziennie, dzieki czemu mały Mazursky zapragnął być aktorem. I dokonał tego - został nie tylko aktorem, ale i reżyserem, scenarzystą i producentem filmowym.
Studiował w Brooklyn College. Tam został zauważony przez scenarzystę
Howarda Sacklera. Po studiach pracował w sklepie ze zdrową żywnoscią, gdzie przypadkowo spotkany aktor -
John Cassavetes, namówił go do pójścia na castingi. Następnie rozpoczął studia u
Lee Strasberga.
W 1953 roku poślubił Betsy Purdy, cztery lata później na świat przyszła ich córka
Meg (zmarła w 2009 roku). W roku 1959 wraz z rodziną opuścił Brooklyn i wyjechał do Los Angeles szukać lepszego życia. W tym czasie urodziła się również jego druga córka - Jill.
Karierę aktora rozpoczął filmem "
Strach i pożądanie". Swoje pierwsze kroki jako reżyser podjął pod koniec lat 60., a za jego najlepsze dzieło uważa się film z 1978 - "
Niezamężna kobieta". Podczas jego kariery reżyserskiej współpracowały z nim takie nazwiska jak:
Anjelica Huston,
Lena Olin,
Donald Sutherland czy
Woody Allen. W swojej twórczości nastawiony był przede wszystkim na zmuszenie widza do przemyśleń, mistrzowsko mieszał dramat z komedią, pokazując prawdziwe emocje.
Na swoim koncie posiada pięć nominacji do Oscara za scenariusze i reżyserię. Był również członkiem Amerykańskiej Akademii Filmowej i to właśnie on zgłosił osobę
Andrzeja Wajdy do nomiacji do statuetki Oscara za całokształt twórczości. Za zasługi w rozwoju stosunków polsko-amerykańskich, w 2000 roku, z rąk ambasadora RP w Waszyngtonie został uhonorowany tytułem "Amicus Poloniae". Bardzo lubił odwiedzać Polskę. W grudniu 2013 odsłonił swoją gwiazdę w Hollywoodzkiej Aleji Sław.
Zmarł z przyczyn kardiologicznych w Cedars Sinai - Medical Center w Los Angeles (USA).