William James Murray ötödik gyermekként született, összesen kilencen vannak testvérek. Szülei Edward és Lucille Murray. A showbizniszbe először idősebb bátyjával, Brian Doyle Murray-vel került be, mindketten a chicagói Second City csoport tagjai voltak. 1979-ben a Tarzoon, la honte de la jungle című filmben szinkronszínészként működött közre John Belsuhival.
Az igazi áttörést az Ivan Reitman által rendezett Dilibogyók - Táborparádé (1979) hozta meg. A rendező és a színész között szoros baráti és szakmai kapcsolat alakult ki, melynek köszönhetően Murray több alkalommal is együtt dolgozott Reitmannal. A közös munkájukból olyan filmek születtek, mint a Golfőrültek (1980) és a Bombázók a seregnek (1981), de ezen filmek sikerei is eltörpülnek az 1984-es Szellemirtók óriási népszerűségéhez képes, melyet szintén Reitman rendezett. A filmben Murray mellett olyan sztárok szerepeltek, mint a Harold Ramis, Dan Aykroyd és Sigourney Weaver.
Murray híres improvizációs készségéről, melyet az 1982-es Aranyoskám című filmben is megcsillogatott, amelyben Dustin Hoffman szobatársát alakította. 1989-ben jelent meg a legendás Szellemirtók folytatása, a Szellemirtók 2., mely azonban már nem tudta megismételni az első rész sikereit. Az Idétlen időkig (1993) ellenben hatalmas siker volt, és hamar kultfilm státuszra tett szert.
Murraynek számos nagy rendezővel volt alkalma együtt dolgozni, köztük Tim Burtonnel, aki a Johnny Depp főszereplésével készült Ed Wood című filmjében ajánlott neki szerepet. 2004-ben és 2006-ben Murray kölcsönözte az ikonikus képregényfigura, Garfield hangját a Garfield és a Garfield 2 című filmekben. A 2009-es nagysikerű Zombielandben saját magát alakította. 2012-ben Wes Anderson Holdfény királyság című filmjében játszott, majd újra együtt dolgozott a rendezővel A Grand Budapest Hotel (2014) forgatásán, valamint szinkronszínészként működött közre a direktor Kutyák szigete (2018) című filmjében, de szintén Andreson rendezte a 2021-es A Francia kiadást, melyben Murray-t mellékszerepben láthattuk. Még ebben az évben jelent meg a Szellemirtók: Az örökség, melyben egy cameo erejéig újra eljásztotta Peter Venkman szerepét.
Kétszer nősült, első felesége Margaret Mickey Kelley volt. Második feleségét, Jennifer Buttlert az Idétlen időkig (1993) forgatásán ismerte meg, akivel a mai napig együtt él. Két házasságából összesen hat gyermeke született.