Jacob Benjamin Gyllenhaal 1980. december 19-én született Los Angelesben, Kaliforniában, az Egyesült Államokban. Stephen Gyllenhaal rendező és Naomi Foner Gyllenhaal szövegkönyvíró második gyermeke, nővére, Maggie Gyllenhaal szintén sikeres színész.
Mivel az egész család a filmes szakmában mozog, nem volt kérdés, hogy Jake is ezt az utat választja. A mozivásznon az Irány Colorado! (1991) című filmben debütált, melyet az Veszélyes nő (1993) és az Októberi égbolt (1999) című produkciók követtek.
Első komolyabb sikerét a Donnie Darko (2001) című filmmel aratta, amelyben testvére, Maggie Gyllenhaal játszotta a nővérét. A független alkotás kultuszfilmmé vált.
2001-ben egy Disney-produkcióban, A buborék srácban (2001) kapott szerepet, egy évvel később pedig jött a Jóravaló feleség (2002), melyben Jennifer Aniston oldalán láthattuk, és mely szép sikereket aratott a Sundace Filmfesztiválon. 2004-ben egy nagy költségvetésű hollywoodi szuperprodukcióban, a Holnapután (2004) című katasztrófafilmben láthattuk. Bár Roland Emmerich mozija nem aratott osztatlan sikert a kritikusok körében, a mozipénztáraknál azonban kimondottan jól szerepelt, és világszerte több mint 500 millió dolláros bevételre tett szert.
Karrierje egyik legemlékezetesebb alakítását nyújtotta Ang Lee 3 Oscar-díjas Túl a barátságon (2005) című filmjében, melyért legjobb mellékszereplő kategóriában szintén jelölte az Akadémia, akárcsak az azóta elhunyt Heath Ledgert (legjobb főszereplő).
A színész karrierje azóta is töretlen, olyan sikerfilmekben láthattuk, mint a Bőrnyakúak (2005), a Zodiákus (2007), a Perzsia hercege: Az idő homokja (2010), a Forráskód (2011), Az utolsó műszak (2012) vagy Az embermás (2013).

Gyllenhall a kétezertízes évek második felében is sorra aratta a sikereket. A Mélyütésre (2015) rendkívüli fizikális átváltozáson esett át, az Éjszakai ragadozókra (2016), melyben egészen zseniális alakítást hozott, csontsoványra fogyott, Pókember nemeziseként láthattuk a Pókember – Idegenben (2019) című szuperhősfilmben, majd 2021-ben két filmben is brillízorozott. A bűnös netflixes remake-jében bizonyította, hogy egy asztal mögött ülve is tud kivételes alakítást nyújtani, valamint ő játszotta Michael Bay prögős krimijének, a Rohammentőnek az egyik főszerepét is.
Jake több évig alkotott egy párt Kirsten Dunsttal, majd a Kiadatás (2007) forgatásán megismerkedett Reese Witherspoonnal, később pedig Taylor Swifttel randizott. Ő a keresztapja Heath Ledger és Michelle Williams lányának, Matilda Rose Ledgernek, és jó barátja a Maroon-5 énekesének, Adam Levine-nak.