В 2002 году Джилленхол получил театральную награду Evening Standard Theatre Awards в категории "Outstanding Newcomer" за роль в пьесе This is Our Youth.
В том же году на экраны вышла комедийная драма Хорошая девочка (англ. Good Girl) с Дженнифер Энистон в главной роли. Джейк сыграл молодого любовника главной героини Тома Уортера. За эту киноработу актер получил две номинации на премию Teen Choice Awards.
В 2004 году за роль в апокалиптическом фильме Послезавтра (англ. The Day After Tomorrow) Джилленхол был номинирован на Irish Film & Television Awards в категории "Best International Actor".
Но главным карьерным успехом у Джейкоба стала роль Джека Твиста в романтической драме о любовной связи двух ковбоев Горбатая гора (англ. Brokeback Mountain), вышедшей в 2005 году. За эту киноработу Джилленхол удостоился номинации на Оскар в категории "Лучшая мужская роль второго плана", в этой же категории получил награду премии BAFTA, и был номинирован на Премию Гильдии киноактёров США. Помимо этого, он победил еще в двух номинациях премии MTV Movie Awards, был номинирован на премию "Спутник", а также получил другие награды и номинации.
С этого момента началась мировая слава актера. Поклонники стали приглашать его на частные мероприятия и дни рождения. Также он попал в списки самых привлекательных холостяков мира.
В том же году вышла драма Доказательство (англ. Proof), в которой Джейк сыграл вместе с Гвинет Пэлтроу и Энтони Хопкинсом. Также в прокате появилась военная драма Морпехи (англ. Jarhead), где Джилленхол исполнил главную роль капрала Энтони Суоффорда. За нее актер получил номинацию на премию "Спутник" в категории "Best Actor – Motion Picture Drama".
Другой значительной киноработой стала главная роль в комедийном фильме 2010 года Любовь и другие лекарства (англ. Love and Other Drugs). За нее Джилленхол был номинирован на "Золотой глобус" в категории "Лучшая мужская роль — комедия или мюзикл", а так же на премию "Спутник".
В 2014 году состоялась премьера триллера Стрингер (англ. Nightcrawler), за главную роль в котором актер получил свою вторую номинацию на "Золотой глобус", в категории "Лучшая мужская роль в драме", был номинирован на премии BAFTA, Screen Actors Guild Awards, Critics' Choice Movie Awards и премию "Спутник" как лучший актер и получил еще множество наград и номинаций
В психологическом триллере 2016 года Под покровом ночи (англ. Nocturnal Animals) Джейкоб сыграл в дуэте с Эми Адамс. Кинокартина получила номинацию на Оскар, а Джилленхол был номинирован на премию BAFTA как "Best Leading Actor".
В 2017 году за главную роль в биографической драме Сильнее (англ. Stronger) Джейк был номинирован на премию Спутник и на Critics' Choice Movie Awards как лучший актер.
В 2018 году на экраны вышло три фильма с Джилленхолом в главных ролях.
