26 Mart 1939 doğumlu James Caan 1960 yılında oyuncu olmaya karar verdi ve Sanford Meisner tarafından Neigborhood Playhouse'a kabul edildi. Broadway dışındaki ilk çıkışı "I Roam" isimli oyunuydu. Broadway'e ise "Mandingo" ile giriş yaptı ancak Franchot Tone ile olan anlaşmazlığından ötürü dört oyun sonra buradan ayrıldı. Bunun üzerine televizyona geçiş yapan Caan, "Irma La Douce" ve "Lady in a Cage" ile kameraların karşısına geçti. 1965'deki Howard Hawks draması "Red Line 7000" ile sinemaya geçen ve Robert Altman'ın "Countdown"u ile Francis Ford Coppola'nın "The Rain People" filmleriyle yetmişli yıllara yaklaşan Caan, Coppola'nın "The Godfather"ı ile çağdaşları arasından sıyrıldı ve Sam Peckinpah, Norman Jewinson, Mel Brooks gibi ustalarla çalıştı. Miloş Forman'ın "One Flew Over the Cuckoo's Nest"i ile, "Superman", "Kramer vs. Kramer" gibi filmleri reddeden Caan, Michael Mann'in "Thief"inde unutulmaz bir performans verdi. Rob Reiner'ın korkunç "Misery"sinde roman yazarı rolündeydi.