Vétéran d'Hollywood, où il débuta en 1949, James Whitmore a travaillé sous la direction de John Huston ( Quand la ville dort et La Charge victorieuse, en tant que récitant), Joseph H. Lewis ( Le Maître du gang), William A. Wellman ( Bastogne, The Next Voice You Hear, Au-Delà du Missouri), Anthony Mann ( La Charge des tuniques bleues), Raoul Walsh ( Le Cri de la victoire), Gordon Douglas ( Des monstres attaquent la ville), Don Siegel ( Police sur la ville), Franklin J. Schaffner ( La Planète des singes), Frank Darabont ( The Majestic, Les Évadés).

Whitmore entre comme boursier à Yale, où il fait son apprentissage de comédien et fonde une station radio en 1942. Durant la guerre, il sert d'abord comme instructeur, puis rejoint les Marines avec lesquels il combat notamment à Saipan et Guam. Après avoir obtenu le Tony, le Theatre World Award et le Donaldson Award pour son premier rôle à Broadway dans « Command Decision », il étudie à l'Actors Studio dans la classe d' Elia Kazan. En 1950, il décroche un Golden Globe et une citation à l'Oscar du meilleur second rôle pour sa création dans Bastogne.

James Whitmore a également inscrit à son répertoire des pièces comme « The Man Who Came to Dinner », « On Golden Pond », « Sleuth » et « The Magnificent Yankee », dans le rôle du juge Oliver Wendell Holmes. Il a interprété plusieurs autres figures historiques, dont Theodore Roosevelt (« Bully »), Will Rogers (« Will Rogers USA ») et Harry Truman dans un célèbre one-man show : « Give 'Em Hell, Harry! », dont l'adaptation lui valut ses secondes nominations à l'Oscar et au Golden Globe.

Outre les films cités, on a pu le voir dans Embrasse-moi, chérie, Tu seras un homme, mon fils et Qui était donc cette dame ? de George Sidney, Tora ! Tora ! Tora ! de Richard Fleischer, L'¼uf du serpent d' Ingmar Bergman et Relic de Peter Hyams.

Familier du petit écran, qu'il fréquenta dès l'âge d'or du direct, James Whitmore a tenu la vedette des séries « Temperature Rising », « The Law and Mr. Jones » et « My Friend Tony ». Il a participé aux plus célèbres programmes de dramatiques des années cinquante et a obtenu en 2001 son premier Emmy dans « The Practice : Donnell & Associés », grâce à un rôle écrit sur mesure par le scénariste-producteur David E. Kelley. On citera parmi ses téléfilms et mini-séries « Celebrity » et Vote sous influence.