Figlio di un chirurgo di origine olandese e di una illustratrice di riviste, Humprey da bambino diventa il volto simbolo della Mellin, grazie ad un ritratto fatto dalla mamma. Frequenta la Trinity School a New York e poi viene iscritto alla Philips Academy ad Andover per prepararsi agli studi di medicina. Espulso dalla scuola per indisciplina, a diciotto anni si arruola in Marina.
Dal 1920 si dedica al teatro ed ottiene uno strepitoso successo interpretando nel 1934 a Broadway il ruolo di Duke Mantee in 'The petrified Forest' di Robert E. Sherwood, e il suo primo film di rilievo sarà, nel 1936, proprio la versione cinematografica di questo lavoro. Fino al 1940 si vedrà assegnare sempre gli stessi ruoli di criminale spietato e feroce finchè "Una pallottola per Roy" di Raoul Walsh, nel 1941, segnerà una svolta nella sua carriera e lo lancerà tra i divi di Hollywood. "Casablanca" di Michael Curtiz fece di lui il nuovo eroe romantico, mentre "Acque del sud" di Howard Hawks oltre al successo gli portò l'amore.
Nel 1947 fonda una sua casa di produzione, la Santana e nel 1951 riceve il suo unico premio Oscar per l'interpretazione di Charlie Allnut in"La regina d'Africa" di John Huston al fianco di Katherine Hepburn. Nel 1956 si ammala di tumore alla gola, muore ad Hollywood il 14 gennaio del 1957. E' sepolto al "Garden of Memory, Colombarium of eternal light" a Forest Lawn, Glandale, California.