Espulso presto da scuola, Harvey all'età di sedici anni si arruola marine in Libano e successivamente torna in patria e trova lavoro come venditore di scarpe. Nei primi anni '70 risponde all'inserzione di uno studente che cerca interpreti per un cortometraggio. Quello studente è Martin Scorsese. Con lui gira i primi veri film: "Mean Streets" (1973) e "Taxi Driver" (1976). Molte pellicole dopo - tra cui "L'ultima tentazione di Cristo" e "Lezioni di piano" (1993) di Jane Campion - produce l'opera prima dello sconosciuto Quentin Tarantino, "Le Iene" (1992).
Keitel è caratterizzato da una grande presenza scenica e dalla totale noncuranza per le leggi dello show-business, tanto da abbandonare il set di "Eyes Wide Shut" e far parte del cast de "Il mio West" (1998) di Leonardo Pieraccioni.
Recita successivamente in molti altri film minori come: "Holy Smoke - Fuoco Sacro" (1999), "Little Nicky - un Diavolo a Manhattan" (2000) e "U-571" (2000). Nel 2001 interpreta il maggiore Steve Arnold in "A torto o a Ragione" e nello stesso anno è il protagonista della pellicola "Vipera" con Giancarlo Giannini.
Due anni più tardi è il protagonista insieme a Gerard Depardieu in "Crime Spree - Fuga da Chicago" (2003) e nel 2004 interpreta Robards ne "Il Caso Galindez".
Ha lavorato alle pellicole: "Vengo a prenderti" (2005), "Go go Tales" (2005) e "Il Mercante di Pietre"(2006) diretto da Renzo Martinelli.
Nel 2007 è nel film d'avventura "Il Mistero delle pagine perdute" accanto a Nicolas Cage ed è protagonista del film "The Dust of Time" (2009).