Costantin a 18 anni decide di partire e andare a Parigi dove prima si laurea in Letteratura, poi si iscrive all'Istitut des Hautes Etudes Cinématographiques (IDHEC). Dopo aver lavorato come critico cinematografico e come assistente alla regia di René Clair, René Clèment e Jacques Demy, esordisce dietro la macchina da presa nel 1965 con il thriller "Vagone letto per assassini". Dopo aver registrato un mezzo fallimento con "Il tredicesimo uomo" (1966), raggiunge il successo nel 1969 con "Z", un thriller politico di denuncia dei regimi militari, con cui vince il Gran Premio Speciale della Giuria al Festival di Cannes (1969) ed il premio Oscar come miglior film straniero (1970).
Nel 1973, dopo l'uscita de "L'amerikano", sulla situazione in Uruguay, viene denunciato negli Stati Uniti per "antiamericanismo" e tacciato di appoggiare apertamente il terrorismo. Dopo una breve escursione nel genere sentimentale con il film "Chiaro di donna" (1979), all'inizio degli anni Ottanta Costa-Gavras sbarca ad Hollywod con un nuovo film di denuncia: "Missing - Scomparso" (1982), con il quale vince la Palma d'oro a Cannes ed un Oscar per la sceneggiatura ma che gli costa un nuovo capitolo di disavventure giudiziarie.
Nel 1983, per "Hanna K", viene accusato di essere eccessivamente filo palestinese.
Nei film successivi tra cui "Betrayed - Tradita" (1988), Costa-Gavras continua il suo viaggio nel cinema impegnato, e nel 1989 realizza uno dei suoi film più intensi e coraggiosi, "Music box", con Jessica Lange. L'attrice ed il film vengono entrambi premiati al Festival di Berlino.
Nel 1992 gira "La Piccola Apocalisse", nel 1997 "Mad City - Assalto alla Notizia" e nel 2002 "Amen" poco apprezzato dalla critica. Nel 2005 ha realizzato "Cacciatore di Teste" (2005), presentato al Festival di Taormina 2005.
E' il presidente della giuria della 58ma Edizione del festival di Berlino.