Martin Kove apareció por primera vez en la pantalla en varios papeles menores, y se hizo notar como el malvado Neron the hero en Dead race 2000 (1975), y luego como Clem, el sádico aparejador, en White line fever (1975). Apareció en la serie de televisión Cagney y Lacey en 1981, como el honesto Detective de la Policía Isbecki, y luego volvió a interpretar al villano en Rambo 2 (1985), protagonizada por Sylvester Stallone. Kove probablemente obtuvo mayor fama por la enormemente exitosa cinta El Karate Kid (1984) en la que interpretó a John Kreese, el instructor principal de la escuela de karate Cobra Kai, y repitió el papel en los dos secuelas: El Karate Kid, Parte II (1986) y Karate Kid, Parte III (1989), así como en la serie Cobra Kai desde el 2018. Kove se ha caracterizado por sus actuaciones en películas de suspenso y acción, y ha sumado más de 80 apariciones cinematográficas, además de numerosos papeles invitado de televisión.