Después de dos años posteriores de aburrimiento estudiando deportes y luego programas de informática en Estrasburgo y Marsella, Tahar Rahim decidió perseguir su pasión y comenzó a estudiar cine en la Universidad Paul Valéry de Montpellier. Después de esto, Rahim se mudó a París en 2005 y estudió teatro en el Laboratoire de l'Acteur mientras trabajaba en una fábrica durante la semana y en un club nocturno los fines de semana. Después de una aparición en la película de terror de 2008 Inside, pasó por tres extenuantes meses de audiciones, y después de ocho devoluciones de llamada, consiguió su gran papel en A Prophet (2009). Después de este éxito, demostró habilidades multilingües, lo que lo llevó a papeles en corso y árabe, además del francés y en gaélico escocés en su papel como el Príncipe Foca en El águila de la legión perdida (2011) de Kevin Macdonald. Recientemente protagonizó junto a Jodie Foster, Shailene Woodley y Benedict Cumberbatch en The Mauritanian (2021). Por dicha actuación, Rahim fue nominado a un Globo de Oro en la categoría de Mejor actor - drama.