Tahar Rahim débute sa carrière par la voie universitaire. Il intègre ainsi une licence de cinéma à l'Université Paul Valéry de Montpellier. Son statut d'étudiant lui ouvre la première porte. Cyril Mennegun l'engage pour participer à un docu-fiction majoritairement autobiographique intitulé Tahar, l'étudiant. Le film est ensuite présenté dans de nombreux festivals et devient lauréat des étoiles de la Scam.

Déterminé à poursuivre ce chemin, le jeune homme s'inscrit au Laboratoire de l'acteur, atelier créé par Hélène Zidi-Chéruy. Il obtient son premier rôle au cinéma sous les traits d'un policier municipal dans le film d'horreur A L'Intérieur d'Alexandre Bustillo et Julien Maury.

Mais c'est l'année suivante, dans un rôle totalement différent, que Tahar Rahim commence à se faire reconnaître auprès de la profession. Il prête ses traits à Yazid Fikry, une petite frappe de cité, dans la série La Commune diffusée en 2007 sur Canal+.

Plongée fantasmée et sans concession dans le monde de la banlieue, La Commune remporte l'adhésion critique, qui bénéficie avant tout à son scénariste, Abdel Raouf Dafri. Ce dernier signe l'intrigue du diptyque sur le gangster Jacques Mesrine réalisé par Jean-François Richet puis Un Prophète qui intéresse Jacques Audiard après le succès de De Battre Mon C½ur S'Est Arrêté.

Heureux hasard ou retour d'ascenseur, toujours est-il que Tahar Rahim retrouve l'univers violent d'Abdel Raouf Dafri dans le film. L'acteur prête ses traits à Malik El Djebna, un orphelin d'origine maghrébine qui gravit les échelons du crime organisé grâce à la protection de la mafia corse et d'un imam.

Hors du cinéma, Tahar Rahim est aussi monté sur les planches entre novembre 2007 et mars 2008. Hélène Zidi-Chéruy l'a dirigé dans la comédie Libres sont les papillons de Leonard Gersh où il campait un jeune homme aveugle face à Lola Zidi.