La revue européenne des médias et du numérique

Se connecter S'abonner

Biais des algorithmes

La surprenante fragilité des garde-fous des IA

La diversité des techniques de contournement des garde-fous des IA grand public, allant de la simple astuce lexicale à la manipulation psychologique, en passant par la location d’IA criminelles clés en main ou encore par les injections de prompts invisibles, questionne la fiabilité intrinsèque de ces systèmes. Selon les

L'ingéniosité perverse de l’IA. Amplification des biais et contournement de spécifications

L’essor rapide et spectaculaire des modèles d’intelligence artificielle de grande taille, ou Large Language Models (LLMs), a révélé une puissance algorithmique d’une ampleur inédite. Ces systèmes, capables de traiter d’immenses volumes de données et d’apprendre des structures linguistiques ou conceptuelles d’une complexité croissante, incarnent

Le racisme implicite des IA

S’il est de notoriété publique que les grands modèles de langage sont empreints de biais explicites, des recherches récentes montrent qu’ils le sont également de biais implicites. Le reﬂet de nos sociétés modernes ? Les termes « biais implicites » et « biais explicites » décrivent deux types de préjugés ou de stéréotypes

La banalisation de la reconnaissance faciale : un enjeu de société

Surveillance des espaces publics, accès aux services administratifs, l’utilisation de cette technologie biométrique d’authentification et d’identification continue de s’étendre en Europe (voir La rem n°46-47, p.25). Les caméras « intelligentes » portent à l’évidence atteinte à notre vie privée, en menaçant notre liberté de circuler

Algorithmes : « Foutaises en entrée, foutaises en sortie » (Garbage In, Garbage Out – GIGO)

En matière d’apprentissage machine (machine learning), la qualité des résultats dépend de la qualité des données utilisées par le programmeur, et cela d’autant plus que l’auto-apprentissage utilise des données produites par l’algorithme lui-même. Une équipe de chercheurs de Télécom ParisTech a dressé l’inventaire de ces