Technologies IAffectives : comment l’IA designe nos émotions

Interview de Nadia Guerouaou.
Propos recueillis par Françoise Laugée

Dans l’introduction de votre ouvrage (Notre cerveau sous influence, Eyrolles, 2026), vous citez la mise en vente récente, par le groupe japonais SoftBank Corp, de la technologie Emotion Canceling Voice Conversation Engine. En quoi ce dispositif est-il emblématique de votre travail de recherche ?

Emotion Canceling de SoftBank constitue un cas d’école pour saisir ce qui est au cœur de ma réflexion : la délégation de nos émotions à des technologies qui sont désormais médiatrices de nos communications. J’ai choisi d’ouvrir mon essai par ce projet de l’entreprise japonaise, car il est, à ma connaissance, le premier à afficher clairement l’ambition de façonner l’expression des émotions dans la voix humaine. Cette technologie, disponible depuis mars 2026 au Japon, permet d’atténuer à l’aide d’algorithmes la colère dans la voix d’un client mécontent appelant un service après-vente, avec pour objectif affiché de l’entreprise de protéger ses employés. Ce dispositif illustre parfaitement l’émergence de ce que je nomme les « technologies IAffectives » ou « IA génératives émotionnelles ».

Sur le plan technique, le dispositif fonctionne selon un double mouvement de profilage. Il s’agit, dans un premier temps, de détecter la colère dans la voix de certains appelants – c’est-à-dire de détecter ce qui aura été préalablement codé dans l’algorithme comme relevant de la colère (ici, des enregistrements d’acteurs et actrices simulant la colère ont servi à entraîner le modèle). Puis, le second mouvement, celui du design, vient transformer le signal vocal pour le lisser et le débarrasser de toute colère dite « excessive ».

L’objectif affiché d’Emotion Canceling est de soulager le fardeau émotionnel des opérateurs de centres d’appels – fardeau attesté par une enquête récente menée par UA Zensen, le syndicat le plus important du Japon, montrant que près de 47 % des travailleurs du secteur des services ont été victimes de harcèlement de la part de leurs clients. Supprimer la colère des clients pour le bien-être des employés s’inscrit alors dans un type de management né au XX^e siècle, qui s’est donné pour objectif d’apaiser les émotions des employés, afin notamment d’augmenter l’efficacité des processus de travail. Cette logique managériale a trouvé son incarnation la plus manifeste dans l’élection de la psychologie positive au rang de nouvelle éthique du travailleur épanoui, les émotions positives étant mises au service de l’efficacité. Pour SoftBank, l’IA « deviendra un bouclier mental qui protégera les opérateurs ».

NOS ÉMOTIONS DEVIENNENT DES VARIABLES AJUSTABLES

Ce qui rend ce dispositif emblématique, c’est qu’il cristallise plusieurs enjeux majeurs. D’abord, il illustre comment nos émotions deviennent des variables ajustables par algorithme, créant une situation sans précédent dans l’histoire des sociétés humaines : l’expression et le ressenti se découplent désormais en temps réel sans aucun effort, par simple paramétrage technologique. Le masque social devient alors algorithmique. Ensuite, il soulève la question du façonnement involontaire.

Car Emotion Canceling pose d’emblée la question du contrôle : qui décide quelles émotions sont acceptables ? Dans quel contexte ? Cette technologie, présentée sous l’angle de la protection des employés, pourrait tout aussi bien devenir un outil de domestication émotionnelle au travail. Elle incarne ainsi le potentiel anthropotechnique des IA génératives – c’est-à-dire leur capacité à façonner l’humain lui-même, ses modes d’expression, sa sensibilité et, in fine, ses rapports sociaux.

À quoi servent les « filtres numériques » ou plus largement ce que vous appelez les « technologies IAffectives » ? De quelle manière perturberaient-elles nos émotions, leur expression, leur interprétation, notre affectivité ?

Les technologies IAffectives englobent un ensemble bien plus vaste que les seuls filtres faciaux ou vocaux. Elles incluent les chatbots conversationnels qui reformulent nos messages, les assistants d’écriture qui ajustent le ton de nos e-mails, et tous ces dispositifs qui s’insèrent dans nos interactions pour en moduler la dimension affective. Ces technologies ont officiellement pour fonction d’« augmenter » nos capacités expressives : rendre nos visages plus avenants en visioconférence, nos voix plus convaincantes, nos messages plus bienveillants. Elles se présentent comme des facilitateurs de communication, censés réduire les frictions sociales ou améliorer notre bien-être.

La perturbation qu’elles induisent opère à plusieurs niveaux. Premièrement, sur l’expression : ces technologies créent un découplage entre ce que nous ressentons et ce que nous montrons. Un sourire peut être artificiellement généré sur notre visage, une colère effacée de notre voix, sans effort ni compétence particulière de notre part. Nos expressions émotionnelles, qui apparaissaient comme des indices relativement honnêtes de nos états intérieurs, deviennent paramétrables à loisir.

CES TECHNOLOGIES CRÉENT UN DÉCOUPLAGE ENTRE CE QUE NOUS RESSENTONS ET CE QUE NOUS MONTRONS

Deuxièmement, sur notre ressenti lui-même. Nous savons que la modification artificielle de nos expressions influence nos émotions incarnées. Le mécanisme de « contagion émotionnelle » par vocal feedback, que je décris dans le livre – lorsqu’on s’entend parler avec un ton modifié –, démontre que notre ressenti de tristesse ou de joie peut être une conséquence du fait de nous entendre parler avec un certain ton. Comme l’écrivait déjà William James au XIX^e siècle, « nous nous sentons heureux parce que nous sourions, ou tristes parce que nous pleurons » plutôt que l’inverse. Les technologies IAffectives insèrent dans cette boucle de rétro­action de fausses informations corporelles qui causent pourtant des émotions bien réelles.

LES TECHNOLOGIES IAFFECTIVES INSÈRENT DANS CETTE BOUCLE DE RÉTROACTION DE FAUSSES INFORMATIONS CORPORELLES QUI CAUSENT POURTANT DES ÉMOTIONS BIEN RÉELLES

Troisièmement, sur la compréhension des émotions et des états internes d’autrui : nos cerveaux sont des machines prédictives qui construisent nos émotions à partir des régularités de notre environnement. Lorsque ces régularités sont artificiellement modifiées par des algorithmes, nos modèles prédictifs se réajustent en conséquence. Une de mes études expérimentales l’a démontré de manière édifiante : en appliquant un filtre vocal sur des enregistrements de patients en thérapie, nous avons complètement inversé le jugement clinique de thérapeutes experts. Un seul paramètre acoustique transformé a suffi à court-circuiter l’ensemble des autres signaux vocaux réels.

Toutefois, pour bien saisir l’ampleur de cette perturbation, il faut replacer ces technologies dans une perspective plus large. Toute société et toute époque déposent leur marque sur la sensibilité de ses membres. Une vérité anthropologique que nous devons à l’histoire des sensibilités et qui nous rappelle que nos affects ne sont jamais purement individuels. Ils sont façonnés par des normes affectives qui régissent ce qu’il est légitime de ressentir, d’exprimer et avec quelle intensité. Chaque société définit ainsi les émotions valorisées ou à réprimer, celles jugées appropriées ou déviantes selon les contextes.

Cette normativité inclut donc, en plus des règles de convenance sociale, des jugements de valeur sur ce qu’il est bon ou mal d’exprimer. On valorise, par exemple, la compassion dans les contextes de soin ou de deuil, tandis que la colère fait l’objet d’une régulation genrée selon laquelle ce sentiment demeure largement illégitime pour les femmes. Ces règles implicites structurent non seulement nos expressions émotionnelles, mais aussi notre manière d’interpréter et d’évaluer les affects d’autrui – et les nôtres.

Mais jamais encore ce façonnement n’avait pris la forme d’algorithmes qui modulent nos affects en temps réel. Loin de représenter une simple évolution technologique, ces dispositifs portent en eux un potentiel radical de reconfiguration de nos régimes de sensibilité. Car ces technologies président à la détermination des normes sociales du désirable. Elles constituent le terrain d’apprentissage de nos cerveaux prédictifs, et, selon moi, elles participent à l’émergence d’une normativité IAffective – une régulation où s’hybrident affects humains et traitement algorithmique, produisant de nouvelles normes émotionnelles coconstruites dans l’interaction quotidienne avec ces systèmes.

CES TECHNOLOGIES POURRAIENT REDÉFINIR LE PAYSAGE MORAL DE NOS SOCIÉTÉS

Au-delà du risque de fragmentation de notre vie sensible que j’aborde dans l’ouvrage, ces techno­logies pourraient redéfinir le paysage moral de nos sociétés. En effet, chaque avancée technologique élargit le champ des possibles tout en déplaçant les lignes du permis et de l’obligatoire. Ces transformations ­technomorales modifient nos repères éthiques, ce que nous jugeons bon, désirable ou acceptable, selon des dynamiques qui échappent souvent largement à notre anticipation.

À travers une « médiation morale herméneutique », ces dispositifs techniques restructurent notre rapport au monde. L’interaction répétée avec des chatbots au ton invariablement « positif », sans aucune rugosité (à moins que vous la lui réclamiez), formate progressivement nos attentes sociales. Le philosophe norvégien Henrik Skaug Sætra conceptualise ce phénomène sous le terme de « robotomorphie ». La fréquentation des machines infléchit notre manière de percevoir et de traiter autrui. Si ce modèle se banalise, nous pourrions accepter sans résistance une gouvernance algorithmique de nos affects – comme une nouvelle norme sociale diffuse. Dès lors, devrons-nous tous nous conformer à cette affectivité policée, lisse – étant incapables de supporter la friction pourtant indispensable à toute relation à l’autre ?

En quoi ces outils relèvent-ils d’une anthropotechnie ? Qu’est-ce qui distingue l’IA des autres techniques (l’écriture, l’imprimerie, la radio, le cinéma, la télévision, l’internet…) qui ont façonné, chacune à sa manière, l’expression de nos émotions ?

Le terme « anthropotechnie » désigne l’ensemble des techniques par lesquelles l’être humain agit sur lui-même pour se transformer. Je m’appuie sur la pensée du philosophe Peter Sloterdijk, pour qui l’humanité ne naît pas « finie », mais doit se produire elle-même dans une « querelle permanente autour de son être non déterminé ». Cette production de soi s’opère à travers des anthropotechniques – règles de parenté, techniques d’éducation, pratiques punitives et, désormais, technologies IAffectives.

Qualifier les IA génératives émotionnelles d’« anthropotechnies contemporaines », c’est reconnaître qu’elles participent pleinement de ce processus de production de soi. Elles créent ce que Sloterdijk appelle des « sphères » – des espaces de vie protégés qui ont un « effet autoplastique rétroactif » sur leurs habitants. Nos expressions modifiées agissent en retour sur nous, transformant notre sensibilité même.

D’ailleurs, le mécanisme à l’œuvre n’est pas entièrement nouveau. Jean Baudrillard décrivait déjà, dans son analyse des médias de masse, comment le réel finit par se conformer au simulacre plutôt que l’inverse – ce qu’il nommait l’« hyperréalité », quand la carte précède le territoire. Les filtres émotionnels actualisent ce processus de manière particulièrement saisissante : les utilisateurs recourent à la chirurgie esthétique pour ressembler à leur version filtrée, calibrent leurs expressions sur les modèles synthétiques. Le réel se conforme à l’image générée artificiellement.

Néanmoins, certaines caractéristiques méritent l’attention. D’abord, l’invisibilité et l’incorporation : les règles encodées dans ces systèmes algorithmiques opèrent à notre insu, et elles sont incorporées par nos appareils psychiques étendus. Et cela avec d’autant plus d’efficacité que la frontière entre les espaces physique et numérique, entre le réel et le synthétique, est de plus en plus poreuse. Ce ne sont plus uniquement nos fonctions cognitives classiques qui sont concernées, mais nos émotions elles-mêmes et notre cognition sociale.

QUALIFIER LES IA GÉNÉRATIVES ÉMOTIONNELLES D’« ANTHROPOTECHNIES CONTEMPORAINES », C’EST RECONNAÎTRE QU’ELLES PARTICIPENT PLEINEMENT DE CE PROCESSUS DE PRODUCTION DE SOI

Ensuite, l’action directe sur le cerveau prédictif : ces technologies ne façonnent pas seulement notre environnement culturel comme le faisaient les médias précédents, elles recalibrent nos modèles prédictifs émotionnels en modifiant les régularités dont nos cerveaux se nourrissent. Le découplage entre l’expression et le ressenti devient manipulable en temps réel, créant des boucles artificielles de rétroaction qui produisent pourtant des émotions bien réelles.

Enfin, le potentiel de standardisation : la domestication de l’expression émotionnelle n’est certes pas nouvelle – nous apprenons très tôt quelles émotions sont désirables, comment les afficher et celles qu’il faut réprimer, selon notre genre, notre culture. Mais, avec les IA génératives, cette domestication se cristallise dans une architecture algorithmique dont le potentiel de standardisation et de contrôle est inédit. Le masque social devient de silicium, appliqué automatiquement, sans conscience des règles qu’il impose ni des normes qu’il véhicule.

Là où Michel Foucault identifiait le pouvoir disciplinaire façonnant les corps, les IAffectives constituent un nouveau régime de pouvoir, celui qui conditionne nos substrats émotionnels et nos cerveaux. L’ingénierie n’a pas besoin, pour cela, des puces implantées de Neuralink ; elle opère par la conception d’environnements qui normalisent notre sensibilité. Nous assistons à une forme d’impérialisme technologique sur notre sensibilité, modelant l’intime selon les normes définies par les oligarques de la Tech. Après avoir humanisé leurs technologies par les émotions, ce sont aujourd’hui les émotions humaines qu’ils s’emploient à designer.

Dans quelle mesure les IA génératives émotionnelles modifieraient-elles les conditions de notre socialisation ? Vous évoquez « un potentiel de standardisation et de contrôle inédit ». Pourquoi ?

Les conditions de notre socialisation reposent fondamentalement sur nos interactions émotionnelles. C’est dans ces échanges que nous apprenons à « décoder » les états affectifs d’autrui, à ajuster nos propres expressions. Or, les IA génératives émotionnelles s’insèrent précisément au cœur de ce processus, en devenant des médiateurs ordinaires de nos communications.

Prenons un exemple concret : imaginons qu’une génération d’adolescents adopte massivement un filtre vocal « bibou » sur TikTok, rendant les voix particulièrement « mignonnes ». Si ce filtre devient viral, toute une cohorte se socialisera en communiquant avec cette même intonation artificielle. Les régularités que leur cerveau prédictif intégrera, les associations entre telle prosodie et telle émotion, seront façonnées par l’algorithme. Plus profondément, leurs attentes perceptives se calibreront sur ces expressions filtrées. Que se passera-t-il lorsqu’ils interagiront hors ligne avec des voix « non optimisées » ? Le décalage risque d’engendrer des difficultés d’ajustement social.

Cette reconfiguration toucherait particulièrement les jeunes générations. Les enfants et les adolescents – dont la socialisation affective s’étend de 8 à 25 ans selon les études neurodéveloppementales – construisent leurs compétences émotionnelles dans un environnement de plus en plus médiatisé par ces technologies. Avec les récents développements de l’IA générative, leurs compétences socioaffectives se développeront dans un milieu peuplé de contenu généré. Ces apprentissages façonnent leurs modèles prédictifs émotionnels de manière durable.

LES TECHNOLOGIES DE MODULATION AFFECTIVE DÉFINISSENT QUELLES EXPRESSIONS SONT ACCEPTABLES ET LESQUELLES DOIVENT ÊTRE CORRIGÉES

Le « potentiel de standardisation et de contrôle inédit » que j’évoque tient à deux processus imbriqués. La « domestication » émotionnelle constitue le premier axe de cette transformation. Par un processus d’apprivoisement progressif, les technologies de modulation affective définissent quelles expressions sont acceptables et lesquelles doivent être corrigées. Ce dressage technologique de la sensibilité est en continuité avec des mécanismes historiques de contrôle social.

La « standardisation » de l’expressivité émotionnelle constitue le second volet de cette transformation. Nos expressions faciales, que nous croyons spontanées, ont toujours subi un formatage culturel profond. L’histoire du sourire, par exemple, montre que cette manifestation apparemment « naturelle » a fait l’objet de codifications sociales strictes. Les technologies contemporaines accentuent et automatisent cette standardisation. Le sourire artificiel produit par les IA génératives crée des modèles expressifs uniformes qui s’imposent comme nouvelles normes dans nos interactions.

Cette standardisation s’observe déjà dans certains domaines. Les filtres de beauté Instagram ont créé une esthétique faciale si normée que de nombreux utilisateurs recourent à la chirurgie pour ressembler à leur version filtrée. Ce phénomène pourrait s’étendre à nos expressions émotionnelles : quelle sera la « bonne » manière de sourire, de montrer de l’empathie, telle que définie par les algorithmes dominants ?

AU NIVEAU POLITIQUE, ELLES POURRAIENT SERVIR À « NEUTRISER » LES DÉBATS EN GOMMANT LES ÉMOTIONS JUGÉES TROP INTENSES

Le contrôle, quant à lui, se manifeste à plusieurs niveaux. Au niveau individuel, ces technologies peuvent devenir des instruments d’auto-optimisation permanente : il faudrait toujours sourire davantage, masquer ses « émotions négatives ». Au niveau organisationnel, elles ouvrent la voie à une gestion algorithmique des affects au travail : imaginez des systèmes qui standardisent automatiquement l’expressivité émotionnelle des employés en contact avec la clientèle. Au niveau politique, elles pourraient servir à « neutriser » les débats en gommant les émotions jugées trop intenses. Pourtant, l’expérience sensible n’est pas étrangère au registre de la raison. Elle est, au contraire, partie prenante d’une raison publique élargie, comme le souligne Myriam Revault d’Allonnes. Loin de la production massive et instrumentalisée des émotions, la philosophe en appelle à l’élaboration de « passions publiques » indispensables à notre existence démocratique – un idéal politique collectif à rebours de la gouvernance aristocratique, espoir des élites technofascisantes de la Tech. Autant de champs possibles à explorer.

Car le contrôle des émotions est un enjeu de pouvoir. Les technologies à qui nous le confions doivent être observées comme de véritables instruments de gouvernementalité des individus – des technologies de domestication émotionnelle. Dès lors, il nous faut questionner ces pratiques : quelles revendications ou quels discours risqueraient d’être tus par le mute algorithmique ? Et, bien entendu, il nous faut nous demander qui déciderait quelles émotions sont acceptables et pour qui ?

CAR LE CONTRÔLE DES ÉMOTIONS EST UN ENJEU DE POUVOIR. […] QUI DÉCIDERAIT QUELLES ÉMOTIONS SONT ACCEPTABLES ET POUR QUI ?

Les IA génératives créent ainsi une configuration singulière : elles offrent une forme apparente de « libération » des contraintes biologiques dans l’expression émotionnelle, tout en instaurant de nouveaux mécanismes de contrôle plus subtils et plus pénétrants. Ce paradoxe exige que nous pensions ensemble, comme nous y invitent les historiens des sensibilités Alain Corbin et Hervé Mazurel, « la construction sociale du sensible et la construction sensible du social ».

Ce qui rend ce potentiel inédit, c’est que cette standardisation et cette domestication ne passent plus par la contrainte sociale explicite ou par l’apprentissage conscient des règles de civilité. Elles s’opèrent à travers des interfaces techniques qui modèlent notre expressivité à notre insu, recalibrant progressivement notre sensibilité elle-même. En plus d’être socialisés par nos pairs, nous le sommes par les architectures algorithmiques, nouvelles matrices culturelles qui médiatisent nos interactions quotidiennes.

Quelles sont les priorités, face à l’essor spectaculaire des systèmes d’IA, pour vous qui enseignez la neuro-éthique, l’éthique des systèmes d’IA et la philosophie de l’innovation ?

La priorité est de sortir de l’aveuglement. En 1997, Peter Sloterdijk affirmait que les anthropotechniques devaient ne plus demeurer aussi inconscientes. Pourtant, la prise de conscience n’est toujours pas au rendez-vous. Les IA génératives émotionnelles, en redessinant les contours expressifs de nos échanges, génèrent de nouvelles modalités par lesquelles nous sommes configurés et gouvernés à notre insu. Il nous faut donc développer une attention critique à ce qui se produit dans l’intimité de nos rapports à nous-même et aux autres.

Cette vigilance implique d’abord de s’affranchir de certains schémas de pensée dualistes et polarisants : les oppositions humains-technologies ou émotions-raison nous empêchent de saisir notre condition hybride. Reconnaître que nous sommes toujours déjà façonnés par nos techniques n’est pas céder au transhumanisme – c’est, au contraire, se donner les moyens de penser politiquement les transformations en cours. Comme je l’écris dans la conclusion : « Être humain, c’est être modelé et remodelé par la technique. Et pourtant, nous nous sentons encore si séparés de nos technologies. » Cette illusion tenace nous empêche de comprendre que ces technologies n’ont pas besoin d’être implantées dans nos cerveaux pour façonner en profondeur nos affects.

EN PLUS D’ÊTRE SOCIALISÉS PAR NOS PAIRS, NOUS LE SOMMES PAR LES ARCHITECTURES ALGORITHMIQUES, NOUVELLES MATRICES CULTURELLES QUI MÉDIATISENT NOS INTERACTIONS QUOTIDIENNES

Deuxièmement, il est primordial de prendre au sérieux le potentiel anthropotechnique des IA génératives sur la construction des individus et des sociétés. Cela contribuerait à nourrir les réflexions éthiques déjà engagées, notamment les travaux de l’Unesco en neuro-éthique sur la protection de notre cerveau contre toute exploitation invasive. Les questions soulevées par le concept d’« anthropotechnie » permettraient de prolonger ces réflexions en articulant les dimensions neuroaffectives, centrales dans mon concept d’IAffectivité via le cerveau prédictif, avec une compréhension plus systémique des processus de subjectivation dans notre environnement technologique.

Troisièmement, nous devons considérer ces technologies comme des instruments de gouvernementalité des individus. Reposer la question de l’humanisme. Et alors, interroger les conditions sous lesquelles nous nous formons. Cela suppose de mettre en lumière et de questionner les idées parfois erronées qui président à la conception de certaines technologies d’IA génératives. À partir de quelle définition de l’humain pensons-nous notre rapport aux technologies ? Quels neuromythes sur les émotions guident le design de ces systèmes ?

NOUS DEVONS CONSIDÉRER CES TECHNOLOGIES COMME DES INSTRUMENTS DE GOUVERNEMENTALITÉ DES INDIVIDUS

Quatrièmement, il nous faut anticiper plutôt que subir. Le rythme de l’innovation rend la tâche difficile et les technologies se propagent dans les sociétés sans même que nous ayons eu le temps de penser leurs effets sur les populations. D’où l’importance des travaux qui visent à anticiper les effets comportementaux et sociaux de technologies qui existent quoique non encore massivement déployées. Une démarche au centre de mon essai. Nous nous trouvons dans cette fenêtre d’opportunité particulière : la technologie est suffisamment mature pour être appréhendée concrètement, mais l’écosystème de ses usages n’est pas encore cristallisé en norme de masse. L’enjeu de cette phase critique est de remplacer la gestion des conséquences a posteriori par l’anticipation, pour intervenir avant qu’elles ne deviennent irréversibles.

Cinquièmement, il nous faut repenser collectivement les fins que nous assignons à l’innovation. Fascinés par ce qui est techniquement possible, nous oublions de nous demander ce qui est socialement souhaitable. La société finit ainsi par se conformer aux innovations plutôt que les innovations répondent aux besoins humains et sociaux. Il est donc nécessaire de repenser ces fins de manière collective. Afin de décider ensemble ce vers quoi nous souhaitons orienter nos efforts de recherche et développement, puis réserver nos investissements financiers et nos ressources énergétiques limitées au développement de technologies d’IA génératives qui répondent à des problèmes identifiés de manière démocratique. Des technologies qui dépassent le paradigme de l’innovation et qui, plutôt que de créer de nouveaux besoins ou dépendances, sont réellement utiles à la société. Une IA d’intérêt général telle que proposée par la Charte de Paris lors du Sommet pour l’action sur l’IA et qui prône « les systèmes d’IA ouverts, divers, durables, adaptés au contexte local, axés sur le développement et accessibles dans le monde entier ».

LA SOCIÉTÉ FINIT AINSI PAR SE CONFORMER AUX INNOVATIONS PLUTÔT QUE LES INNOVATIONS RÉPONDENT AUX BESOINS HUMAINS ET SOCIAUX

Sixièmement, une vigilance particulière s’impose concernant la liberté et l’autonomie quant à l’usage de ces technologies. Il existe une tension fondamentale entre se gouverner soi-même avec les technologies et être gouverné par l’architecture des systèmes d’IA. Au service de qui et de quoi s’opère cette production de soi ? Les injonctions sont souvent pernicieuses : derrière le désir de liberté se cache fréquemment l’aliénation.

Plus qu’une affaire d’hygiène psychique, l’enjeu porte sur le type d’humanité et de société que nous souhaitons. À l’heure où l’Europe réfléchit à la régulation de l’IA, alors même que la dimension politique des IA génératives nous est devenue manifeste, ces questions ne peuvent plus être reléguées au second plan. Nos responsables politiques doivent s’en saisir. À l’approche de l’élection présidentielle française, verrons-nous ces enjeux anthropologiques et sociaux investir le débat politique ? Ou laisserons-nous, par inertie, une poignée d’acteurs privés définir seuls ce que sera notre IAffectivité ? L’usage de l’IA générative dans les campagnes électorales illustre cette urgence. Lors des élections municipales à Grenoble, en 2026, un candidat a pu déployer un chatbot doté de sa voix clonée, sans que cela ne suscite le moindre débat collectif. Or, cela soulève de nombreuses questions. Questions qui appellent une délibération démocratique élargie – une convention citoyenne pourrait en constituer le cadre. Car ce sont les conditions mêmes d’exercice de notre démocratie qui sont en jeu.

CES CHOIX NORMATIFS PROFONDS […] SONT PRIS PAR UNE POIGNÉE D’ACTEURS PRIVÉS, SANS AUCUN DÉBAT DÉMOCRATIQUE

Derrière ces architectures algorithmiques, il y a des concepteurs bien réels, porteurs d’agendas politiques explicites. Le manifeste récent d’Alex Karp, PDG de Palantir, l’illustre, mais il n’est pas le seul (voir supra). Même chez Anthropic, OpenAI ou Meta, des chartes définissent ce que leurs IA peuvent ou ne peuvent pas dire, quelles valeurs elles doivent promouvoir, ainsi que le registre affectif des technologies par lesquelles se forment nos interactions. Ces choix normatifs profonds – qui définissent les contours de l’IAffectivité et de la nouvelle normativité technomorale – sont pris par une poignée d’acteurs privés, sans aucun débat démocratique. Faut-il laisser entre leurs mains la forme que prendra notre sensibilité collective ?

C’est pourquoi je travaille actuellement à l’élaboration d’une charte pour la protection de notre souveraineté et de notre intégrité cognitivo-affectives, dans la continuité des travaux de l’Unesco sur les neurodroits. Car ces technologies ne façonnent pas seulement nos émotions et nos perceptions, elles redéfinissent aussi les normes morales qui structurent nos sociétés.

Nos émotions, cet outil cognitif collectif et ciment de notre réalité commune, sont profondément plastiques. Les IA génératives émotionnelles, en devenant des médiateurs ordinaires de nos relations, s’imposent subrepticement comme les nouveaux designers de notre sensibilité. Cette matrice technologique dicte la grammaire de nos propres émotions. Pour quelle humanité et pour quelle société ? Il est impératif de se saisir de la question.