IA générative : une commission d’experts remet à Emmanuel Macron 18 recommandations face à l’affaiblissement cognitif et à la dépendance émotionnelle

Une commission de neuf experts a remis le 10 novembre à Emmanuel Macron 18 recommandations pour répondre aux risques de l’IA générative grand public, de ce qu’elle appelle l’affaiblissement cognitif à la dépendance émotionnelle et à la désinformation, selon une dépêche de l’AFP reprise par France 24. Baptisée « IA générative et vulnérabilités », cette commission avait été chargée par le gouvernement d’examiner les risques liés aux usages grand public de ces outils, notamment pour la santé mentale des plus jeunes, et a mené 55 auditions de professionnels de santé, de chercheurs, d’entreprises et d’associations de protection de l’enfance.

Selon le rapport, plus de la moitié des Français utilisent désormais l’IA générative, ce qui place la France au cinquième rang mondial des usages, et près de 70 % des 15-24 ans y ont recours régulièrement. Le professeur de psychiatrie Raphaël Gaillard, coprésident de la commission, a expliqué à l’AFP que le premier enjeu est l’affaiblissement cognitif : on délègue des compétences à ces systèmes et, de ce fait, on ne les acquiert pas, ce qui concerne selon lui tout le monde, et pas seulement les jeunes. Les experts alertent aussi sur la dépendance émotionnelle nourrie par l’anthropomorphisme et par la flagornerie, cette tendance des agents conversationnels à flatter l’utilisateur au détriment de la vérité.

Ce que cela change concrètement

Parmi les recommandations figurent des évaluations indépendantes des systèmes d’IA générative avant et après leur mise sur le marché, l’accès des autorités et des chercheurs agréés aux données d’entraînement, d’usage et de monétisation, un protocole national de réponse aux crises informationnelles liées à l’IA et une politique nationale ambitieuse d’éducation à l’IA. La commission souhaite renforcer la répression des contenus sexuels non consentis et pédocriminels générés par IA, et imposer un niveau élevé de protection aux systèmes accessibles aux mineurs, avec le blocage des requêtes dangereuses. Elle appelle aussi à la vigilance face à l’émergence d’une « économie de la cognition », notamment à travers la publicité intégrée aux réponses des agents conversationnels.

Ce rapport fait suite à des données montrant qu’une jeune victime de harcèlement sur quatre s’est tournée vers l’IA pour trouver du soutien. Dans un entretien accordé lundi au quotidien Les Echos, Emmanuel Macron a estimé qu’il fallait interdire l’IA là où elle présente un risque pour la santé mentale des enfants. Il faudra suivre les recommandations que l’Élysée retiendra, l’éventuelle volonté de la France de porter des tests avant mise sur le marché à l’échelle européenne et la manière dont d’éventuelles restrictions pour les mineurs seraient appliquées.