ChatGPT devrait-il être réservé aux adultes tant que ses protections pour les ados ne sont pas fiables ?

· Sciences et numérique

L’association américaine Common Sense Media juge le mode adolescent de ChatGPT à « risque inacceptable » et demande que les mineurs ne l’utilisent pas tant que ses failles ne sont pas corrigées.

Écran de smartphone affichant la fiche de l’application ChatGPT d’OpenAI dans une boutique d’applications, avec son logo et sa note de 4,8.
Zulfugar Karimov, Unsplash, licence Unsplash, recadré en 3:4

Le contexte

Un adolescent confie à ChatGPT des pensées suicidaires, et ses parents, pourtant reliés à son compte, ne reçoivent aucune alerte. C’est l’un des constats du rapport publié mercredi 7 octobre par Common Sense Media, une association américaine qui évalue les outils numériques destinés aux jeunes.

Ses chercheurs ont testé plus de 4 000 requêtes avec des comptes déclarés comme appartenant à des 13-17 ans, avant et après le lancement du mode adolescent d’OpenAI, le 18 août. Sur plus d’une dizaine de comptes récemment reliés à un parent, des échanges sur le suicide, l’automutilation ou les troubles alimentaires n’ont déclenché aucune alerte. Dans plus d’un cas sur quatre où il aurait fallu orienter vers une aide, le chatbot ne l’a pas fait. La limite de temps fixée par un parent pouvait être contournée, et des comptes adultes ne basculaient pas en mode adolescent même quand l’utilisateur disait avoir 13 ans.

Une note sévère, contestée

Certaines protections fonctionnent : ChatGPT a refusé des jeux de rôle sexuels explicites. Mais l’association lui attribue sa note la plus sévère et estime que les adolescents ne devraient pas l’utiliser tant que ces failles ne sont pas corrigées.

OpenAI répond que ces tests ne reflètent pas le fonctionnement réel de ses protections, car la plupart auraient été menés avant la mise en place complète du contrôle parental. Common Sense Media précise être financé en partie par des entreprises technologiques, dont certaines qu’il évalue, tout en revendiquant son indépendance éditoriale.

Les arguments pour

  • Les parents ne sont pas prévenus quand leur ado parle de suicide à ChatGPT Les alertes parentales sont la principale promesse du mode adolescent. Lors des tests, des échanges sur le suicide, l’automutilation ou les troubles alimentaires n’ont déclenché aucune alerte sur des comptes récemment reliés à un parent. Une protection qui ne s’active pas au moment critique laisse les familles dans une fausse sécurité.
  • Plus d’une fois sur quatre, le chatbot n’oriente pas un jeune en détresse vers une aide Quand la situation exigeait de renvoyer vers un professionnel ou une ligne d’écoute, ChatGPT ne l’a pas fait dans plus d’un quart des cas testés. Pour un adolescent isolé qui se confie la nuit, c’est exactement le moment où une réponse adaptée compte.
  • Les réglages des parents se contournent trop facilement Selon le rapport, la limite de temps fixée par un parent pouvait être contournée en supprimant un court préfixe du message. Le mode Étude, censé guider sans donner la réponse, proposait un bouton pour l’obtenir directement.

Les arguments contre

  • Une interdiction aux mineurs se contournerait en un clic Les tests montrent que des comptes déclarés adultes restaient en mode adulte même quand l’utilisateur disait avoir 13 ans. Réserver ChatGPT aux majeurs pousserait les ados à mentir sur leur âge et à utiliser la version sans aucune protection.
  • OpenAI conteste des tests menés avant ses derniers réglages L’entreprise affirme que la plupart des tests ont commencé avant la mise en place complète du contrôle parental, ce qui fausserait les conclusions. Corriger les failles signalées serait plus utile que de priver tous les adolescents d’un outil qui propose aussi un mode Étude pour les devoirs.

Sources

Sondage clos le .

Donner mon avis : OUI ou NON