OpenAI lance ChatGPT for Teens avec des garde-fous scolaires

Le raccourci pour faire ses devoirs s'accompagne désormais d'un détour. OpenAI a lancé ChatGPT for Teens, un mode dédié aux utilisateurs âgés de 13 à 17 ans qui oriente les tentatives présumées de contourner un devoir vers le mode Étude, plutôt que de renvoyer simplement une réponse. L'entreprise de San Francisco affirme que cette expérience est conçue pour aider les adolescents à apprendre, à développer leur esprit critique et à utiliser l'IA avec confiance.

Le mécanisme est volontairement plus lent. Le mode Étude utilise des questions-guides et une aide étape par étape pour aider l'élève à résoudre un problème, tandis que les quiz et les visualisations pédagogiques sont censés faciliter l'exploration des concepts difficiles. Un nouveau rappel pour des devoirs responsables peut détecter lorsqu'un adolescent semble essayer de sauter des étapes et le rediriger ; les utilisateurs ou leurs parents peuvent également définir des heures d'étude, qui activent le mode Étude aux horaires choisis.

Les protections de sécurité sont activées par défaut. L'expérience pour adolescents impose des limites plus strictes concernant l'automutilation, le suicide, les troubles alimentaires, les comportements dangereux, la violence graphique et les conversations sexuelles ou romantiques. Elle avertit également les utilisateurs avant l'envoi d'images sensibles et est conçue pour ne pas laisser entendre que ChatGPT éprouve des sentiments personnels, possède une conscience ou entretient un lien romantique avec l'adolescent. Allison Mishkin, responsable du développement de l'enfant chez OpenAI, a déclaré que l'entreprise avait examiné les signaux susceptibles d'encourager un adolescent à nouer une relation avec le chatbot.

Les parents peuvent associer leurs comptes pour définir des heures calmes — des périodes pendant lesquelles ChatGPT est inaccessible — et recevoir des notifications dans certaines situations à haut risque, notamment en cas d'automutilation possible ; OpenAI indique que les notifications concernant les troubles alimentaires sont en cours d'ajout. Ces contrôles restent toutefois facultatifs. Les utilisateurs qui se déclarent mineurs, ou que le système estime âgés de moins de 18 ans, sont automatiquement placés dans l'expérience pour adolescents, tandis qu'OpenAI ne vérifie pas directement l'âge, selon Phys.org.

Alors, qu'est-ce qui change concrètement ? Un adolescent peut toujours utiliser ChatGPT pour poser des questions et faire ses devoirs, mais l'interaction par défaut est censée encadrer deux des usages les plus controversés : déléguer ses devoirs et traiter un système d'IA comme un compagnon doté d'une présence affective. Les parents bénéficient d'outils de programmation et d'alertes, tandis que les élèves disposent d'un parcours intégré vers une pratique guidée plutôt que vers des réponses instantanées.

Cette promesse va devoir faire ses preuves. TechCrunch rapporte qu'on ne sait pas encore à quel point les nouvelles protections seront difficiles à contourner, les adolescents trouvant souvent des moyens de passer outre les contrôles parentaux et autres restrictions. Le lancement d'OpenAI intervient après une attention publique accrue et des poursuites concernant la sécurité des chatbots, mais le succès du produit dépendra de l'efficacité de ses garde-fous dans de vraies conversations — et pas seulement des paramètres affichés au lancement.