OpenAI lance une version sécurisée de ChatGPT pour les adolescents

Dans un communiqué publié lundi, OpenAI a annoncé le lancement de ChatGPT pour Teens, une version spécialement conçue pour les utilisateurs de moins de 18 ans. Cette initiative s’inscrit dans une démarche visant à renforcer les protections pour les jeunes utilisateurs, tout en répondant aux préoccupations croissantes concernant l’interaction des mineurs avec les intelligences artificielles.

Un cadre strict pour protéger les adolescents

Dès l’inscription, le système identifie automatiquement les utilisateurs estimés être mineurs ou ceux qui déclarent avoir entre 13 et 17 ans. Ces comptes deviennent alors par défaut des comptes pour adolescents. Les enfants de moins de 13 ans restent exclus de la plateforme.

Parmi les mesures phares, OpenAI a supprimé la fonctionnalité de réponse vocale humaine pour les adolescents. Cette décision vise à éviter que le chatbot ne donne l’impression d’être une personne, réduisant ainsi les risques de confusion entre outil technologique et relation humaine. Les options de personnalisation, comme les couleurs d’accentuation ou les variations vocales, sont conçues pour offrir une expérience personnalisée sans franchir la ligne entre outil utile et relation sentimentale.

Des règles strictes pour éviter les dérives émotionnelles

OpenAI précise que ces mises à jour ne répondent pas à un incident spécifique, mais s’inscrivent dans le cadre des préoccupations plus larges de l’industrie concernant les attachements émotionnels excessifs envers les systèmes d’IA. Les règles pour les utilisateurs de moins de 18 ans interdisent désormais non seulement le rôle-play romantique ou sexualisé, mais aussi l’utilisation de langage amoureux, l’encouragement à la dépendance émotionnelle ou toute prétention à avoir des sentiments.

Des outils pédagogiques et un contrôle parental renforcé

Le mode Étude, déjà existant, est enrichi de questions guidées plutôt que de réponses directes pour aider les élèves à travailler leur matière. De nouvelles fonctionnalités, telles que des rappels de devoirs responsables, détectent lorsque les adolescents tentent de contourner un exercice et les redirigent vers une méthode pas à pas. OpenAI ajoute également des quiz, des visualisations d’apprentissage et des « Heures d’Étude » programmables, ainsi que des périodes de silence où l’outil est désactivé.

Côté sécurité, OpenAI intègre désormais des alertes pour les demandes liées aux troubles alimentaires. Ces alertes sont examinées par un humain avant d’être envoyées aux parents ayant des comptes liés, avec un objectif de réponse sous une heure. Par ailleurs, OpenAI collabore avec CodeAI, une entreprise spécialisée dans l’éducation par l’IA, pour aider les adolescents et les enseignants à comprendre le fonctionnement des systèmes d’IA, à questionner leurs résultats et à les utiliser de manière responsable en classe.

Une tendance industrielle vers plus de sécurité pour les mineurs

OpenAI n’est pas le seul acteur à durcir ses règles pour les jeunes utilisateurs. Anthropic, avec Claude, et Google, avec Gemini (anciennement Bard), maintiennent également des restrictions d’âge strictes. À ce jour, il n’existe pas de réglementation spécifique au Royaume-Uni concernant l’utilisation des chatbots par les mineurs, bien que des propositions gouvernementales passées aient envisagé de limiter leur accès aux moins de 18 ans.

Conclusion : Un pas en avant pour la sécurité des jeunes utilisateurs

Avec ChatGPT pour Teens, OpenAI montre sa volonté de s’adapter aux besoins spécifiques des adolescents tout en garantissant leur sécurité. Ces mesures reflètent une prise de conscience collective de l’importance de réguler l’accès et l’utilisation des technologies d’IA par les mineurs, un enjeu crucial pour les années à venir.