L’utilisation d’intelligences artificielles par les plus jeunes devient de plus en plus un sujet de santé publique. Les cas de drames survenus après des échanges entre un adolescent et une IA ne sont malheureusement pas rares. Afin de limiter les risques, OpenAI introduit les comptes ChatGPT pour adolescents. Sur ces comptes, l’IA s’adapte à l’âge de l’utilisateur et se transforme même en professeur particulier avec le mode Étude. De plus, plusieurs limitations ont été mises en place pour préserver la santé mentale des plus jeunes.
Un ChatGPT spécialement pensé pour les adolescents
Après Instagram et WhatsApp, c’est au tour de ChatGPT d’instaurer des comptes pour adolescents. Pour être plus précis, il est question de comptes activés par défaut pour les utilisateurs identifiés comme ayant moins de 18 ans. OpenAI explique que ces comptes sont conçus « pour aider les adolescents à développer leur esprit critique, à approfondir leur compréhension et à utiliser l’IA en toute confiance », tout en précisant ensuite que l’objectif « est de permettre aux adolescents d’utiliser l’IA de manière responsable pour apprendre, créer et explorer ».
Les comptes adolescents intègrent un mode Étude « qui utilise des questions d’orientation et un accompagnement étape par étape pour aider les adolescents à comprendre les notions abordées ». En d’autres termes, il est en quelque sorte question d’un professeur particulier. Cette version de ChatGPT peut ainsi rappeler les devoirs à effectuer et réorienter un adolescent qui ferait preuve d’inattention, ou qui tenterait de contourner un devoir, vers le mode Étude. Selon OpenAI, l’objectif « est de résoudre le problème de manière collaborative, étape par étape ». Par ailleurs, des quiz et des visualisations pédagogiques sont proposés aux adolescents disposant de ce type de compte.
Il n’est pas seulement question d’accompagnement scolaire, puisque le Mode Étude propose également d’instaurer des rappels de pause et des heures de tranquillité. D’ailleurs, il est possible de définir des horaires durant lesquels le mode Étude est activé par défaut.
Plusieurs mesures sont mises en place pour préserver le bien-être des plus jeunes
En parallèle d’un accompagnement scolaire, les comptes pour adolescents ont aussi pour objectif de protéger les plus jeunes. Ils intègrent ainsi des mesures de protection « conçues pour réduire leur exposition à des contenus potentiellement préjudiciables ou inadaptés à leur stade de développement ». Ces mesures se traduisent par des mécanismes de protection du modèle et une adaptation des contenus à l’âge de l’utilisateur « dans des domaines à risque élevé, comme l’automutilation, la violence, les troubles des conduites alimentaires, les activités dangereuses ainsi que les contenus sexuellement explicites ou graphiques ».
Précisons enfin qu’OpenAI assure avoir renforcé les protections empêchant ChatGPT de laisser entendre qu’il éprouve des sentiments envers l’utilisateur ou des émotions. Enfin, à l’image de la fonctionnalité « Contact de confiance », les parents dont le compte est associé à celui de leur adolescent peuvent recevoir des notifications de sécurité dans certaines situations présentant un risque élevé.
👉🏻 Suivez l’actualité tech en temps réel : ajoutez 01net à vos sources sur Google, et abonnez-vous à notre canal WhatsApp.
