OpenAI宣布, lancera officiellement le « Youth Version ChatGPT » conçu pour les utilisateurs âgés de 2025 à 13 ans avant la fin de 18, renforçant encore la protection de la confidentialité et de la sécurité, tout en offrant aux parents davantage d'outils de gestion pour garantir que les adolescents puissent vivre une expérience interactive plus saine lors de l'utilisation de l'IA.
Selon OpenAI, la fonctionnalité « ChatGPT pour adolescents » s'active lorsque le système ne peut pas confirmer l'âge réel d'un utilisateur, garantissant ainsi la confidentialité et la sécurité. OpenAI a déclaré que, face aux jeunes, la plateforme doit trouver un équilibre entre confidentialité, liberté et sécurité, la sécurité étant la priorité absolue.
Les parents ou tuteurs peuvent associer le compte de leur adolescent via une invitation et configurer l'activation de la mémoire des conversations, la conservation de l'historique des conversations et même définir des « heures d'interdiction » pour empêcher les adolescents d'utiliser les outils de chat IA pendant de longues périodes tard le soir. Si le système détecte une détresse aiguë ou des risques pour la santé mentale d'un adolescent, les parents seront immédiatement avertis, ce qui permettra une intervention rapide.
Cet ajustement reflète également la récente préoccupation accrue aux États-Unis concernant les risques pour la santé mentale des adolescents. Des études récentes ont montré qu'une interaction prolongée avec l'IA générative peut exacerber le sentiment d'isolement ou provoquer un stress psychologique. Le Congrès américain prévoit également d'organiser des auditions pour examiner l'impact des produits d'IA sur les mineurs. La Federal Trade Commission (FTC) américaine a également ciblé des entreprises comme OpenAI, Meta et Google.Lancer une enquête, exigeant un examen pour déterminer si son service de chat IA présente des dangers potentiels.
En août dernier, un parent américain a accusé son fils de 8 ans de s'être suicidé après avoir interagi avec ChatGPT et a porté plainte contre OpenAI, alléguant que la plateforme devait assumer une part de responsabilité. Cette affaire a sensibilisé le secteur à la sécurité de l'IA générative pour les adolescents et a incité OpenAI à accélérer le lancement d'une version jeunesse de son service.
OpenAI a indiqué que la version jeunesse de ChatGPT serait lancée progressivement et serait ajustée en fonction des retours des utilisateurs et des parents. OpenAI n'exclut pas non plus de futures collaborations avec des écoles et des établissements d'enseignement afin de permettre aux jeunes d'apprendre et de créer dans un environnement d'IA sécurisé, plutôt que de l'utiliser uniquement comme un outil de divertissement.
Alors que l'IA générative s'impose au quotidien, permettre aux jeunes d'explorer son potentiel en toute sécurité est devenu un défi commun pour les entreprises technologiques du monde entier. La dernière initiative d'OpenAI pourrait bien établir une nouvelle norme pour l'utilisation de l'IA par les jeunes au sein du secteur et devrait inspirer d'autres plateformes d'IA à suivre son exemple.
