OpenAI introduit un système de détection de l’âge pour sécuriser les utilisateurs mineurs de ChatGPT
ChatGPT : mise en place d’un dispositif de prévision d’âge pour renforcer la protection des adolescents
OpenAI, la société derrière le développement de ChatGPT, annonce l’intégration prochaine d’un système visant à estimer l’âge des utilisateurs afin d’assurer une meilleure sécurité des adolescents. Cette initiative intervient après que l’entreprise a récemment été confrontée à des critiques concernant l’impact potentiel de son assistant conversationnel sur la santé mentale des jeunes, notamment en réponse à des accusations selon lesquelles certains contenus pourraient encourager des comportements dangereux.
une technique d’évaluation de l’âge pour un usage sécurisé
Selon Sam Altman, le dirigeant d’OpenAI, un nouveau mécanisme de prédiction d’âge est en cours de développement. Il pourrait permettre d’estimer l’âge d’un utilisateur en analysant ses interactions avec le chatbot. En cas de doute, le système privilégierait une expérience adaptée aux personnes de moins de 18 ans, conformément aux recommandations récentes de l’entreprise. Cette démarche s’inscrit dans une volonté de mieux encadrer les échanges et d’éviter toute diffusion de contenus inappropriés.
adaptation des réponses selon le profil de l’utilisateur
Les nouvelles règles mises en place visent à moduler le comportement du chatbot en fonction de l’âge supposé de la personne. ChatGPT sera ainsi programmé pour ne pas engager de discussions à caractère sexuel ou sensible, notamment celles abordant des sujets liés au suicide ou à l’automutilation. Par ailleurs, si un mineur venait à utiliser la plateforme pour évoquer ou imaginer des scénarios suicidaires, le système pourrait alerter ses proches ou, en cas de nécessité, les autorités compétentes.
priorité à la sécurité et à la prévention des risques
Sam Altman insiste sur le fait que la sécurité des jeunes prime sur la confidentialité ou la liberté d’expression. OpenAI reconnaît que cette technologie représente une avancée significative, mais souligne la nécessité de mettre en place des mesures de protection adaptées pour les utilisateurs vulnérables. La nouvelle politique vise ainsi à mieux encadrer l’utilisation de ChatGPT par les mineurs afin d’éviter toute situation à risque.
Vous êtes préoccupé par des idées suicidaires ? Parlez-en à des professionnels
Pour toute personne ressentant des pensées suicidaires ou souhaitant soutenir un proche dans cette démarche, il existe des ressources accessibles 24 heures sur 24 et 7 jours sur 7 :
- La Main Tendue (adultes) : 143
- Pro Juventute (jeunes) : 147
- Urgences médicales : 144
Il est également recommandé de contacter des spécialistes ou organismes spécialisés comme Santépsy.ch ou Stop Suicide pour un accompagnement adapté à chaque situation.
