Connexion
Roblox met en place un contrôle des visages par IA pour assurer la sécurité en ligne
Suite à de récentes critiques, le jeu vidéo le plus populaire actuellement chez les enfants prend très au sérieux les menaces criminelles qui peuvent toucher les plus jeunes sur ses serveurs. Un système de reconnaissance faciale sera mis en place pour catégoriser les joueurs par tranches d’âges, mais cela suffira-t-il à freiner l’ingéniosité des prédateurs ? Certains estime déjà être capable de tromper l’intelligence artificielle.
Dans un article sur le site officiel de Roblox, le directeur de la sécurité Matt Kaufman, et le vice-président Rajiv Bhatia, expliquent le fonctionnement des contrôles de l’âge des utilisateurs. Les utilisateurs devront utiliser leur téléphone et permettre à Roblox d’accéder à leur caméra pour estimer leur âge. En fonction de leurs tranches d’âges, les utilisateurs seront limités sur le système de messagerie à ne pouvoir interagir qu’avec ceux avec lesquels Roblox les autorisera à communiquer »
« En tant que première grande plateforme de jeux en ligne à exiger des contrôles d’âge du visage pour que les utilisateurs de tous âges puissent accéder au chat, cette implémentation est notre prochaine étape vers ce qui, selon nous, sera la référence absolue en matière de sécurité des communications.
Billet sur le blog de Roblox, concernant la vérification de l’âge de ses utilisateurs
Il permet un chat basé sur l’âge, ce qui favorise une expérience positive et adaptée à l’âge de tous les utilisateurs du monde entier et limite la communication entre les adultes et les enfants de moins de 16 ans. »
Qui pourra communiquer avec qui sur Roblox ?
Avec ce système de sécurité par contrôle du visage, voici comment seront répartis certains utilisateurs :
- Pour les enfants de moins de 9 ans, l’autorisation parentale sera requise pour utiliser la messagerie en jeu. Ils ne pourront pas parler avec des personnes de plus de 13 ans.
- Entre 9 et 12 ans, un utilisateur se verra interdire la discussion avec ceux âgés de plus de 15 ans.
- Les jeunes de 13 ans et 15 ans pourront discuter avec des personnes dont l’âge serait situé entre 9 et 17 ans. Ni plus, ni moins. A partir de ces âges, il sera possible de faire la vérification avec une pièce d’identité.
- Pour les adolescents de 16 et 17 ans, ils pourront discuter avec ceux âgés entre 13 et 20 ans.
- Les personnes âgés de 18 à 20 se verront interdire la communication avec ceux de moins de 16 ans.
- Enfin, ceux qui auront 21 ans et plus, ne pourront parler qu’avec les personnes âgées de 18 ans et plus.
Ce système de séparation entre les tranches d’âge est appelé Trusted Connections Feature, soit la fonctionnalité des connexions de confiance. Un système qui permet d’interagir avec les individus dont les interactions seraient les plus bénéfiques pour nous dans l’espace ludique qu’est Roblox. Le but étant de rapprocher les mentalités similaires et d’empêcher des interactions de domination mentale et sociale entre un adulte et un enfant.
Ce processus de vérification de l’âge pourrait être amené à se répéter sur plusieurs sessions de jeux. Il sera également possible de faire en sorte que les membres d’une même famille puisse communiquer entre eux, peu importe leur âges et après vérification. En cas de problème d’identification de l’utilisateur dans une mauvaise tranche d’âge, une procédure d’appel est disponible. Certains utilisateurs situés aux Etats-Unis et dont la fonctionnalité a déjà été implémentée, se plaignent d’être identifié comme des enfants à cause de leur traits juvéniles.
Cette procédure assez lourde mise en place par Roblox fait ainsi suite à de récentes critiques concernant le laxisme de la société sur la protection des enfants. Le jeu ayant en effet souffert de l’infiltration de nombreux réseaux criminels, de prédateurs et d’arnaques visant à attaquer et manipuler les plus jeunes.
Malgré les réticences de nombreux joueurs de la communauté, qui voient la mise en place de cette procédure comme la signature de l’arrêt de mort du jeu, son installation en jeu pourrait en effet freiner les problèmes inhérents à ce type de jeu où de nombreux enfants se réunissent en ligne. Cependant, ce système de vérification possède également ses limites et certains joueurs affirment déjà être capable de passer les vérifications avec des applications leur donnant une apparence plus jeune ou en utilisant les visages réalistes de certains personnages de jeux vidéo, comme Norman Reedus de Death Stranding 2.
Cet article Roblox met en place un contrôle des visages par IA pour assurer la sécurité en ligne est apparu en premier sur JVFrance.
26