Sauvegarder

Meta a déployé dans le monde entier une technologie d’estimation de l’âge basée sur l’intelligence artificielle (IA) dans le but de mieux détecter les utilisateurs adolescents qui se sont inscrits sur ses plateformes de médias sociaux avec la date de naissance d’un adulte.

La plus grande société de médias sociaux au monde a annoncé ce changement lundi, affirmant que des millions de jeunes supplémentaires dans le monde seraient placés sur ses comptes pour adolescents suite à la mise en œuvre de la nouvelle technologie, alors que ses plateformes craignaient de ne pas avoir réussi à protéger les adolescents.

Histoires recommandées

Les comptes adolescents disposent de plus de restrictions et de protections conçues pour offrir une expérience utilisateur plus sûre. Ils gardent le compte privé par défaut, limitent les types de contenu et empêchent les inconnus d'envoyer des messages directs (DM) aux titulaires de compte adolescents. Les parents peuvent également superviser les comptes adolescents.

Les experts doutent cependant que cette dernière mesure protège les enfants des dangers en ligne.

Voici ce que nous savons du dernier outil et pourquoi Meta l’a déployé :

Qu’a annoncé Meta ?

Meta, propriétaire d'Instagram, Facebook, WhatsApp et Threads, a déclaré lundi avoir commencé à utiliser son système d'estimation de l'âge par l'IA sur les comptes Instagram du monde entier.

"Depuis l'introduction de cette technologie, nous avons placé davantage d'adolescents dans des protections adaptées à leur âge et sommes encouragés par les résultats. Forts de ce succès, nous étendons aujourd'hui cette technologie à l'échelle mondiale", a déclaré la société.

Le système est conçu pour identifier les adolescents qui se sont inscrits avec une fausse date de naissance afin d'utiliser un compte régulier. Ils sont ensuite transférés vers un compte Teen restreint ou supprimés de la plateforme.

Meta déploie également le nouvel outil de détection d'âge pour Facebook et prévoit de mettre en œuvre un système similaire dans le monde entier pour Threads, une autre de ses applications de médias sociaux, avant la fin de l'année.

Avant lundi, le système était déjà déployé dans plus de 20 pays. Meta a appelé ses concurrents à adopter des contrôles d'âge similaires.

Comment fonctionneront les contrôles d’âge et quelles protections déclencheront-ils ?

Meta affirme que son IA juge si un titulaire de compte est susceptible d'être un adolescent, quelle que soit la date de naissance indiquée lors de l'inscription.

L’IA recherche dans le compte d’un utilisateur des « indices contextuels » indiquant son âge. Les exemples donnés par Meta incluent « les célébrations d’anniversaire ou les mentions de notes scolaires ».

Il utilise également des « repères visuels » dans les images et vidéos du compte, mais Meta affirme que cela ne s’étend pas à la reconnaissance faciale.

Les comptes signalés sont ensuite déplacés vers des comptes pour adolescents – sur Instagram, Facebook et Messenger – qui limitent le temps que les adolescents peuvent passer sur les applications, le contenu auquel ils peuvent accéder et à qui ils peuvent envoyer des messages.

Dans les pays qui interdisent les réseaux sociaux aux utilisateurs de moins d’un certain âge, le compte peut être entièrement fermé.

Aux États-Unis, Meta ajoutera des restrictions spécifiques pour les moins de 18 ans, limitant leur temps d'utilisation de ses applications à deux heures par jour et imposant un couvre-feu de minuit à 6 heures du matin.

En Australie, la société affirme avoir commencé à utiliser une fonctionnalité Apple qui vérifie la tranche d’âge d’un utilisateur lorsque son téléphone est configuré et la transmet aux applications qu’il télécharge.

Meta a déclaré qu'il soutenait une législation qui obligerait les magasins d'applications à vérifier l'âge des utilisateurs, la qualifiant de "plus efficace" que de demander à de nombreux développeurs de concevoir des méthodes pour collecter les informations pour chaque application.

Pourquoi Meta introduit-elle ces mesures maintenant ?

Dans son annonce, Meta a lié la nouvelle politique à l'issue d'un procès sans précédent intenté par 29 États américains et cosigné par 52 procureurs généraux américains.

L’entreprise a été accusée d’avoir conçu Facebook et Instagram pour rendre les enfants accros et collecter leurs données personnelles, de ne pas en faire assez pour vérifier l’âge des utilisateurs et d’encourager même les mineurs à contourner ses mesures de vérification existantes.

La poursuite a été réglée à l'amiable en août, Meta acceptant de verser jusqu'à 18 milliards de dollars aux plaignants et d'apporter des modifications significatives à sa plateforme pour protéger les mineurs, notamment des délais, des couvre-feux nocturnes et des limites sur les filtres simulant des procédures cosmétiques.

Bien que l’annonce de Meta fasse référence au règlement à l’amiable du mois d’août, la société a fait face cette année à deux autres actions en justice majeures aux États-Unis concernant l’impact de ses produits sur les enfants.

En mars, Meta a été condamnée à payer 375 millions de dollars lorsqu'un tribunal du Nouveau-Mexique a estimé que l'entreprise avait induit en erreur sur la sécurité de sa plateforme destinée aux mineurs.

À peu près au même moment, Meta et Google ont également perdu une affaire historique à Los Angeles, intentée par une femme qui a déclaré qu'elle était devenue dépendante d'Instagram et de YouTube et qu'elle était en conséquence confrontée à des problèmes de santé mentale.

Les gouvernements interviennent également de plus en plus pour protéger les mineurs de ce qu’ils considèrent comme les méfaits des médias sociaux.

Ces dernières années, plusieurs pays ont introduit des interdictions sur les réseaux sociaux pour les mineurs de moins d'un certain âge, notamment le Royaume-Uni, l'Indonésie, l'Australie et la Turquie, et de nombreux autres pays envisagent des mesures similaires.

Ce nouveau système est-il suffisant ?

Sonia Livingstone, professeur à la London School of Economics et directrice du Digital Futures for Children Centre, a déclaré à Al Jazeera que Meta n'avait pas encore fourni la preuve que son système empêchait les utilisateurs mineurs d'utiliser ses plateformes.

Elle a souligné une « absence de preuve claire » que les jeunes enfants ne pouvaient pas créer de compte ou que les adolescents qui utilisaient les plateformes étaient effectivement placés sur des comptes pour adolescents.

Livingstone a déclaré que le système de vérification de l’âge de Meta « présente un risque pour la vie privée de tous les utilisateurs, pas seulement des enfants, puisque le but de la garantie de l’âge est de déterminer qui sont les enfants ».

Sans audits indépendants pour déterminer son fonctionnement, « il est difficile de voir pourquoi nous devrions leur confier nos données personnelles », a-t-elle déclaré.

Bien que l'Australie ait interdit l'accès aux réseaux sociaux aux moins de 16 ans en décembre, son régulateur, eSafety, a constaté que plus de 80 % des préadolescents et des jeunes adolescents les utilisaient encore six mois plus tard, en grande partie parce que les contrôles d'âge n'avaient pas réussi à les en empêcher.

Au cours de la même période, Meta a fermé 462 000 comptes Instagram conformément à l'interdiction – mais eSafety a constaté que plus de 69 % des utilisateurs mineurs conservaient leur compte Instagram.

Il existe également le risque que les utilisateurs adolescents migrent simplement vers une autre plateforme présentant des risques similaires pour leur santé.

Dans le cadre de l’accord de 18 milliards de dollars d’août, environ 5 milliards de dollars de paiement de Meta sont conditionnés à ce que ses concurrents, notamment TikTok, YouTube et Snapchat, acceptent des mesures et des paiements similaires.

Beaucoup de ces plateformes sont également confrontées à une pression réglementaire pour des problèmes similaires à ceux de Meta. Vendredi, les régulateurs de l'Union européenne ont menacé d'infliger une amende à ByteDance, propriétaire de TikTok, de 6 % de son chiffre d'affaires annuel mondial pour sa conception addictive.

La commissaire européenne à la technologie, Henna Virkunnen, a déclaré que la plateforme « conduisait les utilisateurs dans des terriers dont ils ne peuvent pas facilement s’échapper » et a appelé TikTok à « intensifier ses efforts pour protéger le bien-être des utilisateurs, y compris celui des mineurs ».