Discord a commencé mercredi à déployer son système d’assurance de l’âge, après un report de plus de six mois dû à la réaction de sa communauté. L’entreprise maintient sa promesse selon laquelle plus de 90 % des utilisateurs n’auront pas à confirmer leur âge. Le principe annoncé en février reste inchangé.

Stanislav Vishnevskiy, cofondateur et CTO de Discord, indique que le modèle examine les métadonnées des comptes, les habitudes d’utilisation, le contexte des communautés, les informations liées aux appareils et les représentations du graphe social. Discord précise que le contenu des messages et des appels vocaux n’est pas analysé. Le signal principal est appelé Discord Entity-Relationship Embeddings, ou DERE. Chaque utilisateur reçoit une représentation numérique à 32 dimensions, calculée à partir des relations entre utilisateurs, serveurs et jeux déclarés. Le système DERE a été entraîné sans données d’âge.

Le modèle produit une probabilité comprise entre 0 et 1 indiquant qu’un compte appartient à un adulte. Les comptes difficiles à classer ou trop peu actifs peuvent devoir effectuer une vérification supplémentaire pour accéder à des contenus, espaces ou paramètres soumis à une limite d’âge. Les utilisateurs peuvent créer une clé d’accès AgeKey conservée sur leur appareil, passer un contrôle de carte bancaire traité par Stripe, ou transmettre une tranche d’âge déjà associée à un compte Apple ou Google. Google Wallet, Google Play et l’App Store d’Apple font partie des services pris en charge. Les pratiques de confidentialité de Stripe ont déjà été critiquées.

Les comptes identifiés comme appartenant à des adolescents gardent des protections spécifiques. Les messages provenant de personnes qui ne sont pas des amis sont placés dans une boîte de demandes. Les demandes d’amitié sans serveur ou ami commun sont signalées, et seul un adulte peut désactiver cette protection. Les adolescents ne peuvent pas rejoindre les serveurs et salons soumis à une restriction d’âge. Les images sensibles peuvent être floutées ou bloquées. Les données de profil sont également verrouillées.

Vishnevskiy a reconnu la controverse liée aux contrôles biométriques et aux justificatifs d’identité. Il a replacé le déploiement dans le contexte des gouvernements qui demandent des contrôles d’âge aux services en ligne et d’un Internet plus fermé. Discord affirme qu’il devra être jugé sur la précision des estimations, la rapidité de correction des erreurs et la publication de données. Les comptes concernés peuvent consulter leur statut et vérifier leur âge dans User Settings > Account Status. Le déploiement atteindra davantage de comptes au fil de la semaine.