[Tech Thoughts] Vérification obligatoire de l'identité sur les réseaux sociaux : Un raccourci propice aux abus ?

Le Département des technologies de l'information et des communications (DICT) a rédigé une circulaire départementale exposant son intention d'instituer la vérification d'identité (KYC) obligatoire des comptes d'utilisateurs sur les plateformes de médias sociaux.

Le DICT sollicite des commentaires et des contributions sur cette question, et malgré la crainte de répéter les mêmes arguments éculés avancés par d'autres plus compétents que moi dans ce domaine, il convient néanmoins de noter ces arguments.

Examinons pourquoi cette proposition semble être une mauvaise nouvelle.

Les justifications

Le DICT tente de justifier l'idée de s'assurer que les comptes de médias sociaux puissent être vérifiés en déclarant que "la prolifération des deepfakes, du contenu trompeur généré par l'IA, des comptes BOT automatisés et du comportement inauthentique coordonné malveillant nécessite un cadre basé sur les risques qui adapte les obligations de vérification sur les plateformes de médias sociaux."

Selon le projet de circulaire, "il est nécessaire de développer un cadre politique qui équilibre le droit à la libre expression avec le devoir de l'État de protéger l'intégrité du cyberespace."

Le projet de circulaire vise à agir comme un moyen de dissuasion. Tel qu'il est rédigé, il "servira de mécanisme pour les forces de l'ordre afin d'identifier les auteurs sous réserve de procédure régulière, supprimant ainsi la prolifération d'infractions liées à l'informatique, y compris, mais sans s'y limiter, les escroqueries en ligne, l'hameçonnage, le vol d'identité lié à l'informatique, la diffamation en ligne et les abus sexuels et l'exploitation d'enfants en ligne."

Il cherche également à servir de moyen d'améliorer les médias sociaux, en "identifiant et désactivant les comptes frauduleux et automatisés conçus pour manipuler l'opinion publique et déstabiliser la sécurité nationale."

Pour ce faire, toutes les plateformes de médias sociaux concernées par la circulaire devraient mettre en œuvre un système de vérification de compte obligatoire en tant que service gratuit pour les utilisateurs de comptes, en s'assurant que "tous les comptes de médias sociaux sont vérifiés par rapport à une identité légale" telle qu'une pièce d'identité pour les adultes ou les autorisations d'un parent ou tuteur pour les mineurs.

Une réponse disproportionnée et une hésitation à faire le travail d'application

L'un des arguments contre ce projet de circulaire serait qu'il traite tous les utilisateurs de médias sociaux comme des criminels potentiels plutôt que comme des personnes engagées dans un comportement en ligne.

Il veut faciliter le travail d'application des lois existantes en faisant en sorte que tout le monde renonce à son droit à une certaine confidentialité et anonymat dans des limites raisonnables.

Cela ressemble davantage à du contrôle plutôt qu'à une posture de cybersécurité appropriée.

Ceci, malgré le fait que les lois soient clairement énoncées et disponibles, et avec (ce que j'espère qu'ils ont vraisemblablement) des ressources suffisantes pour permettre aux agents de lutte contre la cybercriminalité de travailler à l'éradication du comportement criminel.

Les plateformes sont incitées à maintenir les flux d'argent en accédant aux demandes du gouvernement d'éradiquer les mauvaises actions et les mauvais acteurs — même si Meta, par exemple, est coupable de résister à la pression pour réprimer les escroqueries en raison de l'argent en jeu.

Bon sang, même les gens de Grok essaient d'imposer un meilleur comportement aux utilisateurs de son créateur de deepfake génératif en instituant des actions correctives lorsque les Philippines le demandent.

Peut-être que le principal problème n'est pas que l'action facilite l'application — c'est que l'application des lois pourrait être trop difficile ou prendre trop de temps dans l'état actuel des choses pour un pays comme le nôtre et les responsables ne veulent pas faire le travail.

Un mauvais raccourci ouvert aux abus potentiels

Un autre argument contre l'institution de cette circulaire de vérification des médias sociaux est qu'il s'agit d'une mesure de raccourci qui semble utile, mais qui finira par présenter d'autres problèmes à long terme.

Outre les préoccupations relatives à la confidentialité et aux droits des données, comme indiqué ci-dessus, nous devons également examiner la sécurité des données et la logistique. Les bonnes questions à poser si cela continue pourraient être les suivantes :

• Logistiquement, qu'est-ce qui compte (ou ne compte pas) comme plateforme de médias sociaux ?
• Qui va traiter toutes ces données ?
• Qui va détenir et stocker les données pour le pays ?
• Où ces données seront-elles stockées, géographiquement parlant ?
• Qui va assumer la responsabilité si la situation tourne mal, en termes de gestion des données, et quel recours une personne a-t-elle pour se plaindre au gouvernement ou obtenir une restitution ?

En termes de protection de toutes ces données d'identification, il suffit d'une mauvaise journée pour qu'une personne malhonnête se moque du système et exfiltre toutes ces informations.

Ce "saut dans le numérique" que nous sommes si enclins à faire est la raison pour laquelle nous avons des exfiltrations de données du Comelec et d'autres incidents de sécurité régulièrement. C'est aussi pourquoi l'enregistrement obligatoire de la carte SIM n'a pas réussi à freiner les escroqueries et autres mauvais acteurs.

En termes simples ? Pourquoi devrais-je confier encore plus de mes données au gouvernement si les responsables ont montré à plusieurs reprises qu'ils ne sont pas préparés aux moments difficiles avec rien d'autre que des excuses ?

Que pouvez-vous faire maintenant ?

Un rapport de Newsbytes a noté que les gens peuvent regarder la consultation politique en ligne, tenue le 22 janvier, sur Facebook.

Les parties prenantes peuvent soumettre des commentaires concernant le projet de circulaire en envoyant un e-mail à policy.research@dict.gov.ph ou odnippsb@dict.gov.ph jusqu'au 28 janvier.

Il peut être judicieux de faire entendre votre voix dans ce cas. – Rappler.com