Humains et IA collaborent pour détecter plus de 20 millions de faux profils sur Linkedin
Linkedin a empêché la création ou bloqué pas moins de 21,6 millions de profils frauduleux au premier semestre 2019. Des mesures qui puisent en grande partie dans des systèmes de défense automatisée basés sur le machine learning, mais aussi sur les signalements des membres et les enquêtes d'employés chargés de traquer ces faux profils.
Linkedin prend la question des faux profils très au sérieux. Propriété de Microsoft, le réseau social pour professionnels a pris des mesures concernant 21,6 millions de profils frauduleux, entre janvier et juin 2019. Le plus souvent, ceux-ci ne s’affichent jamais sur le réseau. Ainsi, 19,5 millions des faux profils créés durant le premier semestre 2019 n’ont jamais été validés, explique dans un billet de blog Paul Rockwell, responsable Trust and Safety chez Linkedin. 2 millions de faux comptes non détectés en amont ont été supprimés avant signalement, tandis que 67’000 ont été signalés par un membre du réseau.
Pour détecter et supprimer ces faux profils, Linkedin s'appuie sur une collaboration entre des algorithmes d’intelligence artificielle et une examination par des humains. Les premiers exécutant toutefois le gros du travail: 98% des faux comptes ont été bloqués ou supprimés par les défenses automatisées mises en place par le réseau. Ces systèmes se basent sur des modèles de machine learning qui détectent les groupes de comptes qui ont une apparence ou effectuent des actions comparables, suggérant qu’ils sont créés ou contrôlés par une même personne aux intentions malveillantes.
A un premier niveau de défense, chaque tentative d'enregistrement d'un nouvel utilisateur est évaluée à l'aide d'un modèle de machine learning qui donne un score de risque d'abus. Les inscriptions à risque jugé élevé sont ainsi directement bloquées, tandis que celles à risque moyen font l’objet de vérifications supplémentaires, explique Jenelle Bray, l’une des responsables de la sécurité du réseau. Si des faux profils passent ce premier filtre et se retrouvent en ligne, un système permet de détecter des comptes frauduleux partageant certains d'attributs en se basant sur des modèles statistiques. «Nous avons de nombreux modèles qui recherchent soit des types spécifiques de mauvais comportements typiques des comptes malveillants, soit des comportements anormaux», précise la responsable.
En parallèle à ces systèmes automatisés de détection de faux profils, Linkedin compte sur une équipe d'enquêteurs qui recherchent des faux comptes qui auraient échappé à tous les niveaux de défense automatisée. Des tâches manuelles qui complètent les signalements de la part des membres.
