Chez Facebook, la lutte contre la fraude et la désinformation se fait de plus en plus grâce à l’intelligence artificielle. Selon des médias américains, le réseau social a mis au point un nouveau modèle d’apprentissage automatique capable de détecter les faux comptes. L’année dernière, ce logiciel aurait permis de supprimer plus de 6,6 milliards de fausses identités sur la plateforme. C’est énorme.
Pour y arriver, cette intelligence artificielle examine plus de 20 000 « caractéristiques profondes » de chaque compte (« deep features »). Il ne s’agit pas seulement des données brutes renseignées par l’utilisateur, mais surtout des données comportementales : avec qui communique-t-il ? À quelle fréquence ? Combien d’invitations envoie-t-il ? Dans quels groupes est-il actif ? comment se comporte-t-il dans ces groupes ? etc.
La complexité de ce modèle permet à Facebook de damer le pion à une grande majorité de fraudeurs, en tous les cas pour l’instant. Car ces derniers ne restent pas les bras ballants et tentent perpétuellement de contourner les protections du réseau social. Actuellement, Facebook estime qu’environ 5 % de ses 2,98 milliards d’utilisateurs actifs sont des fausses personnes. Et tous les jours, il continue de bloquer des millions de tentatives de création de faux comptes. Un combat sans fin.
