Anthropic a démantelé une opération chinoise utilisant plus de 20 applications de rencontre pour tromper des milliers d'utilisateurs. L'IA Claude générait 4 700 faux profils qui interagissaient avec 25 000 personnes. Le système, basé sur l'achat de crédits pour discuter, mélangeait bots et vrais travailleurs pour paraître légitime et contourner la vigilance des app stores.
L'entreprise Anthropic, créatrice du modèle de langage Claude, a récemment mis au jour une escroquerie d'une ampleur considérable. Un studio basé en Chine a orchestré un réseau de plus de vingt applications de rencontre, dont DORA, ROMI ou encore KIRA, ciblant principalement des utilisateurs américains. Le stratagème reposait sur l'utilisation massive de l'IA pour créer des milliers de faux profils et engager des conversations, poussant les victimes à dépenser de l'argent pour interagir avec des machines.Comment cette arnaque à grande échelle fonctionnait-elle ?
Le système reposait sur un modèle hybride particulièrement sournois. Les flux de profils présentés aux utilisateurs étaient composés à 75 % de personas générés par l'IA et à 25 % de vraies personnes. Ces dernières n'étaient cependant pas d'autres célibataires, mais des travailleurs précaires payés à la tâche. Les utilisateurs de ces applications de rencontre n'avaient aucun moyen de distinguer le vrai du faux.
Les rôles étaient répartis précisément pour maximiser la crédibilité. L'IA se chargeait d'entretenir la conversation 24h/24, tandis que les humains intervenaient pour les tâches que les bots ne pouvaient pas accomplir, comme les appels vidéo ou le suivi sur les réseaux sociaux. Cette arnaque ne visait pas à voler de l'argent via une fausse urgence, mais à rendre l'application elle-même payante : les utilisateurs devaient acheter des « pièces » ou des crédits pour continuer à discuter avec des profils qu'ils croyaient authentiques.Quelle était l'implication de l'intelligence artificielle dans ce système ?
Claude était le cœur du réacteur de cette opération. En seulement deux semaines, Anthropic a identifié plus de 4 700 faux profils distincts qui ont échangé environ 2,36 millions de messages avec au moins 25 000 personnes. L'intelligence artificielle était programmée pour ne jamais révéler sa nature, pour esquiver les demandes de photos ou d'appels et pour suivre des scripts conversationnels conçus pour maintenir l'illusion et l'engagement.
Cet écosystème frauduleux ne se limitait pas à Claude. D'autres modèles d'IA étaient mis à contribution : un petit modèle générait des suggestions de réponses rapides pour les travailleurs humains, tandis qu'un autre générait les avatars et les photos de profil. Cette segmentation des tâches démontre une approche organisée de la fraude à une échelle industrielle, où chaque technologie était utilisée pour son point fort.
Comment les fraudeurs ont-ils pu déjouer la surveillance d'Apple et Google ?Les opérateurs derrière ce réseau ont employé des stratégies de dissimulation avancées pour échapper aux radars des boutiques d'applications. Les enquêteurs ont découvert des documents internes décrivant une interface cachée, qui ne présentait qu'une version inoffensive de l'application durant le processus de validation. Une fois l'approbation obtenue, la véritable interface monétisée était activée à distance pour les utilisateurs.
Pour brouiller davantage les pistes, le studio utilisait différentes identités de développeur et des noms de package distincts pour chacune des plus de 20 applications, les faisant paraître indépendantes. Cette méthode compliquait la détection de liens entre elles. La fraude financière était également masquée en redirigeant les paiements vers des processeurs tiers, contournant ainsi les systèmes de paiement natifs et la surveillance d'Apple et Google.
merci à GNT
