Google attaque en justice un réseau chinois qui a détourné Gemini pour créer des millions de faux sites

Google a porté plainte contre Outsider Enterprise, un réseau cybercriminel basé en Chine, accusé d'avoir détourné l'IA Gemini pour monter des arnaques à grande échelle. C'est la première fois que Google engage des poursuites judiciaires spécifiquement liées à un abus de Gemini. L'affaire révèle à quel point les outils d'IA grand public peuvent être exploités par des opérateurs peu qualifiés pour industrialiser la fraude en ligne.

L'arnaque en chiffres

Selon la plainte déposée devant un tribunal fédéral de New York, Outsider Enterprise aurait utilisé Gemini pour générer du code HTML destiné à des pages de hameçonnage — présentées comme de simples sites de remise de cadeaux. Le réseau aurait ainsi créé plus de 9 000 faux sites et près d'un million d'URL frauduleuses imitant Google, YouTube, la Poste américaine (USPS) et le système de péage électronique E-ZPass. En deux semaines seulement, 2,5 millions de messages contenant des liens piégés ont été envoyés, et 55 000 SMS indésirables signalés sur Android en un mois. Les pertes sont estimées à plusieurs millions de dollars ; le FBI chiffre le préjudice global à 1,9 milliard de dollars depuis juillet 2023 à l'échelle internationale.

Google a obtenu une ordonnance temporaire du tribunal pour bloquer l'infrastructure du réseau. L'entreprise a également collaboré avec le FBI et les opérateurs américains AT&T;, T-Mobile et Verizon pour couper l'accès aux messages frauduleux.

Ce que ça change pour la régulation de l'IA

Le cas soulève une question directe : jusqu'où un fournisseur d'IA est-il responsable des abus commis via son modèle ? En France, la CNIL a déjà infligé une amende de 250 millions d'euros à Google en 2024 pour l'utilisation de données d'éditeurs dans l'entraînement de Gemini. Ce procès pourrait renforcer la pression sur les plateformes pour qu'elles mettent en place des garde-fous plus stricts avant tout déploiement commercial.

Au niveau européen, le Digital Services Act (DSA) impose aux grandes plateformes d'agir contre les contenus nuisibles. Si des victimes européennes venaient à être identifiées, Gemini pourrait tomber sous une surveillance renforcée des régulateurs de l'UE.

Google, de son côté, appelle le Congrès américain à adopter sept textes législatifs bipartisans visant à encadrer la fraude assistée par l'IA. Le FBI souligne que les criminels recourent de plus en plus à l'IA pour concevoir des arnaques plus crédibles et plus difficiles à détecter — un avertissement qui vaut aussi bien au-delà des frontières américaines.

Source : The New York Times