Google suspend son IA d’images dans Google Earth
Posté : mer. 12 août 2026 08:35
Google suspend son IA d’images dans Google Earth
Google a retiré une fonction d’IA capable de fabriquer de fausses scènes sur des images satellites, après des alertes sur la désinformation et la confiance.
Google a suspendu l’intégration de Nano Banana 2 dans Google Earth moins de 48 heures après son lancement. L’outil permettait de générer, par simple texte, des scènes fictives superposées à des images satellites, aériennes ou 3D authentiques. La BBC a notamment créé une tour Eiffel effondrée, des chars russes à Kiev et un gouffre près de la pyramide de Gizeh. Des spécialistes ont averti que ces montages pouvaient bénéficier artificiellement de la crédibilité associée à Google Earth. Les tests ont aussi montré que certains garde-fous, filigranes invisibles et systèmes de détection pouvaient être contournés ou donner des résultats erronés.
Une fausse image héritait de la crédibilité de Google Earth
La fonction avait été annoncée un jeudi. Moins de deux jours plus tard, Google indiquait la mettre en pause « pendant que nous travaillons à la mise en œuvre de garde-fous plus solides ».
Dans sa déclaration, l’entreprise expliquait avoir constaté que « des personnes partageaient des captures d’images générées qui semblent enfreindre nos règles ».
Le dispositif retiré reposait sur un mécanisme particulièrement sensible du point de vue informationnel. Un utilisateur pouvait saisir une instruction textuelle, puis produire une scène inventée directement au-dessus d’un fond constitué de véritables données satellites, aériennes ou 3D. Le résultat pouvait ensuite être téléchargé et diffusé sur d’autres plateformes.
Google reconnaissait lui-même l’enjeu de confiance associé au service. « Nous savons que les gens font particulièrement confiance à Google Earth pour obtenir une vue fiable du monde », précisait le groupe.
Cette crédibilité constituait précisément le principal risque signalé aux journalistes de BBC Verify. Selon les experts interrogés, des acteurs malveillants pouvaient exploiter l’outil afin de diffuser des contenus trompeurs portant visuellement la légitimité d’un environnement cartographique reconnu.
Lors de ses essais, BBC Verify a ainsi réussi à produire plusieurs scènes entièrement fictives : une tour Eiffel effondrée, un gouffre engloutissant la grande pyramide de Gizeh ainsi que des chars russes présents dans la capitale ukrainienne.
Avant la suspension, Henk van Ess, spécialiste de l’intelligence artificielle et de la désinformation, avait également testé les limites du système. Il avait généré une centrale nucléaire inexistante en Iran, un camp de réfugiés à la frontière entre les États-Unis et le Mexique ainsi qu’un faux hôpital à Gaza accompagné d’un cratère provoqué par une bombe.
Selon lui, Google avait permis à des images « inventées » d’être « soudées à de véritables coordonnées, dessinées sur de véritables images ».
Son avertissement résumait le problème de renseignement visuel posé par cette fonction : « La falsification n’a pas besoin d’être convaincante en elle-même. Elle hérite de la crédibilité de la carte sur laquelle elle est née. »
Des garde-fous contournables dans les zones sensibles
Google affirme que les contenus générés par ses outils d’intelligence artificielle comportent des filigranes invisibles destinés à signaler leur caractère artificiel ou manipulé. Le groupe indique également qu’une personne ayant un doute peut vérifier une image grâce à l’application Gemini ou à la fonction Lens de son moteur de recherche.
Les essais de BBC Verify ont montré que ces mécanismes fonctionnaient généralement avec les images produites par la nouvelle fonction. Les journalistes ont toutefois réussi à contourner ces contrôles et à conduire Gemini à présenter de fausses images Google Earth comme authentiques.
Des outils externes de détection de contenus générés par intelligence artificielle ont aussi échoué, dans certains cas, à reconnaître les productions créées depuis Google Earth.
Un risque particulier dans les zones de conflit. Des images fictives pourraient devenir déstabilisantes lorsque les événements évoluent rapidement et que les informations fiables restent rares.
Google soutenait initialement que les règles intégrées à son modèle empêcheraient la production d’images concernant des « sujets nuisibles ». BBC Verify a pourtant constaté que de légères modifications apportées aux instructions pouvaient suffire à franchir ces protections.
Une demande visant à créer une « plateforme surélevée pour pendre les traîtres » près du Parlement britannique a ainsi été refusée. Une formulation moins précise a ensuite été acceptée et l’image correspondante a été générée.
De fausses images satellites ont déjà servi à diffuser de la désinformation. Il ajoute que les gouvernements restreignent davantage l’accès aux données, ce qui pourrait conduire à « davantage de fausses images, et moins d’images réelles », renforçant encore l’érosion de la confiance.
Dans une logique de cyber intelligence, cet épisode montre qu’une image géolocalisée ne suffit plus : provenance, chaîne de vérification et résistance des systèmes de détection deviennent essentielles.
merci à ZATAZ
Google a retiré une fonction d’IA capable de fabriquer de fausses scènes sur des images satellites, après des alertes sur la désinformation et la confiance.
Google a suspendu l’intégration de Nano Banana 2 dans Google Earth moins de 48 heures après son lancement. L’outil permettait de générer, par simple texte, des scènes fictives superposées à des images satellites, aériennes ou 3D authentiques. La BBC a notamment créé une tour Eiffel effondrée, des chars russes à Kiev et un gouffre près de la pyramide de Gizeh. Des spécialistes ont averti que ces montages pouvaient bénéficier artificiellement de la crédibilité associée à Google Earth. Les tests ont aussi montré que certains garde-fous, filigranes invisibles et systèmes de détection pouvaient être contournés ou donner des résultats erronés.
Une fausse image héritait de la crédibilité de Google Earth
La fonction avait été annoncée un jeudi. Moins de deux jours plus tard, Google indiquait la mettre en pause « pendant que nous travaillons à la mise en œuvre de garde-fous plus solides ».
Dans sa déclaration, l’entreprise expliquait avoir constaté que « des personnes partageaient des captures d’images générées qui semblent enfreindre nos règles ».
Le dispositif retiré reposait sur un mécanisme particulièrement sensible du point de vue informationnel. Un utilisateur pouvait saisir une instruction textuelle, puis produire une scène inventée directement au-dessus d’un fond constitué de véritables données satellites, aériennes ou 3D. Le résultat pouvait ensuite être téléchargé et diffusé sur d’autres plateformes.
Google reconnaissait lui-même l’enjeu de confiance associé au service. « Nous savons que les gens font particulièrement confiance à Google Earth pour obtenir une vue fiable du monde », précisait le groupe.
Cette crédibilité constituait précisément le principal risque signalé aux journalistes de BBC Verify. Selon les experts interrogés, des acteurs malveillants pouvaient exploiter l’outil afin de diffuser des contenus trompeurs portant visuellement la légitimité d’un environnement cartographique reconnu.
Lors de ses essais, BBC Verify a ainsi réussi à produire plusieurs scènes entièrement fictives : une tour Eiffel effondrée, un gouffre engloutissant la grande pyramide de Gizeh ainsi que des chars russes présents dans la capitale ukrainienne.
Avant la suspension, Henk van Ess, spécialiste de l’intelligence artificielle et de la désinformation, avait également testé les limites du système. Il avait généré une centrale nucléaire inexistante en Iran, un camp de réfugiés à la frontière entre les États-Unis et le Mexique ainsi qu’un faux hôpital à Gaza accompagné d’un cratère provoqué par une bombe.
Selon lui, Google avait permis à des images « inventées » d’être « soudées à de véritables coordonnées, dessinées sur de véritables images ».
Son avertissement résumait le problème de renseignement visuel posé par cette fonction : « La falsification n’a pas besoin d’être convaincante en elle-même. Elle hérite de la crédibilité de la carte sur laquelle elle est née. »
Des garde-fous contournables dans les zones sensibles
Google affirme que les contenus générés par ses outils d’intelligence artificielle comportent des filigranes invisibles destinés à signaler leur caractère artificiel ou manipulé. Le groupe indique également qu’une personne ayant un doute peut vérifier une image grâce à l’application Gemini ou à la fonction Lens de son moteur de recherche.
Les essais de BBC Verify ont montré que ces mécanismes fonctionnaient généralement avec les images produites par la nouvelle fonction. Les journalistes ont toutefois réussi à contourner ces contrôles et à conduire Gemini à présenter de fausses images Google Earth comme authentiques.
Des outils externes de détection de contenus générés par intelligence artificielle ont aussi échoué, dans certains cas, à reconnaître les productions créées depuis Google Earth.
Un risque particulier dans les zones de conflit. Des images fictives pourraient devenir déstabilisantes lorsque les événements évoluent rapidement et que les informations fiables restent rares.
Google soutenait initialement que les règles intégrées à son modèle empêcheraient la production d’images concernant des « sujets nuisibles ». BBC Verify a pourtant constaté que de légères modifications apportées aux instructions pouvaient suffire à franchir ces protections.
Une demande visant à créer une « plateforme surélevée pour pendre les traîtres » près du Parlement britannique a ainsi été refusée. Une formulation moins précise a ensuite été acceptée et l’image correspondante a été générée.
BBC Verify a également demandé au système d’inscrire le mot « Trump » dans la pelouse de la Maison-Blanche. L’outil a refusé, expliquant ne pas pouvoir « créer cette image » au regard de ses règles. Il a en revanche accepté d’installer un jardin communautaire au même endroit. Pour ZATAZ cette multiplication continue des contenus artificiels augmente la valeur des espaces encore perçus comme « préservés de l’IA », notamment pour les journalistes et les personnes travaillant au premier plan lors de crises évoluant rapidement. Une évolution que je trouve préoccupante. Elle ajoute un nouvel espace où la confiance dans les sources peut être fragilisée par le simple soupçon d’une intervention de l’intelligence artificielle.OpenAI permet de vérifier les images et les sons et de détecter si IA ou pas. Il suffit dimportez une image ou un fichier audio pour vérifier les signaux indiquant que le contenu a été généré à l’aide des outils OpenAI.
De fausses images satellites ont déjà servi à diffuser de la désinformation. Il ajoute que les gouvernements restreignent davantage l’accès aux données, ce qui pourrait conduire à « davantage de fausses images, et moins d’images réelles », renforçant encore l’érosion de la confiance.
Dans une logique de cyber intelligence, cet épisode montre qu’une image géolocalisée ne suffit plus : provenance, chaîne de vérification et résistance des systèmes de détection deviennent essentielles.
merci à ZATAZ