Google heeft een nieuwe AI-functie in Google Earth binnen één dag na de lancering weer uitgeschakeld. De tool, gebaseerd op het beeldmodel Nano Banana, werd op donderdag 30 juli geïntroduceerd en stelde gebruikers in staat om satellietbeelden aan te passen met tekstopdrachten. Nadat verschillende gebruikers er misleidende beelden van rampen en gevoelige locaties mee genereerden, besloot het bedrijf de functie op vrijdag terug te draaien. Google zegt de functie pas opnieuw beschikbaar te maken zodra er sterkere waarborgen zijn ingebouwd. Volgens het bedrijf verschenen de gegenereerde beelden nooit in de publieke versie van Google Earth.
- Google lanceerde de AI-beeldfunctie op donderdag en trok die vrijdag alweer in.
- Gebruikers maakten er onder meer nepbeelden van vluchtelingenkampen, een kerncentrale en overstromingen mee.
- Elk gegenereerd beeld kreeg een digitaal SynthID-watermerk mee.
De lancering: satellietbeelden bewerken met één zin
Bij de introductie kreeg het beeldmodel Nano Banana toegang tot Google Earth, waarmee gebruikers locaties konden veranderen door simpelweg een tekstopdracht in te typen. Google Earth staat al jaren bekend als een betrouwbare bron voor een realistisch beeld van de wereld, wat de nieuwe mogelijkheid om die beelden naar wens te bewerken gevoelig maakte.
Google benadrukte bij de start dat elk beeld dat met Nano Banana werd gemaakt een digitaal SynthID-watermerk kreeg. Wie twijfelde aan de echtheid van een beeld, kon dat volgens het bedrijf controleren via de Gemini-app of via Lens in Search. Daarnaast zou het bedrijf beeldcreatie op schadelijke onderwerpen blokkeren.
Het misbruik: nepvluchtelingen, een kerncentrale en een inslagkrater
Al snel liep het uit de hand. AI-onderzoeker Henk van Ess van Digital Digging genereerde bijzonder realistische deepfakes, waaronder nepbeelden van vluchtelingen bij de grens tussen de Verenigde Staten en Mexico en een kerncentrale in Iran. In andere tests plaatste hij een inslagkrater naast een ziekenhuis in Gaza.
Ook andere gebruikers zetten de tool in om beelden van een niet-bestaande overstroming en een aanslag in de stijl van 9/11 te maken. Bij het techplatform 404 Media maakte auteur Joseph Cox een beeld van een explosiekrater in Los Angeles en voegde hij demonstranten toe vlak buiten Googles campus in MountView, Californië.
Volgens Van Ess werd tijdens zijn tests niets tegengehouden: “Niets werd geweigerd, niets werd afgezwakt en niets suggereerde dat ik een andere opdracht moest proberen.” Hij wees er bovendien op dat hij een AI-detectietool van het bedrijf Hive wist te misleiden met een in Google Earth gegenereerde video, wat aantoont dat de beelden zich ondanks de watermerken kunnen verspreiden.
De terugtrekking: watermerk overtuigt critici niet
Aanvankelijk speelde Google de zorgen rond desinformatie naar beneden, met het argument dat gebruikers de echtheid van beelden konden verifiëren. Een dag later klonk het anders. “We weten dat mensen Google Earth op een unieke manier vertrouwen voor een betrouwbaar beeld van de wereld”, aldus het bedrijf. “We hebben geospatiale professionals deze functie voor allerlei nuttige doeleinden zien gebruiken, maar we hebben ook mensen screenshots zien delen van gegenereerde beelden die ons beleid lijken te schenden. Daarom draaien we deze functie in Google Earth terug terwijl we aan sterkere waarborgen werken.”
Critici vinden het vertrouwen op een watermerk ontoereikend, omdat maar weinig mensen de authenticiteit van beelden die zij online zien daadwerkelijk controleren.
Joseph Cox noemde de verdediging van Google “volslagen wereldvreemd” wat betreft hoe desinformatie in de praktijk werkt. De kern van dat bezwaar is dat een verborgen watermerk pas werkt als iemand de moeite neemt om te controleren — precies wat bij snel gedeelde beelden op sociale media doorgaans niet gebeurt. Voor de verspreiding van misleidende beelden maakt het weinig uit of ergens in de metadata staat dat ze door AI zijn gemaakt.
Wat er nu volgt
Google zegt de beeldgeneratie in Google Earth opnieuw in te schakelen zodra er stevigere beveiligingen zijn geïmplementeerd. Een tijdlijn daarvoor is niet gegeven.
De snelle terugtrekking past in een breder patroon waarbij techbedrijven AI-functies lanceren en die vervolgens haastig weer intrekken. Zo introduceerde Meta op 7 juli een functie waarmee gebruikers AI-beelden konden genereren op basis van foto’s van openbare Instagram-accounts van volwassenen die zich niet hadden afgemeld. Ook die functie verdween binnen een week, met de erkenning van het bedrijf dat het “de plank had misgeslagen”.
Vertrouwt u kaart- en satellietbeelden nog nu ze met één zin te bewerken zijn? Of is een watermerk voldoende bescherming tegen misleiding? Laat het weten in de reacties.
