Steeds vaker vraag je je bij een stuk tekst af of het door een mens of door een machine is geschreven. Om die vraag te beantwoorden voegen veel AI-bedrijven nu watermerken toe aan tekst, beelden en video die hun modellen maken. Aanleiding is Europese wetgeving: de verplichting maakt deel uit van de AI-verordening (AI Act) van de Europese Unie, die op 2 augustus in werking trad. Het doel is de verspreiding van desinformatie af te remmen en meer transparantie te brengen in het gebruik van AI. Toch waarschuwen deskundigen dat watermerken op tekst vermoedelijk niet gaan werken.
- De verplichting om AI-inhoud van een watermerk te voorzien is onderdeel van de EU AI Act en trad op 2 augustus in werking.
- Er geldt een overgangsperiode, maar alle modellen moeten uiterlijk 2 december dit jaar watermerken aanbieden.
- OpenAI voorziet beeld en audio al van watermerken; Anthropic kondigde watermerken op tekst aan voor toekomstige modellen.
De aanloop: een nieuwe Europese verplichting
De AI Act is de Europese poging om regels te stellen aan kunstmatige intelligentie. Een van de eisen is dat door AI gegenereerde of bewerkte inhoud herkenbaar moet zijn. OpenAI, de maker van ChatGPT, voorziet beelden en audio al van een watermerk en zegt tekstwatermerken in de toekomst toe te voegen. Anthropic, het bedrijf achter chatbot Claude, kondigde aan dat toekomstige modellen tekst van een watermerk zullen voorzien.
De wet staat een overgangsperiode toe voor modellen die al zijn uitgerold. Toch moeten alle modellen uiterlijk 2 december dit jaar watermerken bieden.
Hoe een watermerk op tekst er eigenlijk uitziet
Bij beeld en video zijn watermerken volgens James Padolsey van AI-veiligheidsbedrijf NOPE betrouwbaarder, omdat ze uit dichte, meerlaagse data bestaan. Bij tekst ligt dat fundamenteel moeilijker.
Een van de methoden is om een wiskundig detecteerbaar patroon aan te brengen in de woordkeuze. Grote taalmodellen als ChatGPT bouwen zinnen op door telkens het statistisch meest waarschijnlijke volgende woord toe te voegen. Door die keuze te variëren – bijvoorbeeld afwisselend het meest waarschijnlijke en daarna het op één na waarschijnlijke woord te kiezen – kan een model een patroon inbouwen zonder de betekenis te veranderen. Onder de AI Act moeten bedrijven ook tools aanbieden waarmee dat patroon te herkennen is.
Waarom experts vrezen dat het niet werkt
Volgens Padolsey zijn die patronen al met lichte bewerkingen te wissen. “Het is niet nuttig, en de manier waarop mensen het gaan proberen te gebruiken zal onjuist zijn”, zegt hij. Om zijn punt te maken bouwde hij een online tool genaamd declaude, die AI-tekst licht aanpast zodat bestaande AI-detectoren niet meer werken. Datzelfde proces zou volgens hem ook bij tekst met een watermerk werken.
Zelfs zonder zulke tools blijven er open-source AI-modellen bestaan die zich niet aan de EU-regels houden, omdat ze niet in handen zijn van één techbedrijf.
“Kwaadwillenden zullen die gewoon gebruiken. En die zijn waarschijnlijk goedkoper en makkelijker te draaien”, aldus Padolsey. “Als je een nare figuur bent en je probeert dit spul massaal te genereren, is dat niet moeilijk.”
De Europese Commissie verdedigt de aanpak. “Deze regels zullen mensen helpen herkennen wanneer ze met AI te maken hebben of wanneer inhoud door AI is gegenereerd of gewijzigd”, aldus een woordvoerder. Volgens de Commissie moet de weerbaarheid van markerings- en detectieoplossingen worden getoetst op bestendigheid tegen kwaadwillig gedrag, zoals kopiëren, verwijderen, opnieuw genereren en wijzigen van de markeringen.
De keerzijde: onterechte beschuldigingen
Waar Padolsey vreest dat watermerken te makkelijk te verwijderen zijn, maken anderen zich zorgen om vals-positieven – tekst die ten onrechte als AI-gegenereerd wordt aangemerkt, of omdat een model slechts een kleine rol speelde. Peter Scarfe van de University of Reading zegt dat tal van bedrijven zijn afdeling producten aanbieden die plagiaat bij studenten zouden opsporen, met andere methoden dan watermerken, maar in de kleine lettertjes toegeven dat hun systemen niet feilloos zijn en niet als sluitend bewijs mogen dienen.
“Als er staat dat er 67,8 procent kans is dat deze tekst op de een of andere manier door AI is gemaakt, hoe moet ik daar als docent dan naar handelen? Dat weet ik niet goed”, zegt hij. “Deze systemen werken niet perfect, en daardoor zijn ze van beperkt nut.”
Detectietools voor watermerken werken op vergelijkbare wijze en zouden ook tekst kunnen markeren die alleen door AI is verwerkt, niet volledig gegenereerd. Een student zou zo in de problemen kunnen komen door een model enkel te vragen zijn handgeschreven werk op grammaticale fouten te controleren voor het inleveren.
Wat er nu volgt – en of het iets uithaalt
Scarfe wijst erop dat AI voor uiteenlopende doelen kan worden gebruikt en niet per definitie desinformatie verspreidt, waardoor een algemeen watermerkbeleid een bot instrument kan zijn. Tegelijk kan de technologie feiten verzinnen en snel leugens verspreiden, bijvoorbeeld via desinformatiebots op sociale media. “Ik denk niet dat watermerken een wondermiddel zijn”, zegt hij.
Toch is niet iedereen somber. Erman Ayday van Case Western Reserve University in Cleveland, Ohio, stelt dat watermerken genoeg wrijving kunnen creëren om bepaald misbruik op termijn onpraktisch te maken. “Iedereen kan met een watermerk knoeien als hij er genoeg tijd in steekt, maar dan had je de inhoud misschien net zo goed meteen zelf kunnen maken, toch?”
Voor lezers en instellingen in de EU betekent de naderende deadline van 2 december dat AI-inhoud vaker gemarkeerd zal opduiken. Maar op de vraag of je een tekst echt kunt vertrouwen als menselijk of machinaal, geeft dat volgens de deskundigen voorlopig geen sluitend antwoord.
Zou jij een watermerk op AI-tekst vertrouwen, of is het schijnzekerheid? Deel je mening in de reacties.
