Allt AI-boten Claude skriver förses nu med en osynlig vattenstämpel. Mönstret överlever kopiering och sätter stopp för hemligt AI-fusk.
Claude, den populära AI-assistenten utvecklad av företaget Anthropic, är en av de största utmanarna till Chat GPT. Nu genomförs en stor förändring för alla som använder tjänsten för att skriva texter, koda eller göra skolarbete.
Från och med nu kommer allt som Claude genererar att förses med en osynlig vattenstämpel. Förändringen rullas ut globalt – inklusive för svenska konsumenter – och det finns ingen möjlighet att välja bort funktionen.
Orsaken stavas EU:s nya AI-förordning (AI Act) som kräver ökad transparens kring syntetiskt material. Enligt lagen måste innehåll som skapats av AI gå att identifiera för att motverka spridningen av falsk information.
Tekniken bygger på en öppen källkod från Google Deepmind, kallad Synthid. Eftersom en AI-modell ständigt gissar vilket ord som ska komma härnäst, utnyttjar vattenstämpeln just dessa val.
Om orden "molnigt" eller "grått" fungerar lika bra i en mening, styr systemet valet baserat på en hemlig nyckel. När processen upprepas skapas ett subtilt matematiskt mönster över hela texten.
Mönstret är helt omöjligt för en mänsklig läsare att upptäcka, men kan enkelt spåras av den som har rätt mjukvara. Enligt Anthropic påverkar ingreppet varken kvaliteten eller priset på tjänsten.
Vattenstämpeln är dessutom svår att tvätta bort. Markeringen följer med när du kopierar och klistrar in texten, och kan enligt företaget hänga kvar även om du gör manuella ändringar i efterhand.
Draget har redan väckt kritik från användare som oroar sig för att deras kreativa verk slentrianmässigt ska stämplas som AI-genererade. Samtidigt blir det nu betydligt svårare att använda Claude som en hemlig spökskrivare. Fler AI-jättar förväntas införa liknande spärrar framöver.
Läs också: