Elon Musks AI-bolag stäms. Chattbotten Grok anklagas för att ha använt riktiga fotografier av övergrepp för att skapa ny AI-barnporr.
Elon Musks AI-bolag xAI, som utvecklar chattbotten Grok för plattformen X, möter nu allvarliga anklagelser. Företaget, som nyligen tog in sex miljarder dollar i finansiering för att konkurrera med OpenAI, stäms av en kvinna vars barndomstrauma påstås ha utnyttjats av tekniken.
Kvinnan var i förskoleåldern när hon våldtogs och tvingades delta i barnpornografiska bilder för cirka 20 år sedan. Nu ansöker hennes advokater om grupptalan och hävdar att xAI har låtit Grok använda dessa specifika, välkända övergreppsbilder för att generera nytt AI-skapat material.
Det som gör fallet unikt är att det handlar om ett identifierbart, nu levande offer, till skillnad från AI-bilder som skapas från grunden. Med hjälp av kanadensiska barnskyddsorganisationer har man kunnat spåra bildernas digitala fingeravtryck för att bevisa att Groks genererade bilder på X bygger på de verkliga fotografierna av kvinnan.
Enligt stämningsansökan har xAI totalt ignorerat branschstandarder för att blockera spridningen av sexuellt övergreppsmaterial. Det globala problemet är enormt; enligt organisationen Childlight omsätter handeln med övergreppsmaterial på nätet miljardbelopp årligen.
Elon Musk förnekade så sent som i januari att Grok någonsin skapat nakenbilder av minderåriga. Trots detta har xAI nyligen valt en mycket aggressiv juridisk strategi genom att stämma två av sina egna användare för att ha skapat just denna typ av olagliga bilder.
Genom att stämma användarna, som redan står inför brottsanklagelser, försöker xAI tvinga dem att stå för rättegångskostnaderna som drabbar företaget. Varken xAI eller ägarbolaget SpaceX har ännu velat kommentera den nya stämningsansökan.
Läs också: