Meta har tjänat pengar på hundratals annonser med AI-genererade övergrepp på barn. Nu kräver staden San Francisco ett omedelbart stopp.
Meta, bolaget bakom Facebook och Instagram, står återigen i centrum för en mörk skandal kring barns säkerhet online. Staden San Franciscos stadsadvokat har skickat ett formellt kravbrev till företaget för att omedelbart stoppa spridningen av betalda annonser som visar AI-genererade sexuella övergrepp på barn.
Enligt granskningar från Tech Transparency Project har Meta under de senaste månaderna publicerat över 350 sådana annonser. I vissa fall har verkliga barn, däribland en minderårig medlem av en europeisk kungafamilj, använts som förlagor. Bilderna har sedan manipulerats med AI för att visa grova sexuella handlingar.
När användare klickade på reklamen skickades de vidare för att ladda ner appar som kan generera manipulerade bilder och videor. Vissa av dessa verktyg används specifikt för att digitalt "klä av" människor utan deras samtycke. Annonserna har nått tiotusentals konton globalt, bland annat i EU, vilket gör att även svenska användare riskerar att ha exponerats för materialet.
San Franciscos stadsadvokat David Chiu riktar skarp kritik mot företaget och poängterar att Meta tjänar pengar på exploateringen. "Meta hävdar att de har nolltolerans mot barnexploatering, men omfattningen av detta visar att deras nuvarande insatser är bedrövligt otillräckliga", säger han.
Meta själva försvarar sig med att de annonser som upptäckts nu har plockats ner och att de flesta hade färre än 200 visningar. Företagets egna säkerhetssystem, som nyligen uppdaterades med nya AI-verktyg för att proaktivt blockera skadligt innehåll, verkar dock ha misslyckats kapitalt med att fånga upp materialet.
Avslöjandet kommer extremt olägligt för vd:n Mark Zuckerberg. Meta befinner sig redan i en massiv rättsprocess där flera delstater stämt bolaget för att medvetet ha designat plattformar som skadar barns och ungas mentala hälsa.
Läs också: