Metas inbyggda AI började ställa närgångna frågor om en användares döttrar och grävde fram raderade bilder. Nu backar techjätten.
Metas AI-assistent, som numera är djupt integrerad i plattformar som Facebook, Instagram och Whatsapp, har hamnat i blåsväder. Detta efter att Instagram-användaren Kalie Robins publicerat en viral video där hon visade hur chattbotten plötsligt började agera som en privatdetektiv.
När Robins lade upp ett klipp från sin bil dök ett automatiserat förslag upp från Meta AI med frågan: "Vem är barnet i passagerarsätet?". När hon klickade på förslaget visade det sig att AI:n hade pusslat ihop information från hennes och släktingars tidigare inlägg.
Chattbotten föreslog sedan följdfrågor om barnens exakta ålder och var familjen bor. Den letade dessutom fram gamla bilder på döttrarna – varav en bild som Robins hävdar att hon raderade för flera år sedan.
Kritiken lät inte vänta på sig, och nu medger Meta att de har gått över gränsen. I ett uttalande säger företagets talesperson Dina El-Kassaby att funktionen "missade målet" och att användare aldrig borde ha fått den typen av frågor.
Enligt Meta ska AI:n endast bygga sina svar på information som användaren redan har tillgång till. Företaget uppger nu att de har åtgärdat problemet som orsakade de integritetskränkande förslagen.
Händelsen sätter återigen ljuset på techjättens datahantering. I dagsläget finns det ingen avstängningsknapp för Meta AI i företagets appar, utan funktionen ligger fast förankrad i sökfält och chattar. Användare kan radera konversationer, men assistenten går inte att välja bort helt.
Samtidigt granskas Meta från flera håll. I USA utreder senaten just nu hur företagets AI har hanterat samtal med tonåringar. Ovanpå detta rullar Meta just nu ut stora förändringar kring hur användares data från externa webbplatser används för att träna och styra det innehåll som AI:n och nyhetsflödena presenterar.
Läs också: