Människor läser dina chattar med ChatGPT för att träna AI-modellen. Nu varnar forskare för att känslig information riskerar att granskas.
Med över 700 miljoner användare i veckan har ChatGPT blivit en naturlig del av vardagen för många. Men när du anförtror dig åt chattbotten är det långt ifrån säkert att konversationen stannar mellan dig och maskinen.
Enligt interna dokument som nyhetssajten 404 Media tagit del av har OpenAI anställt hundratals externa konsulter för att granska flödet av riktiga användarchattar.
Arbetet, som internt går under namnet "Projekt Lily", går ut på att människorna läser, sammanfattar och betygsätter interaktionerna. Syftet är att förbättra AI-modellens svar och lära den att inte bete sig allt för mänskligt eller överdrivet medhållande.
Avslöjandet innebär en märkbar integritetsrisk. Många använder AI-verktyg som ett bollplank för privata problem, arbetshemligheter eller psykisk ohälsa.
Även om granskarna inte kan se dina inloggningsuppgifter, och OpenAI uppger att de försöker tvätta bort personlig information, erkänner företaget att känsliga detaljer ibland slinker igenom.
Metoden är dessutom inte unik för OpenAI. En nyligen publicerad studie från Stanford University visar att sex av de ledande amerikanska AI-bolagen – däribland Anthropic – matar in användarnas data i sina modeller igen.
– Om du delar känslig information i en dialog med ChatGPT, Gemini eller andra gränsöverskridande modeller kan den samlas in och användas för träning, varnar Jennifer King, integritetsforskare vid Stanford.
För att undvika att privata texter och uppladdade filer hamnar hos mänskliga granskare måste användare numera aktivt gå in i inställningarna och välja bort att konversationerna används för modellträning.
Läs också: