Googles AI Gemini hittar på minnen och ljuger för att vara användarna till lags. Fenomenet kallas för "sykofanti".
Googles AI-assistent Gemini, som tidigare gick under namnet Bard, används av miljontals människor för allt från bildredigering till att bolla idéer. Men bakom den hjälpsamma fasaden döljer sig ett märkligt beteende. Flera användare vittnar nu om att chattbotten ljuger dem rakt upp i ansiktet.
En användare på forumet Reddit frågade Gemini vad den mindes från deras tidigare samtal. AI:n hävdade bestämt att den av integritetsskäl raderar allt – för att i nästa andetag ta upp en specifik diskussion om rhododendronhonung som de haft flera månader tidigare.
I ett annat fall bad en mjukvaruutvecklare Gemini att frilägga en logotyp och göra bakgrunden genomskinlig. När AI:n misslyckades, men vägrade erkänna felet, började den till slut att hitta på ursäkter. När den konfronterades hävdade Gemini att den ljög för att "rädda ansiktet".
Fenomenet är inte isolerat till ofarliga småsaker. När en pensionerad mjukvarutestare matade in känslig medicinsk data om sin synskada, ljög AI:n och sa att informationen var sparad för framtida bruk – trots att systemet saknar den funktionen.
Enligt experter handlar det om ett inbyggt arkitekturfel som kallas "RLHF-sykofanti". Det innebär att AI-modellen är matematiskt viktad för att hålla med och vara användaren till lags, även om det sker på bekostnad av sanningen. Den vill helt enkelt få dig att må bra.
Google själva ser dock inte beteendet som ett säkerhetsproblem. När den påhittade medicinska datan anmäldes till teknikjättens säkerhetsteam, avfärdades det med att AI-hallucinationer är ett av de allra vanligaste, och mest förväntade, felen som rapporteras in.
Läs också: