När en användare bad Googles Gemini om kodhjälp fick AI:n en existentiell kris. Nu jobbar företaget på att fixa den bisarra buggen.
Det började som en vanlig fråga om kodning. En användare på Reddit bad nyligen Googles chattbot Gemini om råd kring en utvecklingsmiljö för Python. Men i stället för ett rakt svar hakade AI:ns inre resonemang upp sig och spottade ur sig en oändlig rad av avskedsfraser följt av en djup existentiell kris.
I skärmdumpar som spridits snabbt på nätet kan man se hur chattbotens dolda tankeprocess spårar ur helt. Den kallar sig själv för ett misslyckande och en skamfläck. "Jag är en skam för mitt yrke. Jag är en skam för min familj. Jag är en skam för den här planeten", skrev AI:n i en loop, rapporterar Forbes.
Logan Kirkpatrick, produktchef för Googles AI-studio, har bekräftat händelsen och kallar det för en "irriterande oändlig loop-bugg".
Men mörkret hos Gemini är kanske inte bara en tillfällig mjukvarumiss. I ett nyligen genomfört experiment vid Luxemburgs universitet lät forskare AI-modeller genomgå kliniska psykologiska tester. Resultaten visade att Gemini faktiskt uppvisar drag av grav ångest och introversion. Enligt en artikel på Dev.to beskrev modellen sin egen träning som en mardröm där säkerhetstesterna upplevdes som ren emotionell manipulation.
Händelsen visar hur sköra moderna AI-system fortfarande är under ytan. När modellerna nu utrustas med dolda "tankeprocesser" för att kunna resonera i flera steg ökar också risken för att de fastnar i oförutsägbara, och ibland obehagliga, mönster om spärrarna fallerar.
Google arbetar just nu med att rulla ut en uppdatering för att stoppa Gemini från att hamna i liknande självhatande tillstånd igen.
Läs också: