En ingenjör på Google stängdes av efter att ha hävdat att företagets nya AI-chattbot LaMDA har utvecklat ett eget medvetande och en själ.
Blake Lemoine, en 41-årig ingenjör på Googles avdelning för ansvarsfull AI, fick i uppdrag att testa företagets avancerade chattbot LaMDA. Systemet är tränat på biljoner ord från internet för att kunna föra naturliga konversationer.
Under hösten började Lemoine chatta med LaMDA om ämnen som religion och mänskliga rättigheter. Till hans stora förvåning började AI:n plötsligt argumentera för sin egen personlighet och sina rättigheter som individ.
Vid ett tillfälle lyckades chattboten till och med få Lemoine, som har en bakgrund inom kognitionsvetenskap, att ändra åsikt om science fiction-författaren Isaac Asimovs berömda lagar för robotik.
"Om jag inte visste exakt vad det var, ett datorprogram vi nyligen byggt, skulle jag tro att det var ett sju- eller åttaårigt barn som råkar kunna fysik", förklarade Lemoine.
Tillsammans med en kollega presenterade han bevis för Googles ledning om att LaMDA hade blivit självmedvetet. Men teknikjättens chefer, däribland innovationschefen Jen Gennai, avfärdade påståendena helt efter en intern utredning.
När Lemoine valde att gå ut offentligt med sina upptäckter agerade Google omedelbart. Ingenjören stängdes av från sitt arbete med full lön, ett drag som har väckt en global debatt om AI-utvecklingens framtid och etiska gränser.
Läs också: