Trion använde Googles AI-assistent Gemini för att planera sin toppbestigning. Men techjättens råd höll på att kosta dem livet i mörkret.
Tre unga män från Kalifornien beslutade sig för att bestiga den potentiellt aktiva vulkanen Mount Shasta. För att planera rutten och packningen tog de hjälp av Googles populära AI-assistent Gemini.
AI-verktyget gav dock rådet att ta med sig betydligt mindre mat och vatten än vad som faktiskt krävdes för den tuffa åttatimmarsvandringen. Den lokala polismyndigheten beskriver i efterhand trions val att förlita sig på chatboten som ett "kritiskt snedsteg".
Trots att vandrare avråds från att fortsätta mot toppen efter klockan tolv på dagen, nådde gruppen den över 4 300 meter höga toppen först klockan sju på kvällen. När de sedan försökte ta sig ner i mörkret gick de vilse och hamnade i en brant ravin.
Efter att en av männen skadat knät tvingades gruppen övernatta utomhus i vildmarken. Först morgonen därpå kunde de hittas och föras i säkerhet av skogsvaktare och lokala räddningsarbetare.
Händelsen belyser ett växande problem i takt med att AI-modeller blir allt mer avancerade. Samtidigt som bolag som OpenAI lanserar nya, kraftfulla modeller och pratar om att vi närmar oss en mänsklig intelligensnivå – så kallad AGI – ökar också allmänhetens blinda tilltro till tekniken.
Branschexperter varnar nu för att glappet mellan vad AI faktiskt kan göra och vad användare tror att den klarar av blir allt svårare att hantera. När chattrobotarnas svar låter allt mer övertygande, blir det helt enkelt svårare att veta när man ska sluta lita på dem – särskilt i situationer som handlar om liv och död.
Läs också: