Chattbottarna slirar ofta på sanningen i komplexa frågor. Nu startar den tidigare Meta-chefen Campbell Brown ett bolag för att granska AI.
När ChatGPT lanserades insåg Campbell Brown snabbt att verktyget skulle bli den nya huvudvägen för hur vi konsumerar information. Samtidigt insåg hon ett massivt problem: AI-modellerna var inte särskilt bra på att hålla sig till sanningen.
Brown, som har en bakgrund som nyhetsankare på CNN och senast som global nyhetschef på Meta, kände att historien höll på att upprepa sig. Hon såg på nära håll hur sociala medier optimerade för engagemang på bekostnad av fakta, och bestämde sig för att agera.
Tillsammans med den tidigare Meta-kollegan Robbie Goldfarb har hon nu grundat företaget Forum AI. Med drygt 30 miljoner kronor i nyligen inhämtat såddkapital ska företaget granska hur de stora AI-modellerna hanterar komplexa och känsliga ämnen som geopolitik, mental hälsa och ekonomi.
När Forum AI började testa ledande AI-modeller var resultaten nedslående. Brown pekar bland annat på hur Googles Gemini hämtade information från det kinesiska kommunistpartiets sajter för helt orelaterade ämnen. De noterade även en tydlig politisk slagsida och frekvent brist på kontext i många av systemen.
För att råda bot på problemet har Forum AI knutit till sig en rad tunga experter. På lönelistan finns bland annat USA:s tidigare utrikesminister Antony Blinken, CNN-profilen Fareed Zakaria och den tidigare talmannen Kevin McCarthy.
Tanken är att dessa mänskliga experter ska bygga riktlinjer som sedan används för att träna upp "AI-domare". Målet är att dessa domare ska nå en 90-procentig överensstämmelse med hur en mänsklig expert skulle bedöma svaren.
Brown menar att techbolagen i dag är för fokuserade på ren kodning och matematik, snarare än redaktionell noggrannhet. "Mina barn kommer att bli riktigt korkade om vi inte lyckas lösa det här", säger hon.
Läs också: