Irriterad på att ChatGPT kräver nät? Nu växer trenden med lokala AI-modeller. Nya appen Cortex AI körs direkt i mobilen – helt offline.
Att vara beroende av en konstant uppkoppling har blivit ett allt större problem för AI-användare. När jättar som OpenAI:s ChatGPT drabbas av serveravbrott står plötsligt många utan sitt viktigaste arbetsverktyg. Samtidigt växer oron för att dela privat data med techbolagens molnservrar.
Nu har en oberoende utvecklargrupp lanserat appen Cortex AI för att runda problemet. Genom att ladda ner små, högoptimerade språkmodeller direkt till enheten kan användare få kodhjälp, sammanfatta dokument eller bolla idéer – helt i flygplansläge.
Enligt teamet bakom appen är integriteten den största vinsten. Eftersom AI-modellen svarar lokalt lämnar noll data telefonen, vilket skyddar användarens information från att samlas in av utomstående aktörer.
Konceptet med lokala AI-modeller, så kallade Local LLMs, växer nu explosionsartat. I Apples App Store syns redan liknande offline-initiativ där komprimerade versioner av Googles modell Gemma 3 används. Dessa tar bara upp runt 200 megabyte arbetsminne och fungerar smidigt även på äldre telefoner.
Trenden sträcker sig även bortom mobiler. Utvecklare och forskare experimenterar i allt större utsträckning med att köra tunga AI-modeller på vanliga bärbara datorer. Ett nyligt uppmärksammat exempel är en programmerare som byggde ett helt analysverktyg offline under en tio timmar lång flygning, enbart med hjälp av en lokal AI-modell på sin Macbook.
För svenska konsumenter innebär utvecklingen nya möjligheter. Det blir enklare att arbeta oavbrutet i skog och mark med dålig täckning, eller att använda AI som reseassistent utan att åka på dyra roamingavgifter utanför EU.
Cortex AI erbjuder fortfarande ett online-läge för den som tillfälligt vill koppla upp sig mot tyngre modeller som GPT-4 eller Claude. Men just nu är det de kostnadsfria offline-funktionerna som står i fokus, och utvecklarna söker aktivt testpersoner för att utmana tekniken.
Läs också: