Ett nytt avtal tvingar Microsoft att sluta träna sina AI-modeller på data från amerikanska elever och lärare. Men kryphål finns.
Artificiell intelligens flyttar in i klassrummen i rask takt, men oron för hur barnens data hanteras har vuxit. Nu agerar American Federation of Teachers (AFT), ett av USA:s största lärarfack.
Under en presskonferens i New York meddelade facket att de har nått en historisk överenskommelse med Microsoft. Avtalet innehåller tio juridiskt bindande krav som sätter strikta gränser för hur techjätten får använda sin teknik i skolmiljöer.
Kärnan i avtalet är ett förbud mot att använda data från lärare och elever för att träna eller förbättra Microsofts AI-modeller. Företaget förbjuds också från att spåra hur enskilda elever använder tekniken.
Dessutom kräver facket att ingen AI får fatta beslut i skolan utan mänsklig översyn. Microsoft tvingas också till full transparens mot både lärare och föräldrar kring hur deras verktyg egentligen fungerar.
Avtalet ger även Microsoft en tidsfrist på 180 dagar att radera all loggad AI-data från sina system om en skola begär det. Undantag görs endast för snäva säkerhetsärenden, som att förhindra direkta hot eller cyberattacker mot plattformen.
Men vad som faktiskt händer om Microsoft bryter mot reglerna är fortfarande oklart. När techjättens ordförande Brad Smith pressades på detaljer kring straffåtgärder undvek han frågan och hänvisade i stället till skolornas befintliga, individuella avtal.
– Jag anser att det finns en helt oöverträffad transparens kopplad till de åtaganden som görs i det här avtalet, sa Brad Smith.
Samtidigt uppger AFT att de redan för samtal med andra AI-jättar som OpenAI och Anthropic för att få dem att skriva under på samma villkor.
Läs också: