Efter förbud i skolor och hård EU-kritik lovar Microsoft nu att sluta träna sina AI-modeller på elevers och lärares data.
AI används redan av nästan nio av tio lärare och elever, men oron för integriteten växer. Nu backar Microsoft efter att amerikanska storstäder som New York och Los Angeles infört förbud mot AI-verktyg i skolan.
Företaget har tecknat ett nytt avtal med flera stora amerikanska fackförbund för lärare. I överenskommelsen lovar Microsoft bland annat att helt sluta träna sina AI-modeller på data från elever och pedagoger.
Dessutom förbjuds virtuella AI-kompisar, och beslut som klassas som "högrisk" kommer framöver att kräva mänsklig granskning. Randi Weingarten, ordförande för lärarfacket AFT, beskriver reglerna som stenhårda.
"Vi kan bli argare och argare, eller så kan vi agera resolut. Allt annat än juridiskt bindande villkor är bara en önskelista", säger hon och påpekar att techbranschen måste ta ett större ansvar.
Avtalet gäller i nuläget amerikanska skolor, men frågan är brännande även för svenska och europeiska elever. Nyligen anmäldes Microsofts skoltjänster av den europeiska integritetsorganisationen NOYB för att bryta mot GDPR.
NOYB menar att Microsoft samlar in data om barnen och skyller ansvaret på de lokala skolorna, som i praktiken saknar kontroll över systemen. Om Microsofts nya integritetsregler kommer att appliceras även i Europa återstår att se.
Läs också: