Microsoft затяга правилата за използване на AI в училищата в САЩ

Microsoft въвежда ограничения и стандарти за защита на личните данни при използването на изкуствения интелект в училищата в САЩ. Мерките са договорени с втората по големина учителска синдикална организация в страната и идват на фона на засилващата се обществена съпротива срещу изкуствения интелект и прекомерното време пред екрани.

Споразумението, подписано миналата седмица, забранява използването на AI асистенти и функции, „предназначени да насърчават емоционална привързаност или зависимост“, както и такива, чиято цел е да задържат вниманието на учениците по-дълго, отколкото е необходимо за изпълнението на учебната задача, предава Euronews.

Стандартите са правно обвързващи и предвиждат независими одити от трети страни, които да проверяват спазването им.

Като част от широкообхватното споразумение Microsoft заявява, че няма да използва данни за ученици или преподаватели за обучение на AI системи, с изключение на тясно определен случай, при който данните могат да помогнат за защитата на учениците. Компанията посочва също, че събираните данни няма да могат да бъдат продавани, използвани за реклама или за разработване на продукти.

Споразумението включва и мерки за одит и прозрачност, които задължават компанията да обяснява на семействата на разбираем език как работят нейните инструменти и какви данни събират.

„Този стандарт поставя висока летва по отношение на защитата на личните данни на децата и безопасността при използването на AI. Ще разширим действието на това споразумение до всеки училищен район в страната“, заяви вицепредседателят и президент на Microsoft Брад Смит.

По данни на компанията стандартите ще се прилагат към договорите на Microsoft с училища в САЩ от 1 ноември.

Изкуственият интелект вече навлиза и в европейските класни стаи, а младите хора все по-често използват чатботове и извън учебния процес. Проучване на Европейската комисия сред ученици в средни училища във Финландия, Германия, Ирландия, Люксембург и Испания, които активно използват AI, показва, че те прибягват до генеративен изкуствен интелект, за да разбират по-лесно сложни теми, да упражняват различни умения и да се подготвят за изпити.

Междувременно отделно проучване от 2026 г. сред млади хора на възраст между 11 и 25 години във Франция, Германия, Швеция и Ирландия показва, че близо половината са използвали AI чатботове за емоционална подкрепа, а 51% се чувстват комфортно да обсъждат с тях лични или психични проблеми.

Някои европейски правителства вече въвеждат ограничения за използването на AI от по-малките ученици.

Тази година Норвегия заяви, че децата приблизително между 6 и 12 години по принцип не трябва сами да използват генеративен AI за училищна работа, докато учениците на около 13–15 години могат да започнат да експериментират с него предпазливо.

Франция позволява на учениците да се запознават с изкуствения интелект още в началния етап на образованието, но посочва, че те не трябва директно да използват генеративен AI. Използването му в клас под наблюдение на учител може да започне около 13–14-годишна възраст.

Според документ, с който Euronews се е запознал, Европейската комисия ще предложи забрана за достъпа на лица под 15 години до рискови онлайн услуги като AI чатботове. Законодателното предложение трябва да бъде публикувано в четвъртък.

OpenAI и Anthropic обсъждат подобни мерки за сигурност

Макар експерти да определят мерките за безопасност в американското споразумение като значими, някои предупреждават, че по-строгите стандарти не трябва автоматично да се възприемат като подкрепа за по-широкото използване на AI в училищата.

„Притеснявам се, че подобна широко огласена рамка може да бъде разбрана погрешно и училищата да си кажат: „Ако те се справят добре със защитата на данните и безопасността, значи трябва да използваме този инструмент“, заяви Джош Голин, изпълнителен директор на американската организация с нестопанска цел Fairplay, която се занимава с безопасността на децата онлайн.

Според Голин стандартите ще бъдат ефективни само ако към тях се присъединят и други големи компании в областта на изкуствения интелект.

„Ще приеме ли Google тази рамка? Това е големият въпрос“, каза той.

Компанията Google беше подложена на критики в САЩ, след като през август разшири достъпа до инструменти, базирани на Gemini, в Google Classroom за училищни акаунти, използвани от ученици под 18 години.

Критиците определиха разширяването като поредна стъпка в конкуренцията между технологичните гиганти за налагане на техните AI продукти в училищата и достигане до по-младите потребители. По данни на Google Classroom се използва от над 150 милиона учители и ученици по света.

Учителският синдикат води разговори и с OpenAI и Anthropic, които публично приветстваха споразумението с Microsoft.

OpenAI, създателят на ChatGPT, го определи като „важен етап за безопасността и защитата на личните данни при използването на AI в училищата“. Компанията заяви, че вече работи с учителския синдикат и очаква да финализира собствено споразумение.

Anthropic, създателят на Claude, също заяви подкрепа за усилията за насърчаване на отговорното използване на AI в образованието и посочи, че работи със синдиката по стандарти за безопасност и защита на личните данни.