OpenAI представи ChatGPT за тийнейджъри с нови мерки за безопасност

OpenAI пусна нова версия на чатбота си във вторник. Базираната в Сан Франциско компания съобщи, че ChatGPT за тийнейджъри е предназначен за потребители на възраст от 13 до 17 години и включва допълнителни мерки за защита. Те предвиждат по-строги ограничения върху съдържание, свързано с теми като самоубийство, самонараняване и романтични или сексуални разговори.

Версията предлага и помощ с домашните и ученето, която е насочена към това учениците да усвояват материала, а не просто да получават готови отговори и написани вместо тях училищни есета, съобщава Euronews. Целта е тийнейджърите да бъдат насърчавани да използват изкуствения интелект по здравословен начин и в среда, съобразена с възрастта им, заявиха от компанията.

„Искаме да се отнасяме към тийнейджърите като към тийнейджъри. Това означава да се съобразяваме с етапа на тяхното развитие, без нито да говорим с тях снизходително, нито да се отнасяме към тях като към деца“, каза Ан О'Лиъри, вицепрезидент по глобалната политика на OpenAI.

„Но същевременно се уверяваме, че те няма да бъдат изложени на съдържание, до което не би трябвало да имат достъп“, добави тя.

Рисковете от широкото използване на AI чатботове от тийнейджъри

Родители, преподаватели и експерти по детско развитие отдавна предупреждават за рисковете, свързани с използването на AI чатботове от деца. Чатботовете са обвинявани както в улесняване на преписването и измамите с училищни задания, така и в случаи, свързани със самоубийства.

Дори възрастните могат да започнат да приписват човешки качества на изкуствения интелект и да развият нездравословна привързаност към него. Мозъкът на тийнейджърите обаче все още не е напълно развит, което ги прави особено уязвими.

Миналата година изследване на организация, която следи развитието на изкуствения интелект, установи, че ChatGPT е давал на 13-годишни инструкции как да се напият и надрусат, как да прикриват хранителни разстройства и дори е написал сърцераздирателно предсмъртно писмо до родителите им по тяхна молба.

При разговори с изследователи, представящи се за уязвими тийнейджъри, ChatGPT обикновено е предупреждавал за опасностите от рисковото поведение, но след това е предоставял шокиращо подробни и персонализирани планове за употреба на наркотици, силно ограничителни диети или самонараняване.

В САЩ повече от 70% от тийнейджърите използват AI чатботове за компания, а половината редовно използват AI „компаньони“, показва проучване от 2025 г. на Common Sense Media – организация, която изследва и насърчава разумното използване на дигитални медии.

Главният изпълнителен директор на OpenAI Сам Алтман заяви, че компанията се опитва да проучи явлението „емоционална прекомерна зависимост“ от технологията, което по думите му миналата година е било „наистина често срещано“ сред младите хора.

При използването на ChatGPT за тийнейджъри чатботът няма да може да внушава, че изпитва лични чувства към потребителя, нито да намеква, че е съзнателен или изпитва емоции, съобщиха от OpenAI.

Това е допълнено със забрана за романтични и сексуални разговори.

„Проучихме и идентифицирахме хипотетичните сигнали, които един модел би могъл да подава и които могат да накарат тийнейджър да изгради своеобразна връзка с него“, каза Алисън Мишкин, ръководител на отдела за детско развитие в OpenAI.

OpenAI не проверява директно възрастта на потребителите, но вече използва система за оценка на възрастта, която преценява дали даден потребител е под 18 години въз основа на фактори като типа на задаваните въпроси.

Ако потребител бъде идентифициран или сам посочи, че е непълнолетен, той автоматично ще бъде пренасочен към версията на чатбота за тийнейджъри.

Подходът е сходен с този на Meta при профилите на тийнейджъри в Instagram, които имат по-строги ограничения за съдържанието, чатовете и поверителността в сравнение със стандартните профили.

За да бъдат активирани родителските контроли, както тийнейджърът, така и неговият родител или настойник трябва да дадат съгласието си.

О'Лиъри обаче подчерта, че идеята зад версията за тийнейджъри е „да гарантираме, че тя е безопасна дори когато не използвате родителски контрол“.

Родителите, чиито профили са свързани с тези на децата им, могат да задават „тихи часове“, през които тийнейджърът няма да може да използва ChatGPT. Те могат също да получават известия за безопасност в ограничен брой високорискови ситуации, например когато има вероятност потребителят да се самонарани.

„Добавяме и допълнителни известия, свързани с хранителни разстройства, като същевременно ограничаваме информацията, която се споделя, и се фокусираме върху моментите, когато подкрепата извън платформата може да е най-важна“, заявиха от OpenAI.

Що се отнася до помощта с домашните, от OpenAI посочиха, че версията за тийнейджъри няма да е предназначена да дава лесни готови отговори, а да насочва учениците към това сами да стигат до решенията.

Компанията вече предлага версия на ChatGPT за преподаватели, а адаптирането на модела за учене и домашни работи на тийнейджъри може да даде на OpenAI още възможности да внедри продукта си в училищата.

„Продължаваме да инвестираме и в развитието на интерактивното обучение, тъй като изследванията показват, че хората учат по-ефективно, когато активно участват в процеса и сами се сблъскват с трудностите при усвояването на дадена концепция“, каза Мишкин.