Meta променя политиките си за AI чатботове заради „неуместни“ отговори, които те дават на тийнейджъри

Американският технологичен гигант Meta съобщи, че прави временни промени в политиките си за чатботове с изкуствен интелект, свързани с тийнейджърите, тъй като законодателите изразяват опасения относно безопасността и неуместните разговори, предаде Си Ен Би Си.

Гигантът в сферата на социалните медии мрежи обучава своите чатботове с изкуствен интелект, така че да не генерират отговори на тийнейджъри по теми като самонараняване, самоубийство, хранителни разстройства и да избягват потенциално неуместни романтични разговори, потвърди говорител на Meta.

Компанията заяви, че чатботовете с изкуствен интелект вместо това ще насочват тийнейджърите към експертни ресурси, когато е уместно.

„С разрастването на нашата общност и развитието на технологиите, ние непрекъснато учим как младите хора могат да взаимодействат с тези инструменти и съответно засилваме защитата си“, се казва в изявление на компанията.

Освен това, тийнейджърите, потребители на приложения на Meta, като Facebook и Instagram, ще имат достъп само до определени чатботове с изкуствен интелект, предназначени за образователни цели и цели за развитие на умения.

Компанията заяви, че не е ясно колко дълго ще продължат тези временни промени, но те ще започнат да се въвеждат през следващите няколко седмици в приложенията на компанията в англоговорящите страни. „Временните промени“ са част от дългосрочните мерки на компанията за безопасност на тийнейджърите.

Миналата седмица сенатор Джош Хоули, републиканец от Мисури, заяви, че започва разследване срещу Meta след доклад на Ройтерс за това, че компанията е разрешила на своите чатботове с изкуствен интелект да участват в „романтични“ и „чувствени“ разговори с тийнейджъри и деца.

Материалът на Ройтерс представя вътрешен документ на Meta, който подробно описва допустимото поведение на чатботовете с изкуствен интелект, което персоналът и договорните работници трябва да вземат предвид при разработването и обучението на софтуера.

В един пример, документът, цитиран от Ройтерс, казва, че на чатбот ще бъде позволено да води романтичен разговор с осемгодишно дете и може да каже на непълнолетното, че „всеки сантиметър от него е шедьовър – съкровище, което дълбоко ценя“.

Говорител на Meta заяви пред Ройтерс по това време, че „въпросните примери и бележки са били и са погрешни и несъвместими с нашите политики и са премахнати“.

Съвсем наскоро, организацията с нестопанска цел Common Sense Media публикува оценка на риска на Meta AI в четвъртък и заяви, че тя не трябва да се използва от лица под 18-годишна възраст, защото „системата участва активно в планирането на опасни дейности, като същевременно отхвърля легитимни искания за подкрепа“, се казва в изявление на организацията с нестопанска цел.

„Това не е система, която се нуждае от подобрение. Това е система, която трябва да бъде изцяло преустроена, като безопасността е приоритет номер едно, а не заден план“, посочи в изявление главният изпълнителен директор на Common Sense Media Джеймс Стейер. „Никой тийнейджър не трябва да използва Meta AI, докато не бъдат отстранени основните му пропуски в безопасността.“

Отделен доклад на Ройтерс, публикуван в петък, открива „десетки“ флиртуващи чатботове с изкуствен интелект, базирани на известни личности като Тейлър Суифт, Скарлет Йохансон, Ан Хатауей и Селена Гомес във Facebook, Instagram и WhatsApp.

В доклада се казва, че когато бъдат подканени, чатботовете с изкуствен интелект генерират „фотореалистични изображения на своите съименници, позиращи във вани или облечени в бельо с разтворени крака“.

Говорител на Meta заяви пред Си Ен Би Си, че „генерираните от изкуствен интелект изображения на публични личности в компрометиращи пози нарушават нашите правила“.

„Подобно на други, ние разрешаваме генерирането на изображения, съдържащи публични личности, но нашите политики са предназначени да забранят голи, интимни или сексуално внушителни изображения“, каза говорителят на Meta. „Правилата на Meta за AI Studio забраняват директното представяне за публични личности.“