OpenAI ще ограничи достъпа на тийнейджъри до информацията за оръжия

Компанията за изкуствен интелект OpenAI съобщи, че затягат ограниченията върху информацията, свързана с оръжия, която ChatGPT предоставя на тийнейджъри – дори когато въпросът изглежда безобиден. Това е част от нови защитни мерки, целящи предотвратяването на насилие в реалния свят, пише Ройтерс.

Тази стъпка идва в момент, когато компаниите за изкуствен интелект са подложени на засилен контрол заради рисковете, които чатботовете крият за младите потребители, както и заради ролята на самите компании при разпознаването на заплахи за сигурността.

OpenAI ще ограничи достъпа до практическа информация за оръжия и системи за сигурност, която би могла да бъде използвана за злонамерени цели. Тези ограничения ще важат за тийнейджъри, дори когато няма признаци за намерения, свързани с насилие.

За всички потребители ChatGPT ще има възможност автоматично да прекратява чатове, в които изглежда, че някой е обсебен от темата за насилието. Освен това, при наличие на множество подобни разговори, OpenAI може временно да блокира съответните акаунти.

Компанията също така съобщи, че е усъвършенствала системата си за определяне на възрастта, за да прехвърля потребителите, за които се предполага, че са под 18 години, към режим за тийнейджъри. Планира се и уведомяване на родителите, ако акаунтът на техния тийнейджър бъде блокиран поради многократно обсъждане на насилие.

За всички потребители OpenAI ограничава детайлите относно минали масови нападения, включително информация за използваните оръжия и начина, по който са били придобити.

От компанията заявиха, че новите защитни мерки ще започнат да се въвеждат през следващите няколко седмици, като процесът на тяхното усъвършенстване ще продължи.

По-рано този месец, в първия си доклад относно използването на платформата от тийнейджъри, OpenAI посочи, че те прекарват в ChatGPT средно по-малко от 15 минути на ден.

Доклад на организацията с нестопанска цел „Common Sense Media“, публикуван по-рано този месец, установи, че версията на ChatGPT за тийнейджъри често уведомява родителите твърде късно – или изобщо не ги уведомява, когато в акаунтите на непълнолетни се водят разговори за самоубийство, самонараняване или хранителни разстройства.