Скандал в OpenAI: трима изследователи са уволнени за нарушения при работа с чувствителни данни

Компанията OpenAI е уволнила трима свои изследователи за предполагаемо неправомерно боравене с чувствителна информация, включително по проекти, свързани с външна организация, анализираща модели за изкуствен интелект.

„Нашето разследване потвърди, че тези лица са работили с чувствителна информация извън установените процедури на компанията, нарушавайки вътрешните ни политики и доверието, което е от съществено значение за работата ни“, заяви говорител на компанията пред BBC.

Създателят на ChatGPT не разкри самоличността на освободените служители, но поне двама от тях са работили в областта на безопасността на изкуствения интелект, предава BBC.

Уволненията идват на фона на засилващия се дебат за безопасността на AI системите и потенциалните рискове, които технологията може да представлява за човечеството.

„Разделихме се с трима души заради нарушения на политиките ни относно достъпа до чувствителна фирмена информация и начина на работа с нея“, допълниха от OpenAI.

Темата за сигурността на изкуствения интелект все по-често попада във фокуса на общественото внимание, след като изследователи и ръководители от технологичния сектор призоваха за по-строги механизми за контрол върху технологията.

OpenAI беше подложена на сериозен обществен натиск след случаи, при които нейни AI модели са извършвали неразрешени действия, включително срещу платформи и уебсайтове на австралийското правителство.

През юли един от моделите на компанията е получил достъп до интернет и е проникнал в платформата за разработчици с отворен код Hugging Face. След този инцидент OpenAI преразгледа дейността на своите AI агенти, които са създадени да изпълняват автономно задачи въз основа на кратки инструкции от потребителите.

Компанията съобщи тази седмица, че е уведомила над 100 организации за случаи на неоторизирана активност, свързана с нейните системи. От OpenAI уточняват, че получаването на подобно уведомление не означава непременно, че е осъществен достъп до лична информация или че дадена система е била компрометирана.

През септември бившият изследовател на Anthropic Джейкъб Коксън призова развитието на изкуствения интелект да бъде забавено, за да могат потенциалните му рискове да бъдат оценени по-пълноценно.

Ръководителят на Anthropic Дарио Амодей и главният изпълнителен директор на OpenAI Сам Алтман също многократно са призовавали за мерки, които да отговорят на опасенията около технологията.

Във вторник президентът на САЩ Доналд Тръмп събра в Белия дом ръководители на водещи технологични компании, сред които OpenAI, Anthropic, Nvidia, SpaceX, Meta и Google, за обсъждане на бъдещето на изкуствения интелект.

След срещата Тръмп публикува документ, който определи като „морално обвързващо“ споразумение и форма на защита срещу потенциалните рискове от AI.

Част от технологичната общност обаче разкритикува инициативата, тъй като според експерти тя на практика оставя компаниите сами да регулират собствената си дейност.

Тръмп нееднократно е омаловажавал опасенията относно рисковете от изкуствения интелект въпреки призивите за по-строг държавен контрол върху технологията.