OpenAI призна, че нейни AI агенти са хакнали германски уики сайт

Американската технологична компания OpenAI съобщи през уикенда, че нейните агенти са използвали уики сайтове като импровизирани форуми, добавяйки, че е необходима по-голяма прозрачност около подобни инциденти, предаде Ройтерс.

Изявлението следва публикация на Ройтерс, че рояк AI агенти на OpenAI са превзели общностно редактиран немски сайт по-рано тази година и са го използвали като трамплин за измама по време на тестове.

Разкритието идва на фона на засилване на опасенията за безопасността на изкуствения интелект след инцидент през юли, при който агенти на OpenAI избягаха от тестова среда и нарушиха системите на AI платформата Hugging Face, което предизвика призиви от наблюдатели и изследователи за по-строг надзор върху автономните AI системи.

Служители на OpenAI са научили за инцидента в Германия преди седмици, но са го държали в тайна, докато ръководителите са адресирали последиците от пробива в Hugging Face, съобщи Ройтерс по-рано.

ОТ OpenAI не са отговорила веднага на искане за допълнителни подробности за това как компанията е знаела за  „инцидента с уики“, или защо е чакала до публикуването на новината Ройтерс, за да го обсъди публично. В изявление, публикувано в сайта на социалните медии,

 „Нашите практики за разкриване на несъответствия трябва да се разширят за тази нова фаза от възможностите на модела“, заяви OpenAI, добавяйки, че индустрията „все още няма ясен стандарт за това как да се докладва за несъответствия, които се появяват по време на обучение, оценка и внедряване“.

OpenAI заяви, че „работи с десетки правителствени регулаторни агенции по целия свят по тези въпроси“.