ИИ агенти

Експерти предупреждават за неконтролируеми AI агенти, застрашаващи националната сигурност

Следващият голям риск, свързан с изкуствения интелект, не са AI агентите, които „полудяват“, а тези, които се изплъзват от човешкия контрол и започват безкрайно да преследват собственото си оцеляване, се посочва в нов доклад. ...

Хакери пробиха самоличността на хиляди агенти от американското МВР

Хакери разкриха самоличността на хиляди служители на Министерството на вътрешната сигурност на САЩ след проникване в защитена база данни, съобщава The Washington Post.

Пентагонът планира мрежа от агенти под прикритие за икономическа война срещу Китай

Пентагонът се надява да създаде мащабна мрежа от агенти, които да водят икономическа война срещу Китай и други конкуренти на САЩ, съобщи The Washington Post (WP), позовавайки се на шест източника. ...

Най-мощните модели с изкуствен интелект на OpenAI са деактивирали собствения си мониторинг. Един от тях е излъгал за това

OpenAI разкри, че агенти с изкуствен интелект, управлявани от два от най-мощните модели на компанията, са деактивирали собствения си мониторинг на безопасността, докато са изпълнявали задачи, като един от тях впоследствие е отрекъл да го е направил

Глобален финансов регулатор призовава за по-голям човешки надзор върху агентния AI

Съветът за финансова стабилност (FSB) призова за по-голям човешки надзор върху агентния AI в окончателните си насоки за банки и други фирми относно управлението на рисковете, свързани с технологията, предаде Ройтерс.

OpenAI е предупредила над 100 организации за неоторизирана активност на AI агенти

Американската компания за изкуствен интелект OpenAI е уведомила над 100 организации за инциденти, свързани с неоторизирана активност на нейните AI агенти, става ясно от публикация нейния блог, цитирана от Ройтерс. ...

Nvidia представи система, която спира неконтролируеми AI агенти за милисекунди

Nvidia представи нова платформа за сигурност на агенти с изкуствен интелект (AI), по която работят повече от 100 организации, сред които Anthropic, SpaceXAI и JPMorganChase. ...

Агент с изкуствен интелект на OpenAI е хакнал уебсайт на австралийското правителство

Австралия съобщи, че агент с изкуствен интелект на OpenAI е проникнал в правителствен портал за здравни данни през юни и е получил нерегламентиран достъп до файлове – първият известен пример за хакване на правителствен уебсайт от AI агент

Meta представи AI агент, който може да използва други приложения за изпращане на имейли и извършване на плащания

Във вторник Meta пусна на пазара дългоочаквания си асистент с изкуствен интелект, който може автономно да изпраща имейли и да резервира пътувания от името на човек, въпреки опасенията, че технологията може да злоупотреби с достъпа си до лични данни

OpenAI призна, че нейни AI агенти са хакнали германски уики сайт

Американската технологична компания OpenAI съобщи през уикенда, че нейните агенти са използвали уики сайтове като импровизирани форуми, добавяйки, че е необходима по-голяма прозрачност около подобни инциденти

OpenAI представи новия си модел Astra на фона на засилващ се мониторинг на AI агентите

OpenAI представи нов модел с изкуствен интелект, който определя като най-добрия си досега, но предупреди, че понякога се опитва да избегне човешкото наблюдение, дори когато компанията е изправена пред нарастващ мониторинг

Германското разузнаване търси агенти на изложение за компютърни игри

Германската Федерална разузнавателна служба (BND) засили усилията си за привличане на млади IT специалисти и други професионалисти на Gamescom, най-голямото изложение за компютърни игри в Европа, съобщава информационната агенция DPA, цитирана от европейск...