Meta и Microsoft предупредиха за нарастване на опасностите, свързани с използването на изкуствен интелект

Компанията собственик на Facebook Meta заяви днес, че е разкрила доставчици на злонамерен софтуер, които използват обществения интерес към ChatGPT, за да примамят потребителите да изтеглят злонамерени приложения и разширения на браузъра, оприличавайки феномена на измами с криптовалута.

От март гигантът на социалните медии е открил около 10 фамилии злонамерен софтуер и повече от 1000 злонамерени връзки, които са били популяризирани като инструменти, включващи популярния базиран на изкуствен интелект чатбот, се казва в доклад.

В някои случаи злонамереният софтуер предоставя работеща функционалност на ChatGPT заедно с зловредни файлове, посочва компанията.

Говорейки на брифинг за пресата относно доклада, главният служител по информационна сигурност на Meta Гай Росен каза, че за лошите актьори „ChatGPT е новото крипто“.

Росен и други ръководители на Meta съобщиха, че компанията подготвя защитата си за различни потенциални злоупотреби, свързани с генеративни AI технологии като ChatGPT, които могат бързо да създават писане, музика и изкуство.

Законодателите пък обърнаха внимание за опасността новите инструменти да улеснят разпространението на онлайн кампании за дезинформация.

Запитани дали генеративният изкуствен интелект вече се използва в информационни операции, ръководителите казаха, че все още е рано за това, но говорителят Гай Росен сподели опасения, че очаква „лошите актьори“ да използват технологиите, за да „се опитат да ускорят и може би да разширят“ своите дейности.

Изкуственият интелект неизбежно ще навреди на човечеството, ако не бъдат въведени час по-скоро ясни правила и ограничения, предупреди и главният икономист на Microsoft Майкъл Шварц, цитиран от Bloomberg.

„Принципът е прост – ползата за обществото трябва да надвишава потенциалната вреда за човечеството“, каза Шварц. Топ мениджърът на корпорацията посочи, че е важно "да не се отива твърде далеч", когато се въвеждат забрани за разработването на AI.

Microsoft вече работи върху правила за безопасно използване на AI, отбеляза той. Шварц е убеден, че AI неизбежно ще попадне в ръцете на злоумишленици и това може да доведе до щети.

Той поясни, че спамът и намесата в изборите са само някои от приложенията на AI, които могат да навредят на човечеството.

Шварц заключи, че опитът на националните власти да повлияят пряко върху масивите от данни, използвани за обучение на системите за изкуствен интелект, би имал „катастрофални последици“ за цялата индустрия.

По-рано беше съобщено, че администрацията на президента на САЩ Джо Байдън покани ръководителите на най-големите американски ИТ корпорации в Белия дом, за да обсъдят ключови въпроси по темата за ИИ.