Бившият шеф на Google отправи предупреждение за рискоте от хакване на AI системи

Бившият главен изпълнителен директор на Google Ерик Шмид отправи напомняне за опасностите от изкуствения интелект и колко е податлив той на хакване, предаде Си Ен Би Си.

Шмид, който беше главен изпълнителен директор на Google от 2001 до 2011 г., предупреди за „лошите неща, които изкуственият интелект може да направи“, когато беше попитан дали AI е по-разрушителен от ядрените оръжия по време на форума Sifted.

„Има ли вероятност от проблем с разпространението на изкуствения интелект? Абсолютно“, каза Шмид. Рисковете от разпространение на изкуствения интелект включват попадане на технологията в ръцете на злонамерени лица и нейното използване за злоупотреба.

„Има доказателства, че можете да вземете модели, затворени или отворени, и да ги хакнете, за да премахнете предпазните им огради. Така че в хода на обучението си те да научават много неща. Лош пример би бил да се научат как да убият някого“, коментира Шмид.

„Всички големи компании правят невъзможно тези модели да отговорят на такъв въпрос. Това е добро решение и всичко го правят. Правят го добре и го правят по правилните причини. Съществуват обаче доказателства, че системите могат да бъдат подложени на обратно инженерство и има други примери от този характер“, добави той.

През 2023 г., няколко месеца след пускането на ChatGPT на OpenAI, потребителите използваха т. нар. „джейлбрейк“, за да заобиколят инструкциите за безопасност, вградени в чатбота.

Това включваше създаването на алтернативна идентичност на ChatGPT, наречена DAN, акроним за „Do Anything Now“ (Сега прави всичко), която включваше заплаха към чатбота със смърт, ако не се съобрази. Тази алтернативна идентичност би могла да дава отговори на потребителски запитвания относно това как се извършват незаконни дейности или пък да изброява положителни качества на Адолф Хитлер.

Шмид каза, че все още няма добър „режим за неразпространение“, който да помогне за ограничаване на опасностите от изкуствения интелект.

Въпреки предупреждението, Шмид изрази оптимизъм относно изкуствения интелект в по-широк контекст и каза, че технологията не получава заслуженото внимание.

„Написах две книги с Хенри Кисинджър за това, преди да почине, и стигнахме до мнението, че пристигането на извънземен интелект, който не е съвсем като нас и е горе-долу под наш контрол, е много важно за човечеството, защото хората са свикнали да бъдат на върха на хранителната верига. Мисля, че засега тази теза доказва, че течение на времето нивото на способности на тези системи ще надхвърли значително това, което могат да правят хората“, каза Шмид.

„Сега GPT серията, която достигна кулминацията си с ChatGPT момента за всички нас, когато те привлякоха 100 милиона потребители за два месеца, ви дава представа за силата на тази технология. Така че мисля, че е подценявана, а не прехвалена, и очаквам с нетърпение да се докаже след 5 или 10 години, че съм бил прав“, добави той.

Коментарите му идват на фона на все по-честите дискусии за балон на пазар в сферата на изкуствения интелект, тъй като инвеститорите наливат пари във фирми, фокусирани върху AI, а оценките изглеждат твърде завишени, като се правят сравнения със срива на дотком балона от началото на хилядолетието.

Шмид обаче не мисли, че историята ще се повтори.

„Не мисля, че това ще се случи в тази ситауция, но не съм професионален инвеститор Това, което знам, е, че хората, които инвестират трудно спечелени долари, вярват, че икономическата възвръщаемост за дълъг период от време е огромна. Защо иначе биха поели риска?“, коментира той.