Сам Алтман предупреждава за „криза с измами“ с помощта на AI

Светът може да е на прага на „криза с измами“ заради начина, по който изкуственият интелект може да позволи на злонамерени лица да се представят за други хора. За това предупреди главният изпълнителен директор на OpenAI Сам Алтман, цитиран от CNN.

„Нещо, което ме ужасява, е, че очевидно все още има някои финансови институции, които приемат гласов отпечатък като удостоверяване, за да преместят много пари или да направите нещо друго – казвате трудна фраза и те просто го правят“, коментира Алтман. „Това е лудост да се прави все още... Изкуственият интелект напълно е разгадал повечето от начините, по които хората се удостоверяват в момента, освен паролите“, добави той.

Коментарите дойдоха като част от неговото широкообхватно интервю за икономическото и общественото въздействие на изкуствения интелект във Федералния резерв.

 Той също така разказа на публиката, която включваше представители на големи американски финансови институции, ролята, която очаква изкуственият интелект да играе в икономиката.

Появата му идва в момент, когато се очаква Белият дом да публикува своя „План за действие относно изкуствения интелект“ през следващите дни – политически документ, който да очертае подхода към регулирането на технологията и насърчаването на господството на Америка в пространството на изкуствения интелект.

OpenAI, която предостави препоръки за плана, засили присъствието си на и около Капитолия през последните месеци.

Във вторник компанията потвърди, че ще отвори първия си офис във Вашингтон в началото на следващата година, за да приюти приблизително 30-те си служители в града. Чан Парк, ръководител на отдела за глобални въпроси на OpenAI за САЩ и Канада, ще ръководи новия офис заедно с Джо Ларсън, който напуска компанията за отбранителни технологии Anduril, за да стане вицепрезидент на OpenAI по правителствените въпроси.

Компанията ще използва пространството, за да приема политици, да представя нови технологии и да предоставя обучения за ИИ, например на учители и държавни служители. То ще помещава и изследвания за икономическото въздействие на ИИ и как да се подобри достъпът до технологията.

Въпреки предупрежденията на Алтман за рисковете, свързани с технологията, OpenAI призова администрацията на Тръмп да избягва регулации, които според нея биха могли да попречат на способността на технологичните компании да се конкурират с чуждестранните иновации в областта на ИИ. По-рано този месец Сенатът на САЩ гласува за премахване на спорна разпоредба от законопроекта за дневния ред на Тръмп, която би попречила на щатите да прилагат закони, свързани с ИИ, в продължение на 10 години.

Криза с измами

Алтман не е единственият, който се тревожи, че изкуственият интелект ще доведе до ръст на измамите.

ФБР предупреди за тези измами с „клониране“ на глас и видео с изкуствен интелект миналата година. Много родители съобщиха, че гласовата технология с изкуствен интелект е била използвана в опити да бъдат измамени с пари, като са били убеждавани, че децата им са в беда. А по-рано този месец американски служители предупредиха, че някой, използващ изкуствен интелект, за да се представи за държавния секретар Марко Рубио, се е свързал с външни министри, губернатор на САЩ и член на Конгреса.

„Много съм притеснен, че сме изправени пред предстояща значителна криза с измами“, каза Алтман. „В момента това е гласово обаждане; скоро ще бъде видео или FaceTime, което е неразличимо от реалността“, добави шефът на OpenAI.

Той предупреди, че макар компанията му да не разработва такива инструменти за имитация, това е предизвикателство, с което светът скоро ще трябва да се справи, тъй като изкуственият интелект продължава да се развива.

Алтман също така обясни какво го държи буден през нощта – идеята, че злонамерени лица да създават и злоупотребяват със AI „суперинтелект“, преди останалият свят да е напреднал достатъчно, за да се защити от подобна атака – например, американски противник, използващ изкуствен интелект, за да атакува американската енергийна мрежа или да създаде биологично оръжие. Този коментар може да говори за опасенията в Белия дом относно Китай, който изпреварва американските технологични компании в областта на изкуствения интелект.

Алтман също така каза, че се тревожи за перспективата хората да загубят контрол над свръхинтелигентна система с изкуствен интелект или да дадат на технологията твърде много правомощия за вземане на решения. Различни технологични компании, включително OpenAI, се стремят към създаването на AI свръхинтелект. Самият Алтман е казвал, че според него 30-те години на 20-ти век биха могли да доведат интелекта на AI далеч отвъд това, на което са способни хората – но остава неясно как точно те определят този етап и кога, ако изобщо, ще го достигнат.