Джейми Даймън: Дебатът за достъпа до AI модела Mythos предупредителен знак за бъдещето на изкуствения интелект

Главният изпълнителен директор на JPMorgan Chase & Co., Джейми Даймън, предупреди, че рисковете, произтичащи от модела на изкуствения интелект Mythos на Anthropic, са „реален проблем“, предаде YahooFinance.

Той добави, че служителите на американското правителство сега са фокусирани върху справянето с потенциалните рискове.

По време на срещата на върха за отбрана и иновации в Пенсилвания, организирана от републиканския сенатор Дейв Маккормик, Даймън изрази загриженост относно последиците от широкото разпространение на мощните системи с изкуствен интелект, съобщи Bloomberg. Той предупреди, че предоставянето на широк достъп до Mythos може да създаде рискове, сравними с „предоставянето на балистични ракети на отделни лица“.

Anthropic се озова в центъра на дебата за това как правителствата трябва да управляват рисковете за киберсигурността, породени от мощни модели с изкуствен интелект.

През април Anthropic обяви, че ще стартира Project Glasswing, защитна инициатива за киберсигурност, която използва високо усъвършенстван AI модел Claude Mythos, който не е пуснат на пазара. Вместо да пусне модела публично, Anthropic първоначално си партнира с повече от 50 организации, включително Google, Microsoft и Apple, за да сканира проактивно и да поправя критични софтуерни уязвимости, преди враждебният изкуствен интелект да може да ги използва, обясни компанията.

Оттогава Anthropic добави още компании към проекта, разширявайки достъпа си до приблизително 150 нови организации, отбеляза компанията миналия месец.

„Проектът Glasswing и възможностите на Claude Mythos Preview предизвикаха широки дискусии – както в софтуерната индустрия, така и с правителствата – за това как изкуственият интелект променя киберсигурността“, каза Anthropic.

„Виждаме нашата роля като двойна. Първо, да помогнем на софтуерната индустрия да се адаптира, като безопасно предоставяме широк достъп до по-добри модели, инструменти и обща инфраструктура. Второ, постоянно да променяме подкрепата, която предоставяме, от откриване на уязвимости до разкриване, поправяне и внедряване на актуализиран софтуер“, заяви компанията по това време.

Основана през 2021 г. от бивши служители на OpenAI, Anthropic бързо се утвърди като ключов играч в областта на изкуствения интелект, изграждайки инструменти, които променят начина, по който бизнесите подхождат към области като кодиране и киберсигурност.

През май Anthropic изпревари OpenAI като най-ценния стартъп в света, след като набра 65 милиарда долара в кръг на финансиране Серия H, оценявайки компанията на 965 милиарда долара. Altimeter Capital, Dragoneer, Greenoaks и Sequoia Capital поведоха кръга на финансиране.

Anthropic се среща с инвеститори преди потенциално мащабно първично публично предлагане (IPO), докато се готви да се възползва от силното търсене на листвания за акции с изкуствен интелект.