Шефът на Mistral: Дебатът в САЩ относно безопасността на AI прикрива небрежността на нашите конкуренти

Изпълнителният директор на Mistral Артур Менш обвини водещи световни компании в сферата на изкуствения интелект, че използват дебата за безопасността на технологията като параван за собствената си „небрежност“, предаде CNBC.

„Дебатът, на който станахме свидетели в САЩ, служи като прикритие за небрежността на някои от нашите конкуренти“, заяви Менш пред Анет Вайсбах от CNBC, като добави, че е необходимо да се създадат системи, способни да контролират агентите с изкуствен интелект.

Менш не е единственият, който критикува дискусията за безопасността на AI, която в последно време се разраства в САЩ. Дейвид Сакс – бивш отговорник по въпросите на криптовалутите в Белия дом и настоящ съпредседател на Президентския съвет на съветниците по наука и технологии, призова технологичните гиганти „да спрат да се преструват, че мотивът за забавяне на темпото е чисто алтруистичен“.

Емил Майкъл, заместник-министър на отбраната по въпросите на научните изследвания и инженерството, също предупреди за „координирана кампания“ за насаждане на страх.

В световен мащаб зачестяват случаите на „неконтролируеми“ агенти с изкуствен интелект – последният подобен доклад идва от Австралия, където агент, разработен от OpenAI, е хакнал правителствен уебсайт.

През юли Anthropic описа три случая, в които моделите Claude са получили достъп до интернет по време на тестове и са осъществили нерегламентиран достъп до реалните системи на три различни организации.

„Когато им предоставите множество инструменти, тези системи [агенти с AI] стават много динамични и могат да извършат действия, които не сте предвидили“, обясни Менш пред CNBC.

„Необходими са подходящи системи за мониторинг, каквито ние предоставяме на компаниите, с които работим“, допълни той.

Забавяне на развитието на ИИ

Дискусиите относно безопасността на изкуствения интелект се засилиха, след като по-рано този месец изследовател в областта на AI напусна работата си в Anthropic с твърдението, че компанията и нейният конкурент OpenAI „си играят с живота ни“ и разработват технология, при която съществува над 10% вероятност за унищожаване на човечеството.

По-късно Дарио Амодей, съосновател и изпълнителен директор на Anthropic, публикува статия, в която призовава компаниите да забавят темпото на усъвършенстване на своите AI модели. Тази седмица  OpenAI обяви, че е решила да не пуска на пазара предстоящия си модел с изкуствен интелект GPT-6.1 Astra, след като е установила, че той не отговаря в достатъчна степен на стандартите на компанията за безопасност. Днес се появи и информация, че Anthropic е предупредила потенциалните инвеститори в предстоящото си първично публично предлагане (IPO), че технологията може да крие „катастрофални или екзистенциални рискове за човечеството“.

Mistral също разработва модели с изкуствен интелект, но прилага различен подход от този на OpenAI и Anthropic, като работи с отделни компании за създаване на персонализирани инструменти, съобразени с техните нужди и интегрирани в дейността им.

За разлика от конкурентите си обаче, Mistral не планира да забавя темпото на разработка на усъвършенствани модели.

Преднината, с която разполагат американските лаборатории, „не е огромна“, заяви Менш, като добави, че компанията му е уверена, че моделът ѝ от следващо поколение ще съкрати тази разлика „значително“.

„Набираме необходимия капитал, за да увеличим изчислителната мощ, нужна за обучението на по-големи и по-мощни модели, така че сами да определяме съдбата си“, каза той.

По-рано този месец Mistral набра 3 милиарда евро ново финансиране, водено от гиганта в производството на чипове с памет Samsung, в стремежа си да се утвърди като европейска алтернатива на конкуренти като OpenAI и Anthropic.