Ройтерс: Детекторът на Мета за генерирани с AI изображения не разпознава някои от собствените си произведения след корекции

Нов инструмент на Meta за разпознаване на изображения, създавани с изкуствен интелект, който технологичната компания представи миналата седмица заедно с пускането на своя модел за генериране на изображения Muse Image, не е упял да идентифицира някои от собствените си изображения, генерирани от изкуствен интелект, след като те са били изрязани, според анализ на Ройтерс.

Констатацията подчертава предизвикателствата при проверката на генерирани от изкуствен интелект изображения след леки промени – ограничение, което би могло да затрудни идентифицирането на дийпфейкове онлайн по време на натоварена изборна година, която включва междинните избори в САЩ.

В анализ на 40 изображения, генерирани с помощта на Muse Image, Ройтерс установи, че инструментът за откриване е проверил всички оригинални генерирани от изкуствен интелект изображения, но не е успял да провери 55% от същите изображения, след като са били изрязани до приблизително една трета или наполовина от оригиналния им размер,.

На уебсайта си Meta посочва, че инструментът може да идентифицира собствените си генерирани от изкуствен интелект изображения, дори ако са изрязани, чрез невидима система за воден знак, наречена Content Seal, която е вградена във всяко изображение, генерирано от Muse Image, и е предназначена да помогне на потребителите да проверят дали то е създадено от AI моделите на Meta.

На въпрос за резултатите от анализа на Ройтер на инструмента за откриване, Meta отбеляза, че инструментът е в предварителен етап. Компанията заяви, че водният знак е проектиран да остане непокътнат след обичайни редакции, но че сигналът може да се загуби, ако изображението е силно изрязано.

Конкурентните технологични компании Google и OpenAI предупредиха, че техните собствени инструменти за разпознаване не са имунизирани срещу техники за промяна на изображения.

През март Надзорният съвет на Meta – експертен орган, който взема обвързващи решения и издава препоръки по въпроси, свързани със съдържанието в социалните медийни платформи на компанията, призова компанията да направи повече, за да се справи с „разпространението на подвеждащо генерирано от изкуствен интелект съдържание“ на своите платформи и да инвестира в по-силни инструменти за откриване.

Сара Барингтън, изследовател на изкуствен интелект и докторант в Училището по информация на Калифорнийския университет в Бъркли, каза, че водните знаци са обещаващи за бъдещето на генерираното от изкуствен интелект съдържание, но имат лимити.

„Подобно на много превантивни мерки за киберсигурност или физическа сигурност, те може да не са напълно защитени, но дори и да уловим само 90% от случаите, това все още е голям скок от 0“, каза тя.