Новите AI регулации в ЕС влизат в сила от 2 август. Какво трябва да знаем?

От 2 август Европейският съюз преминава към нов ключов етап от прилагането на Закона за изкуствения интелект и вече ще може да санкционира компании, които не спазват изискванията му. Едновременно с това влизат в сила новите правила за прозрачност при използването на чатботове, генеративни AI системи и т.нар. дийпфейк съдържание, припомня Българското национално радио.

От тази дата Службата на ЕС по изкуствения интелект към Европейската комисия и определените национални органи започват да упражняват правомощията си по контрол и прилагане на регламента. Компаниите ще трябва да могат да докажат, че продуктите и услугите им отговарят на съответните изисквания, а регулаторите ще могат да изискват информация, техническа документация и достъп до системите, попадащи под техния надзор.

Законът за изкуствения интелект беше приет през 2024 г. като първата цялостна нормативна рамка от подобен тип в света. Той не регулира всички AI приложения по един и същ начин, а използва подход, основан на риска - колкото по-сериозна е потенциалната опасност за здравето, сигурността и основните права на гражданите, толкова по-строги са изискванията към разработчиците и организациите, които използват технологията.

Потребителите трябва да знаят кога общуват с AI

Сред най-видимите промени от 2 август са задълженията за прозрачност. Чатботовете и другите системи, които общуват директно с хора, трябва ясно да информират потребителите, че отсреща стои изкуствен интелект, а не човек, освен когато това е очевидно от обстоятелствата.

Доставчиците на генеративни AI системи трябва да добавят машинно разпознаваеми обозначения към създаденото или манипулирано от тях съдържание. Целта е изображенията, аудиозаписите, видеоматериалите и текстовете, произведени чрез изкуствен интелект, да могат по-лесно да бъдат идентифицирани с технически средства.

Т.нар. дийпфейкове - реалистично изглеждащи изображения, звук или видео, които са създадени или променени с AI - трябва да бъдат видимо обозначавани. Подобно изискване важи и за текстове, генерирани или манипулирани с изкуствен интелект и публикувани с цел информиране на обществото по въпроси от обществен интерес.

Изключение е предвидено, когато текстът е преминал през човешка проверка или редакционен контрол и конкретно физическо или юридическо лице носи отговорност за публикуването му. При художествени, сатирични, творчески и научнофантастични произведения информацията за използването на AI може да бъде представена по начин, който не пречи на възприемането на произведението, но наличието на изкуствено генерирано или манипулирано съдържание все пак трябва да бъде разкрито.

Новите правила обхващат и системите за разпознаване на емоции и биометрично категоризиране. Когато хората са изложени на подобна технология в допустимите от закона случаи, те трябва да бъдат уведомявани за това.

За генеративните AI системи, които вече са били пуснати на европейския пазар преди 2 август 2026 г., е предвиден четиримесечен преходен срок. Техните доставчици трябва да изпълнят техническите задължения за маркиране и разпознаваемост на генерираното съдържание до 2 декември 2026 г. Отсрочката се отнася конкретно до това изискване, а не до всички разпоредби за прозрачност.

Най-опасните AI практики вече са забранени

Част от най-строгите забрани по европейския регламент не започват да действат сега, а са в сила още от 2 февруари 2025 г. Те обхващат AI приложения, които ЕС определя като носещи неприемлив риск за гражданите и основните им права.

Забранено е използването на манипулативни или подвеждащи техники, които могат съществено да повлияят върху поведението на хората и да им причинят вреда. Не се допуска и експлоатирането на уязвимостите на дадено лице или група заради тяхната възраст, увреждане или социално и икономическо положение.

Сред забранените практики е и т.нар. социално оценяване на хората, когато въз основа на поведението или личните им характеристики им се присъждат оценки, водещи до неоправдано или непропорционално третиране.

Ограничено е използването на AI за прогнозиране дали даден човек може да извърши престъпление единствено въз основа на профилиране или оценка на личностните му характеристики. Изключения са възможни, когато системата само подпомага човешка преценка, основана на конкретни и обективни факти, свързани с престъпна дейност.

Забранено е и разпознаването на емоции на работното място и в училищата, освен когато технологията се използва по медицински причини или за гарантиране на безопасността. Регламентът въвежда строги ограничения и върху създаването на бази данни за лицево разпознаване чрез безразборно събиране на снимки от интернет или записи от охранителни камери.

За високорисковите AI системи, използвани в области като заетостта, образованието, критичната инфраструктура, миграцията и правоприлагането, се предвиждат допълнителни задължения за управление на риска, качество на данните, документация, човешки надзор и проследимост. След последните промени в европейската времева рамка основните правила за тези системи ще започнат да се прилагат от 2 декември 2027 г., а за AI, вграден в регулирани физически продукти като медицински изделия, автомобили, асансьори и детски играчки - от 2 август 2028 г.

Глобите могат да достигнат 35 млн. евро

При най-тежките нарушения санкциите могат да достигнат 35 млн. евро или 7% от общия годишен световен оборот на компанията за предходната финансова година - прилага се по-високата от двете стойности. Този максимален размер се отнася основно до използването на забранени AI практики и определени нарушения на изискванията за данните.

За неспазване на останалите задължения по регламента глобата може да бъде до 15 млн. евро или 3% от световния годишен оборот. Предоставянето на невярна, непълна или подвеждаща информация на регулаторните органи може да доведе до санкция до 7,5 млн. евро или 1% от оборота. При малките и средните предприятия се прилага по-ниската от предвидените фиксирана сума и процент от оборота, докато при големите компании важи по-високата стойност.

Европейската комисия ще може директно да санкционира доставчиците на модели с общо предназначение, включително най-мощните генеративни AI модели. За нарушение на техните задължения или неизпълнение на мерки, разпоредени от Комисията, глобата може да достигне 15 млн. евро или 3% от световния годишен оборот.

ЕС изгражда обща система за контрол

Контролът ще бъде разпределен между националните органи на държавите членки и европейската Служба по изкуствения интелект. Националните регулатори ще отговарят основно за AI системите, използвани и предлагани на съответните пазари, а службата към Европейската комисия ще наблюдава доставчиците на модели с общо предназначение и най-усъвършенстваните системи, които могат да създадат системни рискове.

Тези компании са задължени да поддържат техническа документация, да предоставят информация на разработчиците, които изграждат свои продукти върху техните модели, и да имат политика за спазване на европейското законодателство за авторското право. Доставчиците трябва да публикуват и обобщена информация за съдържанието, използвано при обучението на моделите.

При най-мощните модели се изисква допълнително оценяване и ограничаване на системните рискове, докладване на сериозни инциденти и осигуряване на достатъчно високо ниво на киберсигурност. Европейската служба ще може да извършва оценки, да изисква документи и достъп до моделите и да налага коригиращи мерки.

С поетапното прилагане на регламента ЕС се опитва да намери баланс между насърчаването на иновациите и защитата на гражданите. За компаниите това означава, че използването на AI вече не е само технологичен и бизнес въпрос. От 2 август то все по-ясно се превръща и в въпрос на правно съответствие, прозрачност и корпоративна отговорност.