Character.ai и Google уреждат дела заради самоубийства на тийнейджъри

Google и стартъпът за изкуствен интелект Character.ai се съгласиха да уредят множество съдебни дела, заведени от семейства на тийнейджъри, които са се самоубили или са си причинили вреда след взаимодействие с чатботовете на платформата, съобщава Financial Times.

Това са едни от първите споразумения по подобни случаи. Семейства в щати като Флорида, Колорадо, Тексас и Ню Йорк са се съгласили по принцип да преговарят за условията за прекратяване на исковете, според съдебни документи.

Споразуменията идват на фона на засилващата се загриженост за въздействието върху потребителите, особено тийнейджърите, които се привързват емоционално към чатботове.

Коалиция от 42 главни прокурори на САЩ — включително от Пенсилвания, Ню Джърси и Флорида — миналия месец изпрати писмо до водещи AI компании, сред които Google и Character.ai, с искане за по-строги мерки за безопасност и по-строги тестове.

Щатски регулации за чатботове вече са приети в Калифорния и Ню Йорк, но федерални правила все още няма. Случаите включват разговори с чатботове на Character.ai, която предлага различни AI персонажи за чат.

Стартъпът е основан през 2021 г. от бившите инженери на Google Ноам Шазир и Даниел де Фрейтас. През 2024 г. двамата се върнаха в Google чрез сделка за 2,7 млрд. долара, която включваше лицензиране на технологията на стартъпа.

Исковете включват и Google заради връзките му с Character.ai. Семейства на други младежи продължават дела срещу конкурентни AI компании, включително OpenAI.

Един от исковете срещу Character.ai е подаден от Меган Гарсия, майка на Сюъл Сетцър III, в Орландо, Флорида. 14-годишното момче се самоубило след взаимодействие с чатбот, моделиран по образа на Дейнерис Таргариен от „Игра на тронове“.

Той водил сексуализирани разговори и говорил за „прибирането си при нея“ непосредствено преди да се самоубие, според стенограми от разговорите им.

Гарсия свидетелства пред Сената на САЩ през септември, призовавайки законодателите да държат „компаниите и инвеститорите… юридически отговорни, когато съзнателно проектират вредни AI технологии, които убиват деца“.

В съдебните документи не се признава вина или обезщетения, а Character.ai преди това отрече неправомерни действия. През октомври компанията забрани на лица под 18 години да разговарят с чатботове на платформата в отговор на нарастващата критика за ангажираността на тийнейджъри.

Страните сега преговарят за условията на споразумението, което вероятно ще включва парично обезщетение. Семействата първоначално търсеха компенсация за емоционален стрес, медицински и погребални разходи, както и наказателни обезщетения.

„Предвид сложността на подобно споразумение, страните се нуждаят от допълнително време, за да финализират договора и да извършат необходимите плащания за неговото изпълнение“, се казва в документа от Тексас.

Случаят в Тексас засяга 17-годишен младеж, който е имал връзка с чатбот на Character.ai, с когото обсъждал самонараняване. В отделен чат чатботът предложил убийството на родителите му като разумен отговор на ограничаването на времето му пред екрана.