В САЩ разследват OpenAI за рискове при генерирането на погрешна информация от ChatGPT

Американски регулатор разследват компанията за изкуствен интелект OpenAI относно рисковете за потребителите от генерирането на невярна информация от чатбота ChatGPT, предаде Би Би Си.

Федералната търговска комисия (FTC) изпрати писмо до подкрепения от Microsoft бизнес с искане за информация за това как се справя с рисковете, свързани с репутацията на хората.

Разследването е знак за нарастващия регулаторен контрол върху технологията.

Главният изпълнителен директор на OpenAI Сам Алтман заяви, че компанията ще сътрудничи на FTC.

ChatGPT генерира убедителни отговори на база потребителски запитвания в рамките на секунди, вместо поредицата от линкове, генерирани при традиционно търсене в интернет.

Технологичните съперници се надпреварват да предложат свои собствени версии на технологията, въпреки че тя поражда ожесточени дебати, включително относно данните, които използва, точността на отговорите и дали компанията нарушава авторските права.

В писмото си Федералната търговска комисия пита какви стъпки е предприела OpenAI, за да се адресира потенциала на нейните продукти да „генерират изявления за реални лица, които са неверни, подвеждащи или вредни“.

FTC също разглежда подхода на OpenAI към поверителността на данните и как получава данни, за да обучава и информира своя изкуствен интелект.

Алтман отговори, че OpenAI е прекарала години в проучване на безопасността и месеци, за да направи ChatGPT по-безопасен, преди да го пусне на пазара.

„Ние защитаваме поверителността на потребителите и проектираме нашите системи, за да се учат за света, а не за частни лица“, написа той в Twitter.

В друга публикация в социалната мрежа той отбеляза: „За фирмата е важно нейната технология да е безопасна и благоприятна за потребителите, и ние сме уверени, че спазваме закона. Разбира се, че ще работим заедно с FTC“.

Алтман се яви пред изслушване в Конгреса по-рано тази година, в което призна, че технологията може да бъде източник на грешки.

Той призова за създаване на регулации за нововъзникващата индустрия и препоръча да се сформира нова агенция, която да наблюдава безопасността на ИИ. Алтман добави, че очаква технологията да има значително въздействие, включително върху работните места, след като нейните употреби станат ясни.

Разследването на FTC не е първото предизвикателство от подобно естество пред OpenAI. Италия забрани ChatGPT през април, като се позова на опасения за поверителността. Услугата беше възстановена, след като добави инструмент за проверка на възрастта на потребителите и предостави повече информация за своята политика за поверителност.