Бивши и настоящи служители на OpenAI и DeepMind предупреждават за рискове от ИИ

Политика за бисквитки

Група настоящи и бивши служители в компании за изкуствен интелект, включително подкрепяната от Microsoft - OpenAI иDeepMind на Google изрази загриженост относно рисковете, породени от нововъзникващата технология, пише Ройтерс.

В отворено писмо 11 настоящи и бивши служители на OpenAI и един настоящ и друг бивш служител на Google DeepMind се казва, че финансовите мотиви на ИИ компаниите възпрепятстват ефективния надзор.

„Не вярваме, че създадените по поръчка структури на корпоративно управление са достатъчни, за да променят това“, се добавя в писмото.

Освен това в него се предупреждава за рисковете от нерегулирания изкуствен интелект, вариращи от разпространението на дезинформация до загубата на независими ИИ системи и задълбочаването на съществуващите неравенства, като тези неща могат да доведат до „изчезване на човечеството“.

Изследователите са открили примери за генератори на изображения от компании, включително OpenAI и Microsoft, произвеждащи снимки с дезинформация, свързана с гласуване, въпреки политиките срещу такова съдържание.

Компаниите с изкуствен интелект имат „слаби задължения“ да споделят информация с правителствата относно възможностите и ограниченията на техните системи, се казва в писмото, като се добавя, че не може да се разчита на тези фирми да споделят тази информация доброволно.

Отвореното писмо е поредното, което повдига опасения за безопасността около генеративната ИИ технология, която може бързо и евтино да произвежда текст, изображения и аудио.

Групата призова фирмите за изкуствен интелект да улеснят процес за настоящи и бивши служители да повдигат опасения, свързани с риска, и да не налагат споразумения за поверителност, които забраняват критиката.

Коментари

НОВ КОМЕНТАР

НАЙ-НОВО

|

НАЙ-ЧЕТЕНИ

|

НАЙ-КОМЕНТИРАНИ

След 30 години експлоатация, много соларни панели работят на впечатляващите 80 процента от оригиналната си мощност
Звездите за бизнеса от 16 до 22 ноември: Баланс между амбицията и реалните възможности
Грешките, които умните хора не повтарят
Турското електромагнитно оръдие Ejderha унищожи 51 дрона с един изстрел
На днешната дата, 17 ноември. Международен ден на студентите
Цитат на деня
Апокалипсис: Книга от XVI век с предсказания за края на света ще бъде продадена на търг за 1 милион паунда
Financial Times: Италия пречи на Германия да участва в съвместно разработване на изтребител
LinkedIn и краят на илюзията за “професионална” социална мрежа
Терзиев подписа договор за 282 млн. евро еврофинансиране за модернизация на градския транспорт
Започва строителството на третия лъч на метрото
Смяна в ръководството на Kaufland България: Петя Владимирова поема поста председател на Управителния съвет
Товарен кораб потъва край нос Калиакра
tbi bank въвежда проверка на получателя за по-сигурни преводи
10 гатанки за деца, които затрудняват и възрастните
От кариерни контакти до първа среща: LinkedIn се превръща в неочаквана платформа за запознанства
50 от най-полезните сайтове в интернет
22 цитата, които родителите ще оценят
Унгарските власти откриха близо 20 млн. долара в брой при разследване срещу бивш министър на Орбан
Тръгват големи съкращения в "Арсенал"
Бързи кредити от Ferratum без трудов договор
България планира да придобие 57 самоходни гаубици „Сезар“ от Франция
Тревожна нощ в Балтика: дрон прелетя над четири държави въпреки намесата на НАТО
Интернет не е вашият банкомат. На Интернет вие сте му напълно безразлични
Fibank понижава лихвата по жилищен кредит „Право на избор“ до 2,15%