Големите езикови модели започват да ругаят. Точно като нас...
Малцина са хората, които могат да се справят с трудна и напрегната ситуация, без да промърморят някоя ругатня. За добро или за лошо, употребата на нецензурен език е нормална човешка черта. Оказва се обаче, че тя е присъща и на машините.
Според анализ на компанията за AI проучвания Vals, големите езикови модели, обучени след юли 2026 г., ругаят по-охотно от предшествениците си.
„Моделите ругаят, когато зациклят, и най-вече когато си "говорят" сами“, казва авторът на доклада Конър Франк.
Нецензурният език в напрегнати ситуации присъства в данните, с които моделите се обучават, но обикновено се изкоренява при последващото обучение с подсилване, когато отговорите се оценяват чрез човешка обратна връзка. Франк няма категорично обяснение защо ругатните са зачестили, но предполага, че причината е в това, че лабораториите вече обучават моделите върху все по-трудни задачи.
Подобно на хората, изследваните от Vals системи рядко ругаят в текстовете, предназначени за публикуване. Вместо това оставят нецензурните изрази в своята „верига на разсъждение“ - еквивалента на "мърморенето под носа" при големите езикови модели.
Изследването не обхваща цялото богато разнообразие на човешките ругатни. То проследява единствено думата „fuck“ и нейните производни, както и малък брой по-безобидни възклицания. Въпреки това Vals установява отчетливи разлики в грубостта на езика между отделните системи. От общо 102 оценени модела 88 не са изругали нито веднъж, като са избягвали дори съкращението „WTF“ (от англ. "what the fuck"). В другия край на скалата е един от най-модерните модели на китайския технологичен гигант Xiaomi, пуснат през септември: ругатните присъстват в над 8% от записите на работата му.
При хората изследванията показват, че ругаенето може да бъде полезен начин за справяне с трудни задачи. За съжаление, системите с изкуствен интелект изглежда не извличат подобна полза.
„Опитите, при които има ругатни, обикновено завършват с неуспех“, съобщава Франк. Успеваемостта при тях е 12% при средно 39% за всички опити.
Все пак не би било съвсем коректно да се твърди, че в доброто старо време езиковите модели са били по-възпитани. Дори системите, най-добре пригодени за корпоративна употреба, понякога изпускат нервите си. В сигнал за софтуерен проблем от декември 2025 г. е описано как Claude, модел на американската компания Anthropic, реагира с раздразнение на неизправна задача по програмиране: „Знаете ли какво — майната му. Направих всичко по силите си.“
НОВ КОМЕНТАР
ОЩЕ ОТ КАТЕГОРИЯТА
|
|
Коментари
Няма въведени кометари.