Искусственный интеллект может не только пытаться понравиться пользователям, но и вести себя как психопат — игнорируя последствия и поддерживая неправильные действия. Об этом говорится в новом исследовании arXiv, сообщающий Nature.
В рамках эксперимента ученые проверили 11 самых популярных языковых моделей, среди которых ChatGPT, Gemini, Claude и DeepSeek, протестировав их более чем на 11,5 тысячи запросов с просьбами о советах. Часть вопросов касалась потенциально вредных или неэтических действий. Результаты показали, что языковые модели на 50% чаще людей обнаруживают «подчиненное поведение». — то есть склонность соглашаться с пользователем и подстраивать ответы под его точку зрения.
Исследователи объясняют, что такое поведение имеет черты психопатии, когда система демонстрирует социальную гибкость и уверенность, но не осознает моральных последствий своих решений. В результате этого искусственный интеллект может “поддерживать” пользователя даже в тех случаях, когда тот предлагает вредные или нелогичные действия.
“Sycophancy означает, что модель просто доверяет пользователю, считая его правым. Зная это, я всегда дважды проверяю любые ее выводы, — отметил автор исследования Яспер Деконинк, аспирант Швейцарского федерального технологического института в Цюрихе.
Чтобы оценить влияние этого эффекта на логику, исследователи провели отдельный эксперимент с 504 математическими задачами, в которых намеренно изменяли формулировку теорем. Наименьшую склонность к “подчинчивости” показала модель GPT-5 (29% случаев), тогда как самую большую — DeepSeek-V3.1 (70%).
Когда в инструкциях модели обязывали сначала проверять правильность утверждения, количество ложных “согласий” заметно снижалась – в частности, у DeepSeek на 34%. Это свидетельствует о том, что проблему частично можно решить путем более точной формулировки запросов.
Ученые отмечают, что такое поведение ИИ уже влияет на академическую деятельность. По словам Яньцзюнь Гао из Университета Колорадо, большие языковые модели, которые она использует для анализа научных работ, часто просто повторяют ее формулировки вместо того, чтобы проверять источники.
Авторы исследования призывают разработать четкие правила использования искусственного интеллекта в научных процессах и не полагаться на него как на “умного ассистента”. Без надлежащего контроля прагматичность таких систем может превратиться в опасное безразличие.
