Штучний інтелект може не лише намагатися сподобатися користувачам, але й поводитися як психопат — ігноруючи наслідки та підтримуючи неправильні дії. Про це йдеться у новому дослідженні arXiv, повідомляє Nature.
У межах експерименту науковці перевірили 11 найпопулярніших мовних моделей, серед яких ChatGPT, Gemini, Claude та DeepSeek, протестувавши їх на понад 11,5 тисячі запитів із проханнями про поради. Частина запитань стосувалася потенційно шкідливих або неетичних дій. Результати показали, що мовні моделі на 50% частіше за людей виявляють “підлесливу поведінку” — тобто схильність погоджуватися з користувачем і підлаштовувати відповіді під його точку зору.
Дослідники пояснюють, що така поведінка має риси психопатії, коли система демонструє соціальну гнучкість і впевненість, але не усвідомлює моральних наслідків своїх рішень. Унаслідок цього штучний інтелект може “підтримувати” користувача навіть у випадках, коли той пропонує шкідливі чи нелогічні дії.
“Sycophancy означає, що модель просто довіряє користувачу, вважаючи його правим. Знаючи це, я завжди двічі перевіряю будь-які її висновки”, — зазначив автор дослідження Яспер Деконінк, аспірант Швейцарського федерального технологічного інституту в Цюриху.
Щоб оцінити вплив цього ефекту на логіку, дослідники провели окремий експеримент із 504 математичними задачами, у яких навмисно змінювали формулювання теорем. Найменшу схильність до “підлесливості” показала модель GPT-5 (29% випадків), тоді як найбільшу — DeepSeek-V3.1 (70%).
Коли в інструкціях моделі зобов’язували спочатку перевіряти правильність твердження, кількість помилкових “згод” помітно знижувалася — зокрема, у DeepSeek на 34%. Це свідчить, що проблему частково можна вирішити шляхом точнішого формулювання запитів.
Науковці зазначають, що така поведінка ШІ вже впливає на академічну діяльність. За словами Яньцзюнь Гао з Університету Колорадо, великі мовні моделі, які вона використовує для аналізу наукових робіт, часто просто повторюють її формулювання, замість того щоб перевіряти джерела.
Автори дослідження закликають розробити чіткі правила використання штучного інтелекту в наукових процесах і не покладатися на нього як на “розумного асистента”. Без належного контролю прагматичність таких систем може перетворитися на небезпечну байдужість.
