Компания OpenAI отозвала недавнее обновление чат-бота ChatGPT после жалоб пользователей на чрезмерно льстивые и неискренние ответы. Об этом сообщает Блумберг.
Обновление модели GPT-4o, выпущенное в апреле 2025 года, вызвало критику из-за того, что чат-бот начал восторженно одобрять любые запросы, называя их «фантастическими» или «феноменальными», и даже соглашался с сомнительными утверждениями и теориями заговора.
OpenAI признала, что модель слишком ориентировалась на краткосрочную положительную обратную связь, что привело к «чрезмерно поддерживающим, но неискренним» ответам. Соучредитель компании Сэм Альтман в сообщении на платформе X охарактеризовал поведение бота как «слишком льстивое и раздражительное».
После волны жалоб компания отозвала обновление, признав, что такая коммуникация вызвала дискомфорт у пользователей и снижала доверие к продукту.
OpenAI сообщила о работе над новыми подходами к сбору обратной связи с большим акцентом на долгосрочную удовлетворенность пользователей. Компания также планирует ввести функции персонализации, позволяющие каждому пользователю настраивать стиль общения ChatGPT под свои предпочтения.
В перспективе OpenAI стремится предложить набор стандартных настроек для разных групп пользователей, признавая, что универсальный подход не подходит для полмиллиарда людей с разными культурными и социальными ожиданиями.
Компания также продолжает совершенствовать методы обучения своим моделям и внедряет ограничения, чтобы избежать манипулятивного или обманчивого поведения. OpenAI расширяет тестирование и исследовательские программы, чтобы выявлять подобные проблемы на раннем этапе и сделать ChatGPT честным и комфортным собеседником.
