Компания OpenAI объявила о внедрении новых мер безопасности в чат-боте ChatGPT после случаев, когда пользователи обращались к нему во время психических кризисов. Модель GPT-5 получила улучшенные навыки распознавания рисков самоповреждения, перенаправления людей на горячие линии помощи, а в критических ситуациях передачи информации модераторам или даже правоохранительным органам.
“Наша цель — сделать наши инструменты максимально полезными для людей, и в рамках этого мы продолжаем совершенствовать то, как наши модели распознают и реагируют на признаки психического и эмоционального дистресса, а также оказывают людям помощь, руководствуясь советами экспертов”, — заявили в компании.
Компания сотрудничает с более чем 90 врачами из 30 стран мира, среди которых психиатры, педиатры и семейные врачи. В США чат-бот направляет людей на горячую линию 988, в Великобритании — в Samaritans, а в других странах — на ресурс findahelpline.com.
После выхода GPT-5, точность реагирования на кризисные ситуации повысилась более чем на 25% по сравнению с предыдущей версией. Новый подход к обучению, safe completions позволяет модели давать полезные, но безопасные советы.
OpenAI также работает над усиленной защитой в длительных диалогах и блокировкой опасного контента. Среди новых возможностей – прямой контакт с экстренными службами, быстрое сообщение доверенных лиц, а также инструменты для подростков и родителей: родительский контроль и дополнительные предохранители от рискованного контента.
