Компанія OpenAI оголосила про впровадження нових заходів безпеки в чат-боті ChatGPT після випадків, коли користувачі зверталися до нього під час психічних криз. Модель GPT-5 отримала покращені навички розпізнавання ризиків самоушкодження, перенаправлення людей на гарячі лінії допомоги, а в критичних ситуаціях — передачі інформації модераторам чи навіть правоохоронним органам.
“Наша мета — зробити наші інструменти максимально корисними для людей, і в рамках цього ми продовжуємо вдосконалювати те, як наші моделі розпізнають та реагують на ознаки психічного та емоційного дистресу, а також надають людям допомогу, керуючись порадами експертів”, — заявили у компанії.
Компанія співпрацює з понад 90 лікарями з 30 країн світу, серед яких є психіатри, педіатри та сімейні лікарі. У США чат-бот скеровує людей на гарячу лінію 988, у Великій Британії — до Samaritans, а в інших країнах — на ресурс findahelpline.com.
Після виходу GPT-5 точність реагування на кризові ситуації підвищилася більш ніж на 25% у порівнянні з попередньою версією. Новий підхід до навчання, safe completions, дозволяє моделі давати корисні, але безпечні поради.
OpenAI також працює над підсиленим захистом у тривалих діалогах та блокуванням небезпечного контенту. Серед нових можливостей — прямий контакт з екстреними службами, швидке повідомлення довірених осіб, а також інструменти для підлітків і батьків: батьківський контроль та додаткові запобіжники від ризикованого контенту.
