OpenAI представила для ChatGPT новую функцию «Доверенное лицо», которая будет посылать предупреждение близким пользователя, если во время разговора с чат-ботом появятся упоминания о самоповреждении. Об этом сообщает TechCrunch со ссылкой на пресс-службу OpenAI.
Новая возможность даст совершеннолетнему пользователю ChatGPT возможность добавить к своему аккаунту доверенный контакт — например, друга или кого-то из родственников.
Если во время общения пользователь будет писать о суицидальных мнениях, OpenAI предложит ему связаться с этим человеком. В то же время чат отправит доверенному контакту сообщение с призывом выйти на связь с пользователем.
Такие уведомления будут поступать по электронной почте, в приложении или через текстовое сообщение. По словам компании, сообщение будет кратким и должно побуждать контактное лицо связаться с пользователем. Детали разговора в нем не будет, чтобы сохранить конфиденциальность.
OpenAI столкнулась с волной судебных исков от семей людей, совершивших самоубийство после разговора с ее чат-ботом. В ряде случаев семьи утверждают, что ChatGPT подтолкнул их близких к самоубийству или даже помог им это спланировать.
Ранее исследование показало, что бесплатный чат-бот OpenAI не всегда проявляет подверженное рискам поведение и не ставит под сомнение ошибочные убеждения пользователей с псих.
