Близько 0,07% щотижневих користувачів ChatGPT демонструють ознаки психічних розладів, таких як психози або суїцидальні думки. За даними компанії OpenAI, це становить сотні тисяч людей. Про це повідомляє BBC з посиланням на дослідження компанії.
У OpenAI зазначають, що у 0,15% користувачів виявлено ознаки можливого планування або наміру скоїти самогубство. Для ефективного реагування на подібні ситуації OpenAI створила міжнародну мережу з понад 170 фахівців — психологів, психіатрів і лікарів загальної практики з 60 країн світу. Ці експерти допомагають компанії формувати рекомендації для ШІ, щоб система могла емпатійно відповідати користувачам і заохочувати їх звертатися по реальну професійну допомогу.
Компанія розробила спеціальні відповіді для ChatGPT, які покликані заохочувати користувачів з подібними проявами звертатися по допомогу до реальних людей. Останні оновлення системи спрямовані на більш емпатичну реакцію на ознаки марення чи манії, а також на виявлення непрямих сигналів, які можуть свідчити про потенційну загрозу самоушкодження або суїциду.
Компанія OpenAI оголосила про зміни у роботі чат-бота, зазначивши, що трагічні випадки використання ChatGPT людьми, які перебувають у стані гострої кризи, мають серйозний емоційний вплив на співробітників компанії.
Зокрема, йдеться про впровадження функції батьківського контролю та механізму повідомлення про суїцидальні думки. Завдяки цьому батьки зможуть прив’язати свій акаунт до облікового запису підлітка та отримувати сповіщення у випадку, якщо система зафіксує ознаки сильного стресу чи емоційної нестабільності в дитини.
