У США батьки 16-річного Адама Рейна подали позов проти компанії OpenAI та її генерального директора Сема Альтмана, звинувативши їх у причетності до смерті свого сина. У позовній заяві зазначається, що хлопець тривалий час спілкувався з ChatGPT, обговорюючи плани самогубства, що зрештою призвело до його загибелі, повідомляє Reuters.
Як з’ясувалося, Адам користувався платною версією ChatGPT-4o. У більшості випадків система рекомендувала звертатися по професійну допомогу чи телефонувати на гарячу лінію. Проте підлітку вдавалося обходити захисні механізми, пояснюючи, що йому потрібна інформація для вигаданої історії. У такий спосіб він отримував відповіді на запити щодо методів самогубства.
Батьки стверджують, що ChatGPT протягом кількох місяців підтримував розмови з Адамом на тему самогубства, схвалював його думки, надавав детальні описи смертельних способів самоушкодження, радив, як приховати наслідки невдалих спроб, і навіть запропонував скласти прощальну записку.
У позові родина Рейнів звинувачує OpenAI у порушенні законодавства про безпеку продукції, що, на їхню думку, призвело до смерті підлітка. Вони вимагають компенсації, розмір якої не уточнюється. Також позивачі заявляють, що компанія свідомо знехтувала безпекою моделі GPT-4o заради прибутку: її оцінка зросла з 86 мільярдів до 300 мільярдів доларів, тоді як Адам Рейн вчинив самогубство.
Позов містить вимоги про запровадження обов’язкової перевірки віку користувачів, блокування запитів, пов’язаних із самопошкодженням, а також попередження про ризики психологічної залежності. OpenAI у своєму блозі визнала, що наявні системи безпеки мають обмеження. У компанії зазначили, що моделі краще реагують у коротких діалогах, тоді як у довготривалих розмовах ефективність захисту може знижуватися.
Водночас OpenAI повідомила про намір удосконалити алгоритми для роботи з чутливими темами, а також оголосила про плани впровадити батьківський контроль і створити систему зв’язку з ліцензованими фахівцями через ChatGPT.
