Компания OpenAI объявила о запуске специальной версии ChatGPT для пользователей моложе 18 лет со встроенным родительским контролем. В блоге компании CEO Сэм Альтман объяснил, что это нововведение должно усилить защиту подростков при взаимодействии с чат-ботом.
Если OpenAI определит, что пользователь несовершеннолетний, он автоматически будет переведен в версию ChatGPT, адаптированную по возрасту. В этом режиме блокируется откровенный и сексуальный контент, а в исключительных случаях компания может обращаться к родителям или даже привлекать правоохранительные органы, если существует риск, что подросток может причинить себе вред.
OpenAI также работает над усовершенствованием технологии определения возраста пользователей. Если данные будут неполными или сомнительными, по умолчанию ChatGPT будет работать в подростковой версии. В некоторых странах система может попросить предоставить паспорт или ID-карту.
Решение о запуске новых инструментов безопасности не было случайным. В прошлом месяце компания анонсировала планы по внедрению родительского контроля после того, как семья подростка подала иск, обвинив чат-бот в причастности к его самоубийству. Подробности об этих инструментах OpenAI обнародовала только сейчас.
Родительский контроль позволяет связать подростковую учетную запись с родительской по электронной почте, устанавливать часы, когда ребенок не может пользоваться чат-ботом, выключать отдельные функции, получать сообщения в случае острого дистресса подростка и задавать параметры, как ChatGPT должен отвечать на запросы. ChatGPT ориентирован на пользователей от 13 лет. Альтман подчеркнул, что нововведения являются «сложными решениями».
“Посоветовавшись с экспертами, мы считаем их лучшими и хотим быть прозрачными в своих намерениях”, – добавил он.
