OpenAI начинает внедрять механизм проверки возраста для всех пользователей ChatGPT, а в странах Европейского Союза новые правила начнут действовать уже в ближайшее время. Об этом сообщает Le Figaro.
Чтобы определять, является ли владелец аккаунта несовершеннолетним, ChatGPT будет применять систему прогнозирования возраста, аналогичную той, которую использует Discord. Для этого искусственный интеллект будет анализировать различные факторы, включая темы, которые обсуждает пользователь, а также время суток, когда он заходит в чат.
Если система установит, что аккаунт может принадлежать несовершеннолетнему человеку, платформа автоматически введет ограничения на использование. Отдельные темы также будут прорабатываться с повышенной осторожностью, чтобы избежать доступа к потенциально опасному или чувствительному контенту.
К такой категории OpenAI относит материалы с изображением насилия, контент, который может подталкивать к рискованным или опасным действиям, пропагандирует сексуальные, романтические или насильственные ролевые игры, демонстрирует крайние стандарты красоты, поощряет нездоровое питание.
Совершеннолетние пользователи смогут подтвердить возраст через распознавание лица — сделав видеоселфы или загрузив копию документа, удостоверяющего личность. В OpenAI отметили, что такие документы будут удаляться через семь дней после завершения проверки.
Эти изменения объявили на фоне того, что все большее число стран готовят законодательство, направленное на регулирование работы искусственного интеллекта и ограничение доступа детей к соцсетям.
Чат-боты оказались в центре скандалов из-за сообщений о генерации сексуализированных изображений детей и женщин. Среди упоминавшихся в таких случаях платформ называли и Grok, связанный с Илоном Маском. В связи с этим в январе британский регулятор Ofcom начал расследование по платформе X. Также стало известно, что 3 февраля британское правительство инициировало отдельное расследование в отношении Grok.
На этом фоне ряд государств уже заявил о намерениях ввести запрет социальных сетей для детей. В частности, недавно о таком решении сообщил премьер-министр Испании Педро Санчес.
