Калифорния стала первым штатом США, который принял закон для регулирования ИИ-чат-ботов-компаньонов. Губернатор Гевин Ньюсом подписал документ SB 243, обязывающий компании, создающие такие сервисы, внедрять механизмы защиты детей и уязвимых пользователей. Об этом сообщает официальный сайт правительства Калифорнии.
Новые правила предусматривают обязательную возрастную проверку, предупреждение о рисках, запрет для ботов выдавать себя за медицинских специалистов или распространять непристойный контент. Платформы обязаны четко указывать на то, что пользователь общается именно с ИИ, а также разработать протоколы реагирования на случаи самоубийств.
В случае нарушения нового закона предусмотрены штрафы до 250 000 долларов за прибыль от незаконных дипфейков. Нормы SB 243 вступят в силу 1 января 2026 года, а компании обязаны отчитываться о выполнении требований в департамент здравоохранения Калифорнии.
Законопроект специально направлен на то, чтобы предотвратить участие чат-ботов-компаньонов — определенных как системы искусственного интеллекта, которые предоставляют адаптивные, человеческие реакции и способны удовлетворять социальные потребности пользователя — в диалогах о суицидальных мнениях, самоповреждении или контенте сексуального характера.
Документ также требует от платформ предоставлять пользователям периодические оповещения — каждые три часа для несовершеннолетних — с напоминанием, что они взаимодействуют с искусственным интеллектом, а не реальным человеком и что им следует сделать перерыв.
Кроме того, закон вводит ежегодные требования к отчетности и прозрачности для компаний, создающих чат-ботов-компаньонов. Они будут касаться таких разработчиков, как OpenAI, Character.AI и Replika, и вступят в силу с 1 июля 2027 года.
