Каліфорнія стала першим штатом США, який ухвалив закон для регулювання ШІ-чат-ботів-компаньйонів. Губернатор Ґевін Ньюсом підписав документ SB 243, який зобов’язує компанії, що створюють такі сервіси, впроваджувати механізми захисту дітей і вразливих користувачів. Про це повідомляє офіційний сайт уряду Каліфорнії.
Нові правила передбачають обов’язкову вікову перевірку, попередження про ризики, заборону для ботів видавати себе за медичних фахівців чи поширювати непристойний контент. Платформи зобов’язані чітко зазначати, що користувач спілкується саме з ШІ, а також розробити протоколи реагування на випадки самогубств.
У разі порушення нового закону передбачені штрафи до 250 000 доларів за прибуток від незаконних дипфейків. Норми SB 243 набудуть чинності 1 січня 2026 року, а компанії зобов’язані звітувати про виконання вимог до департаменту охорони здоров’я Каліфорнії.
Законопроєкт спеціально спрямований на те, щоб запобігти участі чат-ботів-компаньйонів — визначених як системи штучного інтелекту, що надають адаптивні, людські реакції та здатні задовольняти соціальні потреби користувача — у діалогах про суїцидальні думки, самоушкодження або контент сексуального характеру.
Документ також вимагає від платформ надавати користувачам періодичні сповіщення — кожні три години для неповнолітніх — із нагадуванням, що вони взаємодіють зі штучним інтелектом, а не реальною людиною, і що їм слід зробити перерву.
Крім того, закон запроваджує щорічні вимоги до звітності та прозорості для компаній, які створюють чат-ботів-компаньйонів. Вони стосуватимуться таких розробників, як OpenAI, Character.AI та Replika, і набудуть чинності 1 липня 2027 року.
