Компанія Google оголосила про запуск нової програми з пошуку вразливостей і багів у системах штучного інтелекту — AI Vulnerability Reward Program (VRP). Учасники цієї програми можуть отримати базову винагороду до 20 тисяч доларів, а з урахуванням бонусів за новизну і якість звіту сума може зрости до 30 тисяч доларів.
Програма VRP поширюється на вразливості та можливі зловживання, пов’язані зі штучним інтелектом у продуктах Google та Alphabet. Йдеться про ті випадки, коли взаємодія з великою мовною моделлю чи іншими генеративними системами через природну мову є ключовою частиною самої вразливості або способу зловживання.
Найвищий пріоритет у програмі мають несанкціоновані дії. У Google навели приклад непрямої ін’єкції запиту, коли зловмисник може змусити Google Home виконати певну дію без відома користувача, наприклад відкрити двері. За виявлення подібних загроз у ключових продуктах компанії, зокрема в Пошуку, передбачена винагорода у розмірі 20 тисяч доларів.
Раніше виявлені проблеми, пов’язані зі штучним інтелектом, заохочувалися в межах Abuse Vulnerability Reward Program, яку Google започаткувала для співпраці з дослідниками. Відтоді компанія виплатила понад 430 тисяч доларів за знайдені вразливості, що стосувалися ШІ. Окрім цього, компанія Google представила CodeMender — експериментальний агент штучного інтелекту, здатний автономно виявляти та усувати вразливості у програмному коді.
