Компания Google объявила о запуске новой программы AI Vulnerability Reward Program (VRP). Участники этой программы могут получить базовое вознаграждение до 20 тысяч долларов, а с учетом бонусов за новизну и качество отчета сумма может возрасти до 30 тысяч долларов.
Программа VRP распространяется на уязвимости и возможные злоупотребления, связанные с искусственным интеллектом в продуктах Google и Alphabet. Речь идет о тех случаях, когда взаимодействие с большой языковой моделью или другими генеративными системами через естественный язык является ключевой частью самой уязвимости или способа злоупотребления.
Наивысший приоритет в программе имеют несанкционированные действия. В Google привели пример косвенной инъекции запроса, когда злоумышленник может заставить Google Home выполнить определенное действие без ведома пользователя, например, открыть дверь. За выявление подобных угроз в ключевых продуктах компании, в частности в Поиске, предусмотрено вознаграждение в размере 20 тысяч долларов.
Ранее обнаруженные проблемы, связанные с искусственным интеллектом, поощрялись в рамках Abuse Vulnerability Reward Program, которую Google положила начало сотрудничеству с исследователями. С тех пор компания выплатила более 430 тысяч долларов за найденные уязвимости, касающиеся ИИ. Кроме этого, компания Google представила CodeMender — экспериментальный агент искусственного интеллекта, способный самостоятельно выявлять и устранять уязвимости в программном коде.
