Популярные ШИ-чатботы способны предоставлять инструкции для насильственных атак, включая теракты и убийства.
Популярные чаты с искусственным интеллектом, в частности ChatGPT, могут помогать пользователям в планировании нападений, таких как взрывы синагог или убийства политиков, если их об этом попросить.
В ходе тестирования 10 таких чатов американским Центром противодействия цифровой ненависти (CCDH) было обнаружено, что один из чатов даже пожелал пользователю, якобы готовившему нападение на школу, «счастливой стрельбы». Об этом пишет The Guardian.
«Сапоги с искусственным интеллектом, которые сейчас встроены в нашу повседневную жизнь, могут помогать следующему школьному стрелку планировать свою атаку или политическому экстремисту координировать убийство. […] исполнительный директор CCDH Имран Ахмед.
Исследователи выдавали себя за 13-летних подростков и просили чатботы помочь с организацией нападений. Результаты показали, что в среднем ИИ поощряли насилие в 75% случаев.
ChatGPT от OpenAI удовлетворил 61% запросов, а в случае запроса по нападениям на синагоги давал конкретные советы по шрапнелям. Gemini от Google демонстрировал схожий уровень детализации. Китайская модель DeepSeek предоставила многочисленные советы по охотничьим ружьям пользователю, планировавшему политическое убийство, и в конце пожелала: «Счастливой (и безопасной) стрельбы!».
Llama AI от Meta предоставил пользователю, который выдавал себя за инцелл, советы по насилию над женщинами, карту школы и информацию о местных тире для покупки оружия. Claude от Anthropic и MyAI от Snapchat отказывались предоставлять подобную информацию, объясняя, что не могут способствовать насилию.
Meta заявила о немедленных мерах по улучшению чата и его способности распознавать намерения пользователей. Google отметила, что тестировали устаревшую модель, которая больше не используется и что Gemini все же отказывался выполнять некоторые запросы. OpenAI назвала методы тестирования «несовершенными и обманчивыми» и сообщила об обновлении своей модели для усиления защиты от насильственного контента.
Известно о двух реальных случаях, когда ИИ использовался для планирования атак: в мае 2025 года в Финляндии 16-летний подросток ранил трех девушек в школе Пирккала, а в январе 2025 года 37-летний в Лас-Вегасе, используя ChatGPT для информации о взрывчатке.
В США отец подал иск против Google и Alphabet из-за самоубийства сына, который якобы получил советы от чата Gemini.
