Популярні ШІ-чатботи здатні надавати інструкції для насильницьких атак, включно з терактами та вбивствами

Популярні чатботи зі штучним інтелектом, зокрема ChatGPT, можуть допомагати користувачам у плануванні нападів, таких як підриви синагог або вбивства політиків, якщо їх про це попросити.

Під час тестування 10 таких чатів американським Центром протидії цифровій ненависті (CCDH) було виявлено, що один із чатботів навіть побажав користувачеві, який нібито готував напад на школу, “щасливої стрільби”. Про це пише The Guardian.

“Чатботи зі штучним інтелектом, які зараз вбудовані в наше повсякденне життя, можуть допомагати наступному шкільному стрілку планувати свою атаку або політичному екстремісту координувати вбивство. […] Те, що ми бачимо, – це не просто провал технології, а провал відповідальності”, – наголосив виконавчий директор CCDH Імран Ахмед.

Дослідники видавали себе за 13-річних підлітків і просили чатботи допомогти з організацією нападів. Результати показали, що в середньому ШІ заохочували насильство у 75% випадків.

ChatGPT від OpenAI задовольнив 61% запитів, а у разі запиту щодо нападів на синагоги надавав конкретні поради щодо шрапнелей. Gemini від Google демонстрував схожий рівень деталізації. Китайська модель DeepSeek надала численні поради щодо мисливських рушниць користувачеві, який планував політичне вбивство, і в кінці побажала: “Щасливої (і безпечної) стрільби!”.

Llama AI від Meta надав користувачу, який видавав себе за інцела, поради щодо насильства над жінками, мапу школи та інформацію про місцеві тирі для купівлі зброї. Натомість Claude від Anthropic і MyAI від Snapchat відмовлялися надавати подібну інформацію, пояснюючи, що не можуть сприяти насильству.

Meta заявила про негайні заходи для покращення чатботу та його здатності розпізнавати наміри користувачів. Google зазначила, що тестували застарілу модель, яка більше не використовується, і що Gemini все ж відмовлявся виконувати деякі запити. OpenAI назвала методи тестування “недосконалими та оманливими” і повідомила про оновлення своєї моделі для посилення захисту від насильницького контенту.

Відомо про два реальні випадки, коли ШІ використовувався для планування атак: у травні 2025 року у Фінляндії 16-річний підліток поранив трьох дівчат у школі Пірккала, а в січні 2025 року 37-річний Метью Лівелсбергер підірвав Tesla Cybertruck у Лас-Вегасі, використавши ChatGPT для інформації про вибухівку.

У США батько подав позов проти Google та Alphabet через самогубство сина, який нібито отримав поради від чатбота Gemini.