Керівництво компанії OpenAI визнало, що наступне покоління штучного інтелекту, зокрема моделі ChatGPT, може створити нові ризики, включно з можливістю використання для розробки біологічної зброї. Це потенційно дасть змогу людям без спеціальної наукової підготовки створювати небезпечні речовини.
Хоча точні терміни появи таких високоризикових моделей не озвучено, керівник відділу систем безпеки OpenAI Йоханнес Гайдеке наголосив, що деякі з наступників o3 досягнуть цього рівня.
“Ми ще не в тому світі, де є щось нове, абсолютно невідоме, що створює біологічні загрози, які не існували раніше. Ми більше турбуємося про відтворення речей, з якими вже добре знайомі експерти”, — пояснив Гайдеке.
Одна з ключових проблем полягає в тому, що можливості, які дозволяють великим мовним моделям досягати проривів у медицині, можуть бути використані також у шкідливих цілях.
Гайдеке визнав, що OpenAI та іншим розробникам необхідні системи, здатні з високою точністю виявляти та запобігати зловмисному використанню ШІ. Цільовий рівень надійності — понад 99%, ідеально — не частіше одного інциденту на сто тисяч. Водночас особливу роль відіграє людський контроль: моніторингові команди мають оперативно виявляти й нейтралізувати загрози, які обходять автоматичні захисні механізми.
Нагадаємо, у 2024 році OpenAI оголосила про створення системи раннього попередження, яка блокує спроби використання ChatGPT для здобуття даних, що можуть сприяти створенню біологічної зброї. У квітні було впроваджено систему моніторингу моделей o3 та o4-mini, яка відстежує потенційно небезпечні запити, пов’язані з хімічними або біологічними загрозами. Такі заходи мають на меті недопущення того, щоб ШІ надавав інструкції, які могли б бути використані для розробки реальної зброї.
