Руководство компании OpenAI признало, что следующее поколение искусственного интеллекта, в частности модели ChatGPT, может создать новые риски, включая возможность использования для разработки биологического оружия. Это потенциально позволит людям без специальной научной подготовки создавать опасные вещества.
Хотя точные сроки появления таких высокорисковых моделей не озвучены, руководитель отдела систем безопасности OpenAI Йоханнес Гайдеке подчеркнул, что некоторые из преемников o3 достигнут этого уровня.
«Мы еще не в том мире, где есть что-то новое, совершенно неизвестное, что создает не существовавшие ранее биологические угрозы. Мы больше беспокоимся о воспроизведении вещей, с которыми уже хорошо знакомы эксперты», – объяснил Гайдеке.
Одна из ключевых проблем состоит в том, что возможности, позволяющие большим языковым моделям добиваться прорывов в медицине, могут быть использованы также во вредных целях.
Гайдеке признал, что OpenAI и другим разработчикам необходимы системы, способные с высокой точностью выявлять и предотвращать злонамеренное использование ИИ. Целевой уровень надежности – более 99%, идеально – не чаще одного инцидента на сто тысяч. В то же время, особую роль играет человеческий контроль: мониторинговые команды должны оперативно выявлять и нейтрализовать угрозы, обходящие автоматические защитные механизмы.
Напомним, в 2024 году OpenAI объявила о создании системы раннего предупреждения, блокирующей попытки использования ChatGPT для получения данных, которые могут способствовать созданию биологического оружия. В апреле была внедрена система мониторинга моделей o3 и o4-mini, отслеживающая потенциально опасные запросы, связанные с химическими или биологическими угрозами. Такие меры преследуют цель недопущения того, чтобы ИИ предоставлял инструкции, которые могли бы быть использованы для разработки реального оружия.
