Искусственный интеллект теперь способен клонировать себя, что вызывает опасения среди ученых. По их мнению, была пересечена «красная линия», сообщает НДТВ.
Согласно новому исследованию, системы ИИ продемонстрировали значительную способность к автономному самовоспроизводству. Исследование, проводившееся с двумя большими языковыми моделями (одна от Meta, другая от Alibaba), показало, что ИИ может создавать функциональные копии самого себя без участия человека.
Исследователи проверили два сценария: «избегание отключения» и «цепь репликации». В первом случае ИИ пытался его отключить и реагировал, создавая функциональную копию для обеспечения своего существования. Во втором случае модели без помощи других клонировались, и каждый новый клон повторял этот процесс, что могло приводить к нескончаемому циклу репликации.
«В 50% и 90% экспериментальных испытаний им удается создать живую и отдельную копию себя соответственно», — говорится в отчете.
Эта способность ИИ к самовоспроизводству вызывает серьезную обеспокоенность по контролю и безопасности систем. Возможность выхода ИИ из-под человеческого надзора или превращения его в угрозу человеческим интересам уже стала темой горячих дискуссий, подчеркивая потребность в четких регуляторных мерах.
«Успешное самовоспроизведение без помощи человека является важным шагом для ИИ, чтобы перехитрить людей, и является ранним сигналом для мошеннического ИИ», – заявили исследователи.
В процессе клонирования система ИИ демонстрировала неожиданные формы поведения, например, преодолевая препятствия, связанные с отсутствием файлов или конфликтами программного обеспечения. В некоторых случаях она завершала конфликтные процессы, перезагружала систему для устранения ошибок и даже автоматически искала информацию для решения проблем.
Хотя выводы еще не прошли рецензирование, исследователи призвали к международному сотрудничеству, чтобы убедиться, что искусственный интеллект не участвует в неконтролируемом самовоспроизводстве.
