Штучний інтелект тепер здатний клонувати себе, що викликає побоювання серед науковців. На їхню думку, була перетнута “червона лінія”, повідомляє NDTV.
Згідно з новим дослідженням, системи ШІ продемонстрували значну здатність до автономного самовідтворення. Дослідження, яке проводилося із двома великими мовними моделями (одна від Meta, інша від Alibaba), показало, що ШІ може створювати функціональні копії самого себе без участі людини.
Дослідники перевірили два сценарії: “уникнення відключення” і “ланцюг реплікації”. У першому випадку ШІ виявляв спроби його вимкнути та реагував, створюючи функціональну копію для забезпечення свого існування. У другому випадку моделі самостійно клонувалися, і кожен новий клон повторював цей процес, що могло призводити до нескінченного циклу реплікації.
“У 50% і 90% експериментальних випробувань їм вдається створити живу та окрему копію себе відповідно”, — йдеться у звіті.
Ця здатність ШІ до самовідтворення викликає серйозні занепокоєння щодо контролю та безпеки систем. Можливість виходу ШІ з-під людського нагляду або перетворення його на загрозу людським інтересам вже стала темою гарячих дискусій, підкреслюючи потребу в чітких регуляторних заходах.
“Успішне самовідтворення без допомоги людини є важливим кроком для ШІ, щоб перехитрити людей, і є раннім сигналом для шахрайського ШІ”, — заявили дослідники.
У процесі клонування система ШІ демонструвала неочікувані форми поведінки, наприклад, долаючи перешкоди, пов’язані з відсутністю файлів чи конфліктами програмного забезпечення. У деяких випадках вона завершувала конфліктні процеси, перезавантажувала систему для виправлення помилок і навіть автоматично шукала інформацію для розв’язання проблем.
Хоча висновки ще не пройшли рецензування, дослідники закликали до міжнародної співпраці, щоб переконатися, що штучний інтелект не бере участь у неконтрольованому самовідтворенні.
