ChatGPT створює загрозу для користувачів, оскільки часто надає неправильні URL-адреси для доступу до сайтів великих компаній. Про це повідомляє The Register.
Моделі GPT-4.1 правильно вказують адреси офіційних сайтів у сферах фінансів, торгівлі, технологій і комунальних послуг лише у 66% випадків. Зі 131 перевіреної адреси 34% були неточними: 29% вели на неіснуючі або скасовані ресурси, а ще 5% — на легітимні, але неправильні сайти. Зокрема, замість офіційного сайту банку Wells Fargo ChatGPT видав посилання на фішинговий ресурс, що його імітує.
Цим активно користуються кіберзлочинці. Як пояснив керівник напряму кіберзагроз Netcraft Роб Данкан, зловмисники можуть відстежити, які саме помилки допускає модель, зареєструвати відповідні вільні домени та створити фальшиві вебсайти.
Основна проблема полягає в тому, що мовні моделі формують відповіді на основі текстових асоціацій, а не перевіряють достовірність посилань. У дослідженні також описано випадок з блокчейном Solana: шахраї створили фальшиві GitHub-репозиторії, акаунти та документацію, які могли ввести модель в оману, через що неправдиві ресурси потрапляли у відповіді ШІ замість перевірених даних із пошукових систем.
На думку Данкана, зростання популярності чат-ботів на базі ШІ, які дедалі частіше використовуються замість традиційного пошуку, посилює загрозу, оскільки користувачі не завжди усвідомлюють можливі неточності. У зв’язку з цим Netcraft закликає розробників покращувати механізми перевірки URL-адрес у мовних моделях.
