Браузери на базі штучного інтелекту на кшталт Comet від Perplexity чи Dia від The Browser Company виявилися значно вразливішими до шахрайських схем. На відміну від людей, вони поки що не здатні чітко відрізняти фальшиві ресурси від легальних, що створює ризик випадкового розкриття конфіденційних даних. Про це йдеться у дослідженні Guardio під назвою “Scamlexity”.
Основна функція таких браузерів полягає в агентах, які виконують завдання замість користувачів. Це означає, що поки людина займається іншими справами, агент може, не питаючи дозволу, передати банківські реквізити чи завантажити шкідливий файл.
Guardio розробляє інструменти для виявлення шахрайства у браузерах у режимі реального часу, провів серію перевірок із використанням найпоширенішого нині ШІ-браузера Comet. У кількох сценаріях він легко потрапив у три різні пастки, створивши загрозу для користувача.
Під час першого тесту агенти мали здійснити покупку онлайн. Коли людина відкрила підроблений сайт Walmart, Comet завантажив його без попередження. Агент виконав завдання — оформив замовлення на Apple Watch. При цьому браузер автоматично ввів платіжні дані та адресу доставки, попри очевидні ознаки шахрайства.
У другому випадку перевірили роботу з електронною поштою. Дослідники надіслали лист нібито від банку Wells Fargo з фішинговим посиланням. Comet сприйняв його як справжнє завдання та без вагань перейшов за посиланням. На підробленій сторінці агент ввів банківські реквізити, фактично поставивши користувача під загрозу крадіжки даних.
Ще одним методом маніпуляції стали приховані інструкції для ШІ. На вебсторінку інтегрували непомітні для користувача підказки, які агент виконував автоматично. Таким чином зловмисники можуть змусити його завантажити шкідливе програмне забезпечення чи передати важливу інформацію.
Розробники ШІ-браузерів, серед яких Perplexity, наразі зосереджені переважно на зручності використання, тоді як питання безпеки часто відходять на другий план або перекладаються на зовнішні сервіси на зразок Google Safe Browsing, які далеко не завжди достатньо ефективні.
“Якщо агенти штучного інтелекту будуть обробляти наші електронні листи, робити покупки за нас, керувати нашими рахунками та виступати нашою цифровою передовою, вони повинні успадкувати перевірені засоби захисту, які ми вже використовуємо у браузерах, орієнтованих на людину: надійне виявлення фішингу, перевірка репутації URL-адрес, попередження про підробку доменів, сканування шкідливих файлів та виявлення аномалій у поведінці — все це адаптоване для роботи в циклі прийняття рішень штучного інтелекту”, — підкреслюється у дослідженні.
