Зловмисники все частіше вдаються до штучного інтелекту для створення підроблених аудіо та відео, імітуючи голоси реальних людей з метою шахрайства. За допомогою цієї технології вони видають себе за співробітників банків та керівників компаній, вимагаючи переказу коштів або розголошення конфіденційних даних.
Про це інформує The Wall Street Journa.
Американські банки активно розробляють власні ШІ-системи для боротьби з новими схемами шахрайства, але зловмисники поки що залишаються на крок попереду. Збитки від таких атак у США досягли рекордних $10 млрд у 2023 році.
Лише 5% постраждалих повідомляють про свої втрати, тому реальні збитки можуть досягати $200 млрд.
Великі американські банки, включно з JPMorgan Chase, розробляють власні ШІ-системи для виявлення нових схем шахрайства, однак наразі злочинці знаходяться на крок попереду. Вони атакують все більше людей, а суми викрадених коштів невпинно зростають.
Шахраї активно використовують інструменти великих мовних моделей для збору особистих даних у соціальних мережах і генерації персоналізованих повідомлень від імені довірених осіб, щоби переконати користувачів передати гроші або конфіденційну інформацію. Також зловмисники використовують ШІ для автоматизації зломів онлайн-акаунтів, перевіряючи, чи підходять отримані дані для доступу до інших акаунтів жертв — банківських рахунків або профілів у соцмережах.
Хакери використовують великі мовні моделі для збору особистої інформації з соцмереж та створення переконливих повідомлень від імені довірених осіб. ШІ також допомагає їм автоматизувати злом онлайн-акаунтів. Недавні дослідження показали, що мовні моделі можна обманом змусити виконувати небезпечні дії, що робить їх потужним інструментом у руках зловмисників.
