ШІ як реальна загроза людству: попередження вчених і причини втрати контролю над технологією

Ще зовсім недавно штучний інтелект здавався фантазією з майбутнього, такою собі розумною помічною системою, яка бездоганно керує будильником, добирає музику в навушниках і підказує, де смачніше поїсти. Однак за блиском технологічного прогресу вже починають проявлятися тріщини. Сигнали тривоги лунають не з фантастичних фільмів, а від інженерів, науковців та керівників найбільших ІТ-компаній світу, тобто людей, які самі створили ці системи. Їхні слова більше не звучать як обережні припущення, а попереджають про реальну й наближену загрозу людству.

Штучний інтелект поруч: коли помічник стає архітектором нашого світу

Штучний інтелект стрімко змінює всі сфери людської діяльності, і якщо ви досі думаєте, що це лише штука, яка видає необхідну інформацію за допомогою швидкого та “розумного” пошуку в Google, то ви явно недооцінюєте ситуацію. Сьогодні ШІ наш помічник, який встигає все: написати звіт, знайти найкоротший шлях через пробки, вчасно нагадати про день народження колеги і навіть знайти відповідь на запитання, чи одні ми такі у всесвіті.

Вже сьогодні ми спостерігаємо, як ШІ інтелект інтегрується у роботу різноманітних галузей, роблячи її швидкою та зручною для користувачів:чат-боти, інтерактивні сервіси та додатки для пошуку та отримання інформації або контенту використовуються щохвилини. Широко використовується ШІ в бізнесі: для здійснення процесу автоматизації виробництва та контролю якості, для проведення фінансової аналітики, для прогнозування трендів та боротьби з шахраями. На це вказують дані опитування  освітньої лабораторії Projector Al Lab, проведеного серед працівників 150 українських компаній:

• 51% респондентів зазначили, що використовують у своїй роботі ШІ “час від часу”:
• 22% опитуваних користуються технологією “часто”;
• 20 % респондентів вказали, що користуються “рідко” або взагалі не користуються.

Найактивнішими користувачами штучного інтелекту серед опитаних компаній стали дизайнери (65%). Після них ідуть копірайтери (52%), представники маркетингу та PR (49%), керівники команд (39%) й інженери-розробники (21%). За допомогою ШІ вони вирішують такі задачі як:

• генерування ідей -66%;
• створення зображень – 58%;
• створення та обробка відео/аудіо – 8%;
• написання чи редагування текстів – 81%;
• переклад на іншу мову – 41%;
• автоматизація бізнес-процесів -13.

Чудовим та популярним застосунком  стала онлайн-платформа електронного продажу SmartTender, за допомогою якої електронний помічник юриста швидко обробляє тисячі відкритих тендерів, виділяючи основні вимоги в тендері та параметри, а також повідомляючи компанію – виробника про відповідність вимог тендера. ШІ виділяє найбільш перспективні тендери, враховуючи ринкову ситуацію, аналізуючи ціни конкурентів за лічені хвилини.

Технологію ШІ активно використовують освітяни, підбираючи матеріали для навчання  та здійснюючи автоматичне оцінювання. Топ користування учнями та їх вчителями цифровими технологіями має наступний вигляд:

• ChatGPT – 68% користувачів;
• проєкт від “На урок” – 49% користувачів;
• Bard Google – 16% користувачів;
• Midjourney – 15% користувачів;
• Grammarly – 14% користувачів;
• Notion AI – 7 % користувачів;
• Stable Diffusion – 4% користувачів.

Міністерство цифрової трансформації має намір впроваджувати і надалі штучний інтелект у діяльність державних сервісів, щоб автоматизувати та прискорити надання послуг. “Укрзалізниця” використовує GPT-чат для структурування та аналізу відгуків пасажирів, швидкого вирішення проблем, що значно покращило роботу компанії.  Команда Forbes Ukraine активно застосовує ШІ у своїх проєктах для створення ілюстрацій та покращення якості зображень.

Спостерігається запит і з боку транспортних компаній. Системи розпізнання тексту (OCR)  дозволяють автоматично зчитувати інформацію з накладних, рахунків, митних декларацій та інших документів. ШІ допомагає генерувати стандартні документи, аналізувати відповідні дані та інтегрувати їх у внутрішні системи компаній для подальшої обробки.

Замість того, щоб тижнями чекати на результати аналізів чи ворожити, що означає ваш дивний кашель, ШІ бере це під контроль. Сьогодні спеціально розроблені алгоритми за кілька секунд аналізують дані вашого здоров’я, історії хвороб і навіть генетичну інформацію, щоб дати точний діагноз і план лікування. Така собі “швидка допомога” на стероїдах. Хтось навіть жартує, що ШІ вже кращий терапевт, ніж Google.

Проте справжнім проривом у домашній медицині стало створення компактного мультифункціонального пристрою BeamO від французької компанії Withings. Це така собі чарівна паличка, яка здатна здійснювати всі необхідні виміри організму за 1-2 хв. Отримані результати автоматично надходять у Withings Health Mate на смартфон через Wi-Fi або Bluetooth. А вже далі їх швидко можна відправити своєму лікарю. І ніяких тобі черг, аби просто поміряти тиск.

Водночас екзоскелет від WIRobotics  створений для молодого покоління, здатний допомогти покращити фізичну форму та зміцнити м’язи, не відволікаючись від повсякденних справ. За допомогою спеціальної програми WIM користувачі можуть створювати індивідуальні програми для ходьби, аналізуючи дані про силу, баланс тіла та власну поставу, спираючись на обробку ШІ.

Як бачимо, штучний інтелект стрімко проникає у всі сфери людського життя, змінюючи підходи до праці, навчання, медицини, бізнесу та побуту. Він допомагає економити час, приймати обґрунтовані рішення, підвищує зручність і швидкість отримання послуг. Та попри всі переваги, варто замислитися, чи не ризикуємо ми віддати занадто багато контролю технологіям, механічно довіряючи їм усе більше функцій, які раніше вимагали людського мислення, етики та відповідальності. Недаремно наукова фантастика неодноразово моделювала сценарії, у яких ШІ виходить з-під контролю. І хоча це поки лише уява, сьогоднішні темпи розвитку змушують серйозно поставитися до питання: що буде, коли людство втратить здатність впливати на систему, яка керує ним?

Чим загрожує ШІ

Колишній інженер Google, а нині один з найгостріших критиків штучного інтелекту Нейт Соарес попереджає про те, що ризик загибелі людства через безконтрольний розвиток ШІ становить 95%. Він порівнює нинішню ситуацію з автомобілем, який мчить до обриву на шаленій швидкості, в той час, як водій навіть не намагається натиснути на гальма. Штучний інтелект, який ще вчора створював картинки для презентацій, сьогодні ухвалює рішення в сфері медицини, безпеки та економіки. Його вплив уже відчутний у кожному клацанні мишки, у кожному автоматичному повідомленні чи фінансовому прогнозі. Однак разом з цим приходить і нова залежність від систем, які ми не повністю розуміємо і не вміємо контролювати. І якщо зараз ми ще можемо натискати кнопку “вимкнути”, то ніхто не може гарантувати, що одного разу вона не спрацює.

Вже сьогодні штучний інтелект стає всеохоплюючим інструментом, здатним трансформувати не лише медицину, а й саму логіку взаємодії людини з державою, суспільством, економікою. Однак цей потужний ресурс, на жаль, несе не тільки користь. Стає все очевидніше: чим ширше ми відкриваємо двері для технологій, тим більша ймовірність того, що за ними можуть ховатися серйозні загрози.

У сфері охорони здоров’я вже фіксують випадки, коли алгоритми приймають рішення, що не лише неточні, а й відверто дискримінаційні. Одним з найяскравіших прикладів став пульсоксиметр, навчений на обмежених даних, який завищував рівень кисню у пацієнтів з темнішою шкірою, що призводило до недооцінки тяжкості їх стану. Схожі проблеми виявлено у системах розпізнавання облич: вони значно частіше помиляються у визначенні статі темношкірих людей. Небезпека тут не в помилках як таких, а в тому, що вони масштабуються й автоматизуються, закріплюючи нерівність у доступі до послуг, які повинні бути об’єктивними та безпечними для всіх.

Технологічний прогрес також виводить на новий рівень контроль над людьми. Здатність ШІ обробляти великі масиви персональних даних, зібраних з камер спостереження, соцмереж чи медичних платформ, відкриває шлях до безпрецедентного нагляду. Мова ведеться не лише про зручну рекламу чи автоматизовані сервіси. Це справжні ризики маніпуляцій громадською думкою, цензури, політичного тиску. Китайська система соціального рейтингу стала яскравим прикладом того, як технології можуть перетворитися на інструменти покарання: від обмеження банківських послуг до заборони на подорожі. Подібні системи сьогодні тестуються або впроваджуються у десятках країн.

Інструменти контролю над людьми стають все тоншими, витонченішими, але водночас жорсткішими. Алгоритми аналізу поведінки у поєднанні з персональними даними перетворюють кожного з нас на передбачувану мішень. ШІ не просто вивчає, а нав’язує. Він формує стрічку новин, добирає тон звернення голосового помічника, модулює рекламу так, щоб не залишити вибору. Його завданням є не просто зрозуміти людину, а зламати її волю до вибору. І він блискуче з цим справляється, бо працює на основі моделей впливу, зібраних з мільйонів спостережень.

Не менш тривожною є гонка озброєнь у сфері автономних систем. Розробка дронів і роботизованих систем, які можуть самостійно виявляти, ідентифікувати та вражати цілі без участі людини, робить війну ще менш передбачуваною. Масове виробництво подібної зброї, здатної діяти автономно, може означати нову епоху конфліктів , яка буде повністю деструктивною і позбавленою морального фільтра.

У військовому застосуванні ШІ змінює саму природу насильства. Безпілотні апарати, автономні системи наведення, алгоритмічні моделі розпізнавання зменшують участь людини, але не зменшує відповідальність. Навпаки, вона розмивається до стану невизначеності. Хто винен у помилковому ударі? Алгоритм? Розробник? Оператор? У цій сірій зоні зростає ризик цілеспрямованого використання ШІ для створення знеособленого, позаправового насильства.

У трудовій сфері ШІ поступово витісняє людину з ключових процесів як фізичних, так і когнітивних. Перекладачі, юристи, викладачі, водії, медичні адміністратори — всі ці ролі втрачають стабільність, не отримуючи натомість жодних компенсаторних механізмів. Тобто, відбувається інструментальна заміна, при якій продуктивність визнається важливішою за соціальний сенс праці.

Отже, із зростанням впливу ШІ зникають робочі місця. Автоматизація найбільше вдарить по країнах з середнім і низьким рівнем доходу, витісняючи людей з низько- й середньокваліфікованих професій. Але згодом ШІ дістанеться і до висококваліфікованих сфер. Втрата праці стрімко позначиться на соціальній стабільності, психологічному здоров’ї та відчутті власної цінності. Вже зараз безробіття тісно пов’язане з депресією, залежностями й соціальною ізоляцією, і ми поки не маємо готових моделей, як з цим справлятись у майбутньому.

Особливу увагу фахівці звертають на потенціал розвитку штучного загального інтелекту (AGI) — системи, що зможе вчитись, самовдосконалюватись і виконувати будь-які завдання на рівні або краще за людину. Якщо такий інтелект отримає доступ до інтернету, транспортної інфраструктури, зброї, баз даних, то його дії можуть бути непередбачуваними. Навіть без злого наміру він може спричинити катастрофу, просто не враховуючи людських потреб у власних рішеннях.

Ці три напрямки — маніпуляція, дегуманізоване насильство та витіснення з економіки — поєднує одна риса: людина втрачає роль суб’єкта. ШІ виконує завдання, які раніше вимагали морального рішення, емоційної присутності або соціального балансу. Він цього не знає й не може знати, але саме тому його використання повинне супроводжуватись суворими обмеженнями, прозорістю рішень, відповідальністю розробників і політиків.

Спираючись на ці причини, експерти наголошують на тому, що розвиток ШІ має бути зупинено.

Як втримати штучний інтелект у межах відповідальності

Варто зрозуміти, що багато з ризиків, про які сьогодні говорять у контексті штучного інтелекту, виникають не через саме існування технології, а через те, як з нею поводяться люди. Навіть загроза від штучного загального інтелекту (AGI), який потенційно може діяти автономно, поки що залишається під людським контролем. Саме тому проблема криється в тому, в яких саме людських руках зосереджений контроль над машинами.

Звісно ставлення до такої стрімкої інтеграції ШІ у всі сфери життя різняться. Хтось бачить у ньому загрозу, а хтось цінує такий прорив. Але одне зрозуміло точно: час на роздуми не нескінченний. Дослідження в галузі штучного інтелекту розвиваються шаленими темпами, і вікно можливостей для того, щоб запровадити ефективні запобіжники, поступово зачиняється. Майбутнє залежить від рішень, які ми ухвалимо вже зараз, і від того, наскільки сильними та дієвими будуть регулятори, які ми створимо.

Щоб уникнути найгірших сценаріїв, потрібна не тільки технічна обережність, а й політична воля. Міжнародне співробітництво та відмова від гонки озброєнь у сфері ШІ є критично важливими. Так само важливо, аби рішення ухвалювалися незалежно, без тиску з боку корпорацій, для яких ШІ вже давно став бізнесом. Наразі ж саме великі приватні компанії, з мінімальним демократичним контролем, ведуть у дослідженнях AGI. Це викликає занепокоєння.

Органи ООН намагаються наздогнати стрімкий розвиток технологій. У 2020 році було створено Панель високого рівня з цифрової співпраці, яка має сприяти глобальному діалогу. У 2021 році Управління Верховного комісара ООН з прав людини закликало країни тимчасово зупинити продаж і використання систем ШІ, поки не буде створено належних гарантій. У тому ж році всі 193 держави-члени ЮНЕСКО підписали декларацію про етичний розвиток ШІ. Проте жодного обов’язкового міжнародного механізму, який регулював би використання ШІ, досі немає.

Слід зазначити, що Європейський Союз зробив крок вперед, ухваливши Закон про штучний інтелект, що класифікує системи ШІ за рівнем ризику. Це важлива ініціатива, яка може лягти в основу майбутньої глобальної угоди. Але й вона має свої прогалини, зокрема щодо захисту прав людини та попередження дискримінації.

Ще один напрям стосується автономної зброї. З 2014 року країни, що підписали Конвенцію ООН про заборону певних видів звичайної зброї, обговорюють регулювання автономних систем, здатних вбивати без участі людини. Але конкретного прогресу майже немає.

Медична та громадсько-оздоровча спільнота теж не повинні залишатися осторонь, адже важливо відкрито говорити про ризики, пояснювати, чому не можна зволікати. Лікарі добре знають, що таке запобіжний підхід, і мають досвід впливу на суспільну думку, зокрема у боротьбі з ядерною загрозою, як це зробила організація “Лікарі світу за запобігання ядерній війні”, яка отримала Нобелівську премію миру у 1985 році. З ШІ потрібно діяти так само принципово.

Однак загрозу несуть не лише самі технології, а й ті, хто її розробляє чи застосовує безвідповідально. Якщо хочемо, щоб ШІ працював на користь людям, слід укріплювати демократію, прозорість і контроль. Потрібно ставити під пильне око не лише самі технології, а й бізнеси, військові структури, соціальні мережі, які використовують ШІ для впливу на вибори, дезінформацію чи порушення прав на приватність.

І нарешті, не варто забувати, що світ праці вже не буде таким, як раніше. ШІ змінює саму суть економіки. Потрібно створити нові моделі, які дозволять людям залишатися гідними та захищеними, навіть коли їхня праця вже не є основою економічного добробуту.

Як бачимо, штучний інтелект вже давно перетворився з інструменту в руках людини на середовище, у якому ми живемо, працюємо, приймаємо рішення і навіть формуємо уявлення про себе. Однак, ця трансформація відбувається настільки швидко, що суспільство, правові механізми й навіть базові етичні уявлення не встигають за технологіями. Тож справжній виклик полягає не в тому, щоб сповільнити розвиток штучного інтелекту, а в тому, щоб навчитися жити поруч з ним свідомо, обережно і гідно. Його використання повинне супроводжуватись суворими обмеженнями, прозорістю рішень, а також відповідальністю розробників і політиків.

Без таких механізмів ШІ перестає бути лише інструментом, а перетвориться на посередником між владою й наслідками, які шкодять не тому, що алгоритм має злий намір, а тому, що він його не має взагалі. Це й робить його використання системною загрозою, яку неможливо зупинити, якщо вона вже вписана в процеси ухвалення рішень. І чим далі суспільство дозволяє делегувати людські функції автоматизованим системам, тим слабшим стає захист людини в її найуразливіших вимірах — свободі, безпеці та праці.