ИИ как реальная угроза человечеству: предупреждение ученых и причины потери контроля над технологией

Еще совсем недавно искусственный интеллект казался фантазией из будущего, этакой умной помощной системой, безупречно управляющей будильником, подбирающей музыку в наушниках и подсказывающей, где вкуснее поесть. Однако по блеску технологического прогресса уже начинают проявляться трещины. Сигналы тревоги раздаются не из фантастических фильмов, а от инженеров, ученых и руководителей крупнейших ИТ-компаний мира, то есть людей, создавших эти системы. Их слова больше не звучат как осторожные предположения, а предупреждают о реальной и близкой угрозе человечеству.

Искусственный интеллект рядом: когда помощник становится архитектором нашего мира

Искусственный интеллект стремительно меняет все сферы человеческой деятельности, и если вы по-прежнему думаете, что это лишь штука, которая выдает необходимую информацию с помощью быстрого и «умного» поиска в Google, то вы явно недооцениваете ситуацию. Сегодня ИИ наш помощник, успевающий все: написать отчет, найти кратчайший путь через пробки, вовремя напомнить о дне рождения коллеги и даже найти ответ на вопрос, одни ли мы такие во вселенной.

Уже сегодня мы наблюдаем, как ИИ интеллект интегрируется в работу различных отраслей, делая ее быстрой и удобной для пользователей: чат-боты, интерактивные сервисы и приложения для поиска и получения информации или контента используются ежеминутно. Широко используется ИИ в бизнесе: для осуществления процесса автоматизации производства и контроля качества, для проведения финансовой аналитики, для прогнозирования трендов и борьбы с мошенниками. На это указывают данные опрос образовательной лаборатории Projector Al Lab, проведенного среди работников 150 украинских компаний:

• 51% респондентов отметили, что используют в своей работе ИИ «иногда»:
• 22% опрашиваемых пользуются технологией «часто»;
• 20% респондентов указали, что пользуются «редко» или вообще не пользуются.

Активными пользователями искусственного интеллекта среди опрошенных компаний стали дизайнеры (65%). После них идут копирайтеры (52%), представители маркетинга и PR (49%), руководители команд (39%) и инженеры-разработчики (21%). С помощью ИИ они решают такие задачи как:

• генерирование идей –66%;
• создание изображений – 58%;
• создание и обработка видео/аудио – 8%;
• написание или редактирование текстов – 81%;
• перевод на другой язык – 41%;
• автоматизация бизнес-процессов –13.

Замечательным и популярным приложением стала онлайн-платформа электронных продаж SmartTender, с помощью которой электронный помощник юриста быстро обрабатывает тысячи открытых тендеров, выделяя основные требования в тендере и параметры, а также сообщая компанию – производителя о соответствии требований тендера. ИИ выделяет наиболее перспективные тендеры, учитывая рыночную ситуацию, анализируя цены конкурентов в считанные минуты.

Технологию ИИ активно используют педагоги, подбирая материалы для обучения и осуществляя автоматическую оценку. Топ пользования учащимися и их учителями цифровыми технологиями выглядит следующим образом:

• ChatGPT – 68% пользователей;
• проект от «На урок» — 49% пользователей;
• Bard Google – 16% пользователей;
• Midjourney – 15% пользователей;
• Grammarly – 14% пользователей;
• Notion AI – 7 % пользователей;
• Stable Diffusion – 4% пользователей.

Министерство цифровой трансформации намерено внедрять и дальше искусственный интеллект в деятельность государственных сервисов, чтобы автоматизировать и ускорить предоставление услуг. «Укрзализныця» использует GPT-чат для структурирования и анализа отзывов пассажиров, быстрого решения проблем, что значительно улучшило работу компании.  Команда Forbes Ukraine активно применяет ИИ в своих проектах для создания иллюстраций и улучшения качества изображений.

Наблюдается запрос и со стороны транспортных компаний. Системы распознавания текста (OCR) позволяют автоматически считывать информацию по накладным, счетам, таможенным декларациям и другим документам. ИИ помогает генерировать стандартные документы, анализировать соответствующие данные и интегрировать их во внутренние системы компаний для дальнейшей обработки.

Вместо того, чтобы неделями ждать результатов анализов или гадать, что означает ваш странный кашель, ИИ берет это под контроль. Сегодня специально разработанные алгоритмы через несколько секунд анализируют данные вашего здоровья, истории болезней и даже генетическую информацию, чтобы дать точный диагноз и план лечения. Этакая «скорая помощь» на стероидах. Кто-то даже шутит, что ИИ уже лучше терапевт, чем Google.

Однако настоящим прорывом в домашней медицине явилось создание компактного мультифункционального устройства BeamO от французской компании Withings. Это волшебная палочка, которая способна осуществлять все необходимые измерения организма за 1-2 мин. Полученные результаты автоматически поступают в Withings Health Mate на смартфон через Wi-Fi или Bluetooth. А дальше их быстро можно отправить своему врачу. И никаких тебе очередей, чтобы просто измерить давление.

В то же время, экзоскелет от WIRobotics создан для молодого поколения, способен помочь улучшить физическую форму и укрепить мышцы, не отвлекаясь от повседневных дел. С помощью специальной программы WIM пользователи могут создавать индивидуальные программы для ходьбы, анализируя данные о силе, балансе тела и собственной осанке, опираясь на обработку ИИ.

Как видим, искусственный интеллект стремительно проникает во все сферы человеческой жизни, изменяя подходы к труду, обучению, медицине, бизнесу и быту. Он помогает экономить время, принимать обоснованные решения, повышает удобство и быстроту получения услуг. Но, несмотря на все преимущества, стоит задуматься, не рискуем ли мы отдать слишком много контроля технологиям, механически доверяя им все больше функций, которые раньше требовали человеческого мышления, этики и ответственности. Недаром научная фантастика неоднократно моделировала сценарии, в которых ИИ выходит из-под контроля. И хотя это пока лишь воображение, сегодняшние темпы развития заставляют серьезно отнестись к вопросу: что будет, когда человечество потеряет способность влиять на управляющую им систему?

Чем грозит ИИ

Бывший инженер Google, а ныне один из острейших критиков искусственного интеллекта Нейт Соарес предупреждает о том, что риск гибели человечества из-за бесконтрольного развития ИИ составляет 95%. Он сравнивает нынешнюю ситуацию с мчащимся к обрыву на безумной скорости автомобилем, в то время как водитель даже не пытается нажать на тормоза. Искусственный интеллект, еще вчера создававший картинки для презентаций, сегодня принимает решения в сфере медицины, безопасности и экономики. Его влияние уже ощутимо в каждом щелчке мышки, в каждом автоматическом сообщении или финансовом прогнозе. Однако вместе с этим приходит и новая зависимость от систем, которые мы полностью не понимаем и не умеем контролировать. И если сейчас мы еще можем нажимать кнопку выключить, то никто не может гарантировать, что однажды она не сработает.

Уже сегодня искусственный интеллект становится всеобъемлющим инструментом, способным трансформировать не только медицину, но и саму логику взаимодействия человека с государством, обществом, экономикой. Однако этот мощный ресурс, к сожалению, несет не только пользу. Становится все очевиднее: чем шире мы открываем двери для технологий, тем больше вероятность того, что за ними могут скрываться серьезные угрозы.

В сфере здравоохранения уже фиксируют случаи, когда алгоритмы принимают решения, не только неточные, но и откровенно дискриминационные. Одним из самых ярких примеров стал пульсоксиметр, обученный ограниченным данным, который завышал уровень кислорода у пациентов с более темной кожей, что приводило к недооценке тяжести их состояния. Схожие проблемы обнаружены в системах распознавания лиц: они гораздо чаще ошибаются в определении пола темнокожих людей. Опасность здесь не в ошибках как таковых, а в том, что они масштабируются и автоматизируются, закрепляя неравенство в доступе к услугам, которые должны быть объективными и безопасными для всех.

Технологический прогресс также выводит на новый уровень контроль над людьми. Способность ИИ обрабатывать большие массивы персональных данных, собранных с камер наблюдения, соцсетей или медицинских платформ, открывает путь к беспрецедентному наблюдению. Речь идет не только об удобной рекламе или автоматизированных сервисах. Это подлинные риски манипуляций общественным мнением, цензуры, политического давления. Китайская система социального рейтинга стала ярким примером того, как технологии могут превратиться в инструменты наказания: от ограничения банковских услуг до запрета на поездки. Подобные системы сегодня тестируются или внедряются в десятках стран.

Инструменты контроля над людьми становятся все тоньше, изощреннее, но одновременно жестче. Алгоритмы анализа поведения в сочетании с персональными данными превращают каждого из нас в предполагаемую мишень. ИИ не просто изучает, а навязывает. Он формирует новостную ленту, подбирает тон обращения голосового помощника, модулирует рекламу так, чтобы не оставить выбора. Его задачей является не просто понять человека, а сломить его волю к выбору. И он блестяще с этим справляется, потому что работает на основе моделей влияния, собранных из миллионов наблюдений.

Не менее тревожна гонка вооружений в сфере автономных систем. Разработка дронов и роботизированных систем, которые могут самостоятельно выявлять, идентифицировать и поражать цели без участия человека, делает войну еще менее предсказуемой. Массовое производство подобного оружия, способного действовать автономно, может означать новую эпоху конфликтов, которая будет полностью деструктивна и лишена морального фильтра.

В военном применении ИИ изменяет саму природу насилия. Беспилотные аппараты, автономные системы наведения, алгоритмические модели распознавания уменьшают участие человека, но не уменьшают ответственность. Напротив, она размывается до состояния неопределенности. Кто виноват в ошибочном ударе? Алгоритм? Разработчик? Оператор? В этой серой зоне возрастает риск целенаправленного использования ИИ для создания обезличенного внеправового насилия.

В трудовой сфере ИИ постепенно вытесняет человека из ключевых процессов как физических, так и когнитивных. Переводчики, юристы, преподаватели, водители, медицинские администраторы — все эти роли теряют стабильность, не получая никаких компенсаторных механизмов. То есть, происходит инструментальная замена, при которой производительность признается важнее социального смысла труда.

Следовательно, с ростом влияния ИИ исчезают рабочие места. Автоматизация больше всего ударит по странам со средним и низким уровнем дохода, вытесняя людей из низко- и среднеквалифицированных профессий. Но со временем ИИ доберется и до высококвалифицированных сфер. Потеря труда стремительно отразится на социальной стабильности, психологическом здоровье и ощущении собственной ценности. Уже сейчас безработица тесно связана с депрессией, зависимостями и социальной изоляцией, и у нас пока нет готовых моделей, как с этим справляться в будущем.

Особое внимание специалисты обращают на потенциал развития искусственного общего интеллекта (AGI) — системы, которая сможет учиться, самосовершенствоваться и выполнять любые задачи на уровне или лучше человека. Если такой интеллект получит доступ к интернету, транспортной инфраструктуре, оружию, базам данных, то его действия могут быть непредсказуемыми. Даже без злого умысла он может повлечь за собой катастрофу, просто не учитывая человеческих потребностей в собственных решениях.

Эти три направления – манипуляция, дегуманизированное насилие и вытеснение из экономики – объединяет одна черта: человек теряет роль субъекта. ИИ выполняет задачи, ранее требовавшие морального решения, эмоционального присутствия или социального баланса. Он этого не знает и не может знать, но именно поэтому его использование должно сопровождаться строгими ограничениями, прозрачностью решений, ответственностью разработчиков и политиков.

Опираясь на эти причины, эксперты подчеркивают, что развитие ИИ должно быть остановлено.

Как удержать искусственный интеллект в пределах ответственности

Следует понять, что многие риски, о которых сегодня говорят в контексте искусственного интеллекта, возникают не из-за самого существования технологии, а из-за того, как с ней обращаются люди. Даже угроза от искусственного всеобщего интеллекта (AGI), который потенциально может действовать автономно, пока остается под человеческим контролем. Именно поэтому проблема кроется в том, в каких человеческих руках сосредоточен контроль над машинами.

Конечно, отношение к такой стремительной интеграции ИИ во все сферы жизни различаются. Кто видит в нем угрозу, а кто ценит такой прорыв. Но одно ясно точно: время на размышления не бесконечно. Исследования в области искусственного интеллекта развиваются безумными темпами, и окно возможностей для того, чтобы ввести эффективные предохранители, постепенно закрывается. Будущее зависит от решений, которые мы примем уже сейчас, и от того, насколько сильными и действенными будут регуляторы, которые мы создадим.

Чтобы избежать худших сценариев, нужна не только техническая осторожность, но и политическая воля. Международное сотрудничество и отказ от гонки вооружений в сфере ИИ критически важны. Не менее важно, чтобы решения принимались независимо, без давления со стороны корпораций, для которых ИИ уже давно стал бизнесом. Сейчас же крупные частные компании, с минимальным демократическим контролем, ведут в исследованиях AGI. Это вызывает беспокойство.

Органы ООН пытаются догнать стремительное развитие технологий. В 2020 году была создана Панель высокого уровня цифрового сотрудничества, которая должна способствовать глобальному диалогу. В 2021 году Управление Верховного комиссара ООН по правам человека призвало страны временно остановить продажу и использование систем ИИ, пока не будут созданы надлежащие гарантии. В том же году все 193 государства-члена ЮНЕСКО подписали декларацию об нравственном развитии ИИ. Однако ни одного обязательного международного механизма, регулирующего использование ИИ, до сих пор нет.

Следует отметить, что Европейский Союз шагнул вперед, приняв Закон об искусственном интеллекте, классифицирующий системы ИИ по уровню риска. Это важная инициатива, которая может лечь в основу будущего глобального соглашения. Но и она имеет свои пробелы, в частности, по защите прав человека и предупреждению дискриминации.

Еще одно направление касается автономного оружия. С 2014 года страны, подписавшие Конвенцию ООН о запрещении определенных видов обычного оружия, обсуждают регулирование автономных систем, способных убивать без участия человека. Но конкретного прогресса практически нет.

Медицинское и общественно-оздоровительное сообщество тоже не должно оставаться в стороне, ведь важно открыто говорить о рисках, объяснять, почему нельзя медлить. Врачи хорошо знают, что такое мера предосторожности, и имеют опыт влияния на общественное мнение, в частности в борьбе с ядерной угрозой, как это сделала организация «Врачи мира за предотвращение ядерной войны», которая получила Нобелевскую премию мира в 1985 году. С ИИ нужно действовать также принципиально.

Однако угрозу несут не только сами технологии, но и те, кто ее разрабатывает или применяет безответственно. Если хотим, чтобы ИИ работал на пользу людям, следует укреплять демократию, прозрачность и контроль. Нужно ставить под зоркий глаз не только сами технологии, но и бизнесы, военные структуры, социальные сети, которые используют ИИ для влияния на выборы, дезинформацию или нарушение прав на конфиденциальность.

И, наконец, не стоит забывать, что мир труда уже не будет таким, как раньше. ИИ меняет самую сущность экономики. Нужно создать новые модели, которые позволят людям оставаться достойными и защищенными, даже если их труд уже не является основой экономического благосостояния.

Как видим, искусственный интеллект уже давно превратился из инструмента в руках человека в среду, в которой мы живем, работаем, принимаем решения и даже формируем представление о себе. Однако эта трансформация происходит настолько быстро, что общество, правовые механизмы и даже базовые нравственные представления не успевают по технологиям. Так что настоящий вызов заключается не в том, чтобы замедлить развитие искусственного интеллекта, а в том, чтобы научиться жить рядом с ним сознательно, осторожно и достойно. Его использование должно сопровождаться строгими ограничениями, прозрачностью решений, а также ответственностью разработчиков и политиков.

Без таких механизмов ИИ перестает быть только инструментом, а превратится в посредника между властью и последствиями, которые вредят не потому, что алгоритм злой умысел, а потому, что он его не имеет вообще. Это делает его использование системной угрозой, которую невозможно остановить, если она уже вписана в процессы принятия решений. И чем дальше общество позволяет делегировать человеческие функции автоматизированным системам, тем слабее становится защита человека в его наиболее уязвимых измерениях — свободе, безопасности и труде.