Пожалуй, все помнят незабываемую сцену из легендарного блокбастера «Терминатор», когда создатель киборга, который должен стать спасителем человечества, вдруг с ужасом и отчаянием осознает: его стремление помочь прогрессу обернулось рождением настоящего монстра. , охваченный чувством вины, готов принести в жертву собственной жизни, лишь бы остановить созданную им машину разрушения. Это кульминация, заставляющая сердце сжиматься, напоминая, как опасно и тонко переплетаются мечты о величии с трагедией творения.
Похоже, подобные мысли и чувства вполне понятны и разработчику OpenAI Сэму Альтману, ключевой фигуре в развитии искусственного интеллекта и бывшему президенту Y Combinator. В интервью изданию Bloomberg он поделился нюансами становления компании, ее вызовами, а также профессиональными конфликтами с командой и советом директоров, что отражает столкновение между идеалистическими целями некоммерческой организации и потребностями коммерческого развития искусственного интеллекта. Интервью иллюстрирует, как развитие AGI — искусственного всеобщего интеллекта — сталкивается с этическими, технологическими и социальными вызовами, и раскрывает сложность принятия решений в этой быстро меняющейся отрасли.
Когда искусственный интеллект переходит на сторону зла
К сожалению, искусственный интеллект, это произведение человеческого гения, иногда оказывается в руках тех, кто использует его для сомнительных целей. Злоумышленники все чаще обращаются к ИИ, чтобы создавать манипулятивные технологии, вводить в заблуждение и вредить своей выгоде, реализуя инстинкт власти или чувство собственного превосходства.
Например, технология deepfake позволяет создавать видео, где политики или общественные деятели выглядят так, как говорят слова, которых на самом деле они никогда не говорили. Эта технология как бы в спину, которая разрушает репутации, вызывает конфликты и разжигает недоверие в обществе.
Мошенники используют генераторы текста, усовершенствованные до уровня, где их сообщения выглядят вполне правдивыми, убедительными или трогательными. Из-за этих сделок люди теряют личные данные или деньги, поверив в фальшивые просьбы или обещания.
На финансовых рынках ИИ применяется для распространения фальшивых новостей и манипуляций, влияющих на цены и вызывающих экономические потрясения. В цифровом пространстве фейковые новости, созданные алгоритмами, подрывают доверие и вызывают социальные расколы.
Особенно опасны технологии, подделывающие голоса, создавая иллюзию, что с вами на связи близкий человек. Такие манипуляции побуждают людей отдавать свои денежные средства или делиться ценной информацией.
Дилемма «безопасность против возможностей»
Итак, темная сторона ИИ напоминает о важности контроля за этими технологиями. его безопасности для общества. Правление компании считало, что важно двигаться. медленно, тщательно контролировать процесс и учитывать все риски, ведь AGI может создать серьезные угрозы, если выйдет из-под контроля.
При разработке совместных проектов Сэм Альтман сотрудничал с такими влиятельными личностями, как Илон Маск. Их объединила общая идея: сделать ИИ безопасным и полезным для всех. Однако со временем их взгляды разошлись. Маск, опасающийся неконтролируемого развития ИИ, критиковал OpenAI, которую они основали вместе с Альтманом. Он считал, что коммерческая модель может поставить прибыль выше сохранности. Альтман верил, что только из-за быстрого внедрения продуктов и тестирования их в реальных условиях можно своевременно выявить проблемы и научиться их решать. Он также опасался, что если OpenAI не ускорит свои действия, конкуренты могут опередить их, создав менее безопасные версии AGI. Для Альтмана важно было идти вперед, даже если это связано с рисками, иначе компания могла потерять лидерство в отрасли.
В конце концов этот конфликт показывает широкую проблему всей отрасли: как непросто создавать мощные информационные технологии, не нанося вред обществу. Альтман считает, что риски можно контролировать в процессе работы, а правление OpenAI видело в сверхбыстром развитии потенциальную угрозу обществу. Этот вопрос остается открытым и очень важным для будущего AGI.
Изменение риторики OpenAI по AGI
OpenAI изменила способ, которым говорит об искусственном общем интеллекте, чтобы людям было легче понять, над чем именно работает компания и какого прогресса достигает. OpenAI начала описывать свои разработки через конкретные уровни развития. Такой подход позволяет более точно сказать, на каком этапе сейчас находится технология и что она уже может делать. Это заменило сложные дискуссии о том, достигли ли они AGI, понятной оценкой того, какие именно задачи их системы способны выполнять. Раньше они открыто обсуждали AGI как свою главную цель, но это вызвало много путаницы, потому что ШИИ – сложная идея, которую люди понимают по-разному.
Кто-то представляет это как машины, которые могут делать все, как люди, а кто-то – как системы, которые становятся еще более мощными, развивая сами себя. , как мы. Другие видят в нем нечто большее: систему, которая сможет улучшать сама себя и достичь такого уровня развития, что ее возможности превзойдут все, что мы, люди, можем себе представить. Такие системы могли бы развиваться самостоятельно, создавая новые технологии и знания, недоступные людям.
Сегодня мы имеем дело только с искусственным узким интеллектом, который выполняет конкретные задачи – играет в шахматы, переводит тексты или анализирует данные. Пожалуй, к счастью, ИИИ, который мог бы работать как универсальный разум, пока остается лишь мечтой ученых.
Тревога из-за автономности и риска AGI
Альтман говорит о том, что, хотя долгосрочные риски AGI трудно смоделировать, они реальны. Он подчеркивает, что даже краткосрочные опасности, в частности неправильное использование ИИ для кибербезопасности или биологического оружия, уже становятся серьезным вызовом. Разработчик OpenAI признает, что трудно точно предсказать отложенные потенциальные проблемы AGI, например, сможет ли автономная система в будущем выйти из-под контроля или действовать против людей. Однако эти риски он считает очень серьезными.
В то же время Альтман отмечает, что краткосрочные опасности уже становятся реальностью. Например, модели ИИ могут использоваться для создания киберугроз или даже для разработки опасного биологического оружия, если ему предоставить соответствующие запросы. Он упоминает случаи, когда технологии OpenAI повышали риск их неправильного использования для создания подобного оружия. В 2022 году исследователи показали, как ИИ может симулировать создание ядовитых веществ, что вызвало беспокойство и подтвердило необходимость регулирования.
Еще один риск – возможность получения инструкций для изготовления биологического оружия. ИИ может автоматизировать поиск информации о создании опасных патогенов или их модификации, которые могут использовать даже неквалифицированные лица. Также ИИ может быть использован для исследования мутаций вирусов или бактерий, создавая патогены, устойчивые к лечению. Эти процессы становятся быстрее благодаря ИИ, что несет угрозу.
Другим риском есть социальная инженерия. ШИИ может создавать правдоподобные тексты, письма или другой контент, чтобы обманом принудить сотрудников лабораторий к опасным действиям или разглашению информации.
Эти примеры подчеркивают важность нравственного регулирования СИИ.
Альтман борется за баланс: как создавать новое, не забывая об ответственности, как обеспечить прибыль, не изменяя принципам, и, самое главное, как сохранить технологии для всех, а не отдать их в руки избранных. Его идея проста и одновременно глубока: искусственный интеллект должен быть нашим союзником, а не нашим врагом.
Это не только о кодах и алгоритмах. Это о силе, формирующей мир. Для одних СИИ — это будущее, которое поможет решать большие проблемы типа лечения болезней или изменения климата. Другие опасаются, что такие системы могут выйти из-под контроля или стать инструментом для злоумышленников. Поэтому обсуждение этой темы важно не только для науки, но и для всех нас, ведь это может изменить нашу жизнь больше, чем мы можем представить.
Татьяна Викторова
