В определенном смысле искусственный интеллект подобен ребенку: его убеждения и представления формируются на основе того, чему и как его учат. Информация, которую он получает, определяет его ответы, а заложенные алгоритмы и данные влияют на его мировоззрение, а воспитание и образование формируют сознание ребенка. ИИ все больше интегрируется в нашу повседневную жизнь, но вместе с ее преимуществами возникают и серьезные вызовы. Одним из наиболее обсуждаемых является вопрос предвзятости ИИ, когда алгоритмы могут воспроизводить и даже усиливать человеческие стереотипы.
Журналист Реми Демикелис, автор “Искусственный интеллект, его предубеждения и наши” — книги о предвзятости в системах ИИ, уверяет, что «алгоритмы не только воспроизводят предвзятость, присущую обществу, но и усиливают ее».
Алгоритмы ИИ часто воспроизводят человеческие стереотипы, что приводит к дискриминационному отношению из-за принадлежности к определенной расе, полу и другим социальным группам. Попытки исправить эти перекосы оказались сложной задачей, а отсутствие единых стандартов регулирования лишь усугубляет проблему.
Примеров того, как ИИ может формировать искривленные образы, достаточно. В 2023 году нейросеть Середина пути создавала отрицательные изображения французских пригородов, что вполне закономерно вызывало у аудитории критику и протесты. Поисковые запросы, связанные с банье, давали стереотипные результаты, которые значительно контрастировали с общими представлениями о Франции. Подобную дискриминацию заметили и в чат-ботах ИИ, демонстрирующих предвзятость в отношении женщин, людей с инвалидностью и представителей этнических меньшинств.
Природа предвзятости в ИИ
Корень проблемы – данные, на которых учатся алгоритмы. К примеру, в базах данных свадебных фото около половины из них происходит из Соединенного Королевства и США искажает представление о свадебных традициях в мире. Это может приводить к тому, что национальные наряды из других культур ИИ идентифицируют как «экзотические» или «народные костюмы», а не стандартную свадебную одежду.
Воздействие предубеждений в ИИ признается на государственном уровне. Главные вызовы – не только сами алгоритмы, но и их разработчики. Если системы создаются белыми мужчинами, они могут безотчетно игнорировать проблемы дискриминации.
Алгоритмическая Лига Справедливости выступает но такие проверки пока не имеют четких стандартов и сложно проверяются.
Попытки технологических компаний уменьшить предвзятость не всегда удаются. Например, в прошлом году Google Gemini попал в скандал из-за создания исторически некорректных изображений в попытке быть «политкорректным». Критики, включая Илона Маска, обвинили ИИ в «извращении реальности».
Предвзятость в ИИ возникает, когда алгоритмы учатся на данных, уже содержащих человеческие стереотипы или дисбаланс. Это может привести к дискриминационных результатов, скажем, в найме персонала, кредитовании или правосудии.
Создание нейтрального алгоритма является сложной задачей, поскольку модели ИИ учатся на огромных объемах данных, которые могут содержать культурные, расовые и гендерные предубеждения. Это означает, что самые передовые системы могут непреднамеренно воспроизводить эти стереотипы.
Дело и в том, что некоторые открытые базы данных, используемые для обучения ИИ, имеют диспропорциональное представление разных культур, рас и гендеров. Это может привести к тому, что алгоритмы будут менее точными или пристрастными относительно недостаточно представленных групп.
Исследования показали, что некоторые системы распознавания лиц имеют более высокий уровень ошибок при идентификации людей с темным цветом кожи, особенно женщин. Это может быть связано с тем, что такие системы обучались на наборах данных, где преобладали изображения светлокожих мужчин.
Некоторые компании использовали ИИ для отбора резюме, но оказалось, что эти системы предпочитали мужчин перед женщинами, поскольку учились на исторических данных, где мужчины чаще нанимались на определенные должности.
ШИ и социальное неравенство
Автоматизированные системы используются для оценки кредитоспособности, найма, определения рисков в судах и других важных областях. Но если алгоритмы учатся на данных с предубеждениями, они могут принимать дискриминационные решения.
В США система КОМПАС оценила возможность повторного преступления. Исследование показало, что алгоритм чаще ошибочно определял темнокожих как высокорисковых, а белых – как низкорисковых, даже если это не было правдой.
Amazon создал ИИ для автоматизации найма, но алгоритм занижал рейтинг резюме женщин, поскольку учился на данных, где преобладали мужчины, что привело к гендерной дискриминации.
Эти случаи показывают, как ИИ может усугублять стереотипы и неравенства. Женщины и представители меньшинств могут быть несправедливо исключены из возможностей трудоустройства, получения кредитов или доступа к образованию и медицине через предупрежденные алгоритмы.
Регуляция ИИ в мире
Евросоюз, США и Китай имеют разные стратегии и регулировании ИИ, отражающие их приоритеты и ценности.
Евросоюз стал первой в мире юрисдикцией, принявшей комплексный Закон об искусственном интеллекте, запрещающий ИИ использовать биометрические данные для классификации людей по расе, политическим взглядам или сексуальной ориентации.
Европа отстает от США и Китая в разработке ИИ. Его жесткие регуляторные попытки могут привести к тому, что крупные технологические компании выведут свои продукты с европейского рынка. Например, Meta (Facebook) заявила, что не будет запускать свою модель Llama AI в ЕС из-за «непредсказуемости регуляторной политики».
Евросоюз хочет стать лидером в регулировании ИИ, создав закон, классифицирующий системы ИИ по уровню риска: от очень высокого до минимального. Например, использование ИИ для биометрической идентификации в реальном времени в общественных местах запрещено из-за высокого риска нарушения прав человека. Минимальному контролю подлежат системы с низким риском. Нарушения закона могут привести к штрафам в 35 миллионов евро или 7% мирового оборота компании. Будущее регулирование ИИ будет зависеть от того, сможет ли Европа найти баланс между безопасностью и развитием технологий в условиях глобальной конкуренции.
В Соединенных Штатах отсутствует единый федеральный закон по ИИ. Вместо этого регулирование осуществляется на уровне отдельных штатов и отраслевых агентств. Так, штаты Калифорния и Колорадо внедрили свои законы для обеспечения прозрачности и ответственности в использовании ИИ. Такой подход предоставляет компаниям больше свободы для инноваций, но может фрагментировать правовое поле.
Со своей стороны, Китай строго контролирует развитие и использование искусственного интеллекта В 2017 году Поднебесная объявила о намерении стать мировым лидером в сфере ИИ до 2030 г., установив четкие цели и стандарты. Такой подход обеспечивает централизованный контроль, но может ограничивать инновации и вызывать беспокойство по правам человека.
ИИ как орудие авторитарных режимов, их влияние на выборы и манипуляцию общественным мнением
Современные политические кампании используют ИИ для анализа поведения избирателей. Благодаря данным из соцсетей, алгоритмы определяют предпочтения, интересы и эмоции пользователей. Это позволяет персонализировать сообщения для разных групп населения. Такой подход – микротаргетинг – был использован в избирательных кампаниях в США. Facebook и Instagram предлагают настройки рекламных кампаний, позволяющих политикам точно нацеливать свои сообщения на разные сегменты избирателей.
Известно, что генеративный ИИ может создавать реалистичные изображения, видео и аудио, по сути являющиеся «глубокими фейками» (дипфейки). Эти технологии используются для распространения дезинформации и манипулирования мнениями людей. Во время президентских выборов в США-2024 для дискредитации кандидатов широко использовались дипфейки. Так, в соцсетях распространялись поддельные видео с заявлениями политиков, которых они действительно не делали. Это создавало путаницу среди избирателей и подрывало доверие к кандидатам.
Нередки случаи, когда авторитарные режимы используют ИИ для усиления контроля над населением. Алгоритмы анализируют данные из камер наблюдения, соцсетей и других источников для отслеживания и подавления инакомыслия.
Кто должен отвечать за ошибки ИИ
Когда ИИ совершает ошибки или принимает дискриминационные решения, возникает вопрос: кто несет ответственность – разработчики или пользователи? Европарламент в своей резолюции отмечает, что в зависимости от обстоятельств ответственность может ложиться на производителя, оператора, владельца или пользователя ИИ. Это показывает, как сложно определить, кто виноват в случае ошибок ИИ.
ШИ часто используется для проверки контента в Интернете. Однако возникает вопрос: не становится ли такая проверка цензурой? Ведь удаление «проблемных» ответов может предотвратить дезинформацию и язык вражды, но чрезмерная модерация может ограничивать свободу выражения. Важно обеспечить прозрачность алгоритмов и привлекать человеческое наблюдение, чтобы сохранить баланс между безопасностью и свободой слова.
Очевидно, что прозрачность алгоритмов ИИ важна для предотвращения манипуляций и дискриминации. Компании должны раскрывать детали о том, как работают их алгоритмы, чтобы пользователи могли доверять им. Это включает информацию об источниках данных, методах обучения и критериях принятия решений. Такой подход будет способствовать подотчетности и нравственному использованию ИИ.
Возможно ли создать нравственно нейтральный ИИ
Чтобы создать Этически нейтральное ИИ, нужно, чтобы модели обучались на данных, отражающих разнообразие общества. Это уменьшит риск предвзятости через односторонние или неполные данные. Соблюдать моральные принципы и учитывать возможные социальные последствия использования технологий поможет привлечение этических комитетов к разработке и внедрению ИИ.
Полностью устранить предвзятость в ИИ сложно из-за различных технологических и социальных ограничений. Алгоритмы могут воспроизводить существующие стереотипы, если они имеются в обучающих данных. Даже усилия по устранению предвзятости могут привести к новым формам дискриминации. Поэтому важно постоянно следить за работой ИИ и корректировать ее, привлекая экспертов по этике, социологии и другим областям.
ИИ может стать мощным инструментом в борьбе с дискриминацией. Алгоритмы могут анализировать большие объемы данных, чтобы выявлять скрытую пристрастность в решениях, что позволяет своевременно исправлять ситуацию. В сфере занятости ИИ может помочь обеспечить справедливый отбор кандидатов, анализируя резюме без учета личных характеристик, таких как пол или этническая принадлежность. Но для этого нужно тщательно настраивать алгоритмы и обеспечивать их прозрачность и подотчетность.
Татьяна Викторова
