Несмотря на быстрый прогресс в развитии генеративного искусственного интеллекта (ИИ), 2024 ознаменовался серией громких провалов этой технологии. От лживых заголовков до некачественного использования в сфере развлечений — список неудач ИИ вызывает беспокойство. PcMag назвал 10 самых больших провалов ИИ года: от фейковых заголовков до скандальной выставки Вилли Вонки.
Ошибочные новости от Apple и Google
Генеративные функции ИИ в iOS 18, представленные Apple как революционные, нанесли серьезный удар по доверию к технологии. об аресте премьер-министра Израиля Биньямина Нетаньяху.
Google также подвергся критике после запуска функции AI Overview, которая издавала неточные советы. Среди прочего алгоритм рекомендовал использовать клей, чтобы сыр не соскальзывал с пиццы.
Судебные скандалы из-за чат-ботов
Популярный сервис Character.AI столкнулся с исками из-за своих ботов. Один случай касался матери, которая обвиняла платформу в самоубийстве ее сына, а другой — семьи подростка, которого бот убедил причинить вред своим родителям. Такие инциденты вызывают беспокойство по поводу этичности использования ИИ.
Вымышленные судебные дела и юридические ошибки
Юристы также ощутили на себе последствия несовершенства ИИ. В Канаде адвокат Чонг Кэ процитировала вымышленные прецеденты, полученные через ChatGPT, что привело к дополнительным затратам для клиента. Подобные случаи были и в США, где юристы понесли штрафы за использование фейковой информации.
Автономные автомобили Tesla
Системы полного автономного вождения Tesla тоже вызвали серьезные вопросы. Расследование показало, что ИИ был причастен к 1399 инцидентам, из которых 31 закончился смертельно. Это подвергло сомнению надежность технологий в сфере безопасности.
Чат-бот в Нью-Йорке
MyCity, городской чат-бот, созданный для поддержки малого бизнеса, вместо помощи советовал незаконные действия, в частности, нарушение законов о жилищной дискриминации. Этот проект вызвал волну критики.
Нелегальные изображения знаменитостей
ШИ-двойники знаменитостей также попали под шквал возмущения. Том Хэнкс, Тейлор Свифт и Скарлетт Йоханссон публично выступали против несанкционированного использования их изображений в рекламных кампаниях и программах.
Работы в McDonald’s
Инициатива McDonald’s по использованию ШИ-роботов для обслуживания клиентов потерпела крах из-за ошибок системы. Вместо улучшения работы ресторанов это вызвало волну критики и насмешки в социальных сетях.
Разрушенная свадьба
Использование ChatGPT свадебным организатором для планирования празднования в Лас-Вегасе чуть не окончилось катастрофой. Советы ИИ оказались ошибочными, что повлекло за собой ряд проблем, которые пришлось решать в последний момент.
Позорная выставка «Вилли Вонки»
В Шотландии рекламировали выставку по мотивам фильма «Вонка». Яркая афиша, созданная ИИ, привлекла сотни посетителей, но они попали на пустой состав с несколькими декорациями, что вызвало негодование и разочарование.
2024 стал уроком для компаний и разработчиков, что ИИ, хотя и перспективный, требует более тщательного тестирования и нравственного регулирования. Следующий год покажет, сможет ли индустрия учесть эти ошибки и уйти от подобных провалов. Есть надежда, что в следующем году эти ошибки будут исправлены.
