Вероятность того, что человечество погибнет из-за стремительного развития искусственного интеллекта, составляет 95% — об этом британской газете. Таймс заявил бывший инженер Google Нейт Соарес, который сейчас является одним из острейших критиков отрасли. По его словам, мы летим в пропасть со скоростью 100 километров в час и почти ничего не делаем, чтобы остановиться. Соарес призвал человечество радикально изменить направление технологического прогресса, в противном случае катастрофа станет неизбежной.
Беспокойство Соареса разделяют самые авторитетные голоса в мире технологий. Среди подписавших публичное заявление о необходимости немедленного сдерживания ИИ — нобелевский лауреат Джеффри Гинтон, математик Йошуа Бенжио, а также топ-менеджеры ведущих компаний в сфере искусственного интеллекта: OpenAI, Anthropic и Google DeepMind. В этом заявлении они отмечают, что «уменьшение риска исчезновения человечества из-за ИИ должно стать глобальным приоритетом — наряду с борьбой с пандемиями и ядерной войной».
Речь идет не о гипотетической дальней угрозе, а о реальных опасностях, связанных с разработкой так называемого суперинтеллекта (ASI) — машинной системы, способной самостоятельно принимать решения, планировать, действовать на основе скрытых мотивов и даже манипулировать людьми. Такой ИИ, предупреждают ученые, может выйти из-под контроля, а его мозг будет непрозрачным даже для его разработчиков.
Эксперты считают, что опасность заключается не только в возможности техногенной катастрофы, но и постепенном уничтожении человеческой автономии. В мире, где все ключевые решения принимает ИИ, роль человека может стать маргинальной или даже излишней. Технологии будут вытеснять людей из процессов принятия решений, управления экономикой, безопасностью, медициной, а, наконец, и из политической жизни.
«Это не фантастика, а вполне реальный уже формируемый сценарий», — отмечают ученые.
Они требуют от правительств, компаний и гражданского общества немедленно признать угрозу, создать механизмы глобального контроля, остановить гонку ИИ-вооружений и сосредоточиться на создании четких границ развития этой технологии.
