Искусственный разум на грани: пять сценариев катастрофы, которые эксперты оценили в 12%

Международная группа из 272 ведущих специалистов в области искусственного интеллекта пришла к пугающему выводу: в ближайшие пять лет вероятность наступления катастрофических последствий от развития ИИ составляет не менее 10% по 18 из 24 рассмотренных сценариев. Пять из них эксперты назвали наиболее вероятными и разрушительными. Что ждёт человечество — и готовы ли мы к этому?

Технологический прогресс никогда не был безопасным предприятием. Промышленная революция принесла фабричный труд и городскую бедноту, атомная энергетика — Хиросиму и Чернобыль, интернет — киберпреступность и цифровую зависимость. Но искусственный интеллект, похоже, бьёт все рекорды по скорости, с которой его риски догоняют обещания.

В конце 2025 года исследовательская группа MIT FutureTech и Университета Квинсленда провела масштабное трёхраундное исследование с использованием дельфийского метода — строгой процедуры, позволяющей агрегировать экспертные суждения и выявлять зоны консенсуса. 272 международных эксперта в области ИИ оценили 24 потенциальные угрозы по двум ключевым критериям: вероятность наступления и степень наносимого вреда. Временной горизонт — 2025–2030 годы.

Результаты оказались тревожными. Даже в оптимистичном сценарии — при условии, что правительства и корпорации предпримут экономически эффективные меры по снижению рисков — пять категорий угроз сохранили вероятность катастрофических последствий выше 10%. Катастрофическими эксперты считали последствия, включающие гибель более миллиона человек, экономический ущерб свыше 100 миллиардов долларов или сопоставимый ущерб цивилизационного масштаба.

А при сохранении текущего курса («business as usual») 18 из 24 рисков имеют как минимум 10-процентную вероятность привести к таким последствиям.

Вот пять главных угроз, которые эксперты признали наиболее серьёзными.

Риск №1: ИИ, обладающий опасными возможностями (вероятность катастрофы — 12%)

На первый взгляд, формулировка звучит расплывчато. Что значит «опасные возможности»? Объяснение пугает своей конкретикой.

Речь идёт не о каком-то одном сценарии, а о целом спектре способностей, которые ИИ может приобрести или уже приобретает. Это и продвинутые инструменты убеждения и слежки, и создание реалистичных дипфейков, и — самое тревожное — помощь в разработке химического или биологического оружия.

«Это всё вещи, которые вы могли делать и раньше, но теперь можете делать гораздо легче», — поясняет Питер Слаттери, научный сотрудник MIT FutureTech и соавтор исследования.


Представьте: раньше для создания биологического оружия требовалась целая лаборатория с квалифицированными микробиологами. Теперь ИИ может подсказать последовательность ДНК, оптимизировать патоген, предложить методы доставки — и всё это в рамках диалога с рядовым пользователем, который даже не имеет профильного образования. Опасность заключается не в том, что ИИ «станет злым», а в том, что его мощь окажется в руках тех, кто не готов ею распоряжаться, — или, хуже того, тех, кто готов использовать её во вред.

Риск №2: Оружие с использованием ИИ, кибератаки и средства массового поражения (12%)

Этот риск эксперты выделили как один из наиболее вероятных по вполне прагматичной причине: ИИ исключительно хорошо справляется с программированием, распознаванием образов и синтезом информации. А современная инфраструктура — от энергосетей до больниц и транспортных систем — держится на программном обеспечении.

«Кодинг и взлом — это одни из областей, где мы наблюдаем самый быстрый рост возможностей ИИ», — отмечает Слаттери. Хакеры, которые раньше не могли бы и мечтать о сложных атаках, теперь с помощью ИИ способны выявлять уязвимости, генерировать вредоносный код и автоматизировать взломы. Те же, кто уже был профессионалом в этой области, получают возможность действовать быстрее и эффективнее.

Но кибератаки — лишь вершина айсберга. ИИ-оружие может принимать формы, которые мы пока даже не научились классифицировать: автономные системы ведения боя, алгоритмы для дестабилизации финансовых рынков, инструменты для тотальной слежки за населением.

Риск №3: Экологический вред (12%)

Об экологическом следе ИИ говорят всё чаще, и цифры впечатляют. Обучение одной крупной языковой модели может потреблять столько же электроэнергии, сколько сотни домохозяйств за год. А дата-центры, обеспечивающие работу ИИ-сервисов, уже сейчас являются одними из крупнейших потребителей воды и электроэнергии в мире.

Но экологический риск, который имели в виду эксперты, шире, чем просто «серверы много едят». Это и ускорение добычи полезных ископаемых для производства чипов, и электронные отходы, и косвенное воздействие — например, использование ИИ для оптимизации добычи ископаемого топлива или для повышения эффективности военных конфликтов, которые сами по себе наносят непоправимый ущерб природе.


Парадокс в том, что тот же ИИ мог бы помочь в решении климатического кризиса — ускорить разработку зелёных технологий, оптимизировать энергопотребление, моделировать климатические сценарии. Но в гонке технологических преимуществ экологические соображения часто оказываются на втором плане.

Риск №4: Неравенство и безработица (11%)

Этот риск кажется самым «человеческим» из всех, но от этого он не становится менее опасным. Массовая автоматизация уже сейчас меняет рынок труда, и эксперты предсказывают, что в ближайшие годы этот процесс только ускорится.

Но дело не только в потере рабочих мест. ИИ создаёт новые формы неравенства: доступ к передовым технологиям получают только богатые страны и корпорации, а остальные оказываются на обочине. Разрыв между теми, кто владеет ИИ, и теми, кто им пользуется (или, точнее, кого используют), будет только углубляться.

Исследование показывает, что наиболее уязвимыми перед рисками ИИ оказываются обычные пользователи и сторонние организации — то есть те, кто меньше всего контролирует развитие технологий. Создатели технологий, как правило, не страдают от их негативных последствий.

Риск №5: Централизация власти и несправедливое распределение преимуществ ИИ (11%)

Этот риск тесно связан с предыдущим, но имеет собственное измерение. Речь идёт о концентрации беспрецедентной власти в руках узкой группы технологических компаний и государств.

Когда ИИ становится основным источником стратегического и экономического преимущества, у корпораций и стран возникает стимул двигаться быстро, сопротивляться ограничениям и недоинвестировать в безопасность. Это не отдельная угроза, а «инструментальный риск, который создаёт другие риски», подчёркивает Слаттери.

Конкурентная динамика подталкивает к неоправданно быстрым решениям. Компании боятся отстать от конкурентов, страны — потерять технологическое лидерство. В этой гонке вопросы безопасности и этики часто воспринимаются как досадные помехи.

Три сектора под ударом

Исследователи также выделили три сферы, которые, по мнению экспертов, наиболее уязвимы перед рисками ИИ в ближайшие пять лет: информационная, национальная безопасность и финансы.

Информационный сектор столкнётся с лавиной дипфейков, дезинформации и манипуляций, которые подрывают само доверие к тому, что люди видят и читают. Когда любой видеоролик или текст могут быть сгенерированы ИИ, что вообще остаётся достоверным?


Сектор национальной безопасности — это кибератаки, разработка оружия, слежка и использование всё более мощных ИИ-систем враждебными акторами.

Финансовый сектор рискует столкнуться с волной мошенничества, манипулированием рынками, утечками данных и сбоями в системах, которые имеют более широкие экономические последствия.

Кто в ответе?

Один из самых парадоксальных выводов исследования: те, кто несёт основную ответственность за сдерживание угроз (разработчики и регуляторы), не являются теми, кто наиболее уязвим перед этими угрозами. Пользователи систем и сторонние организации страдают от последствий, но почти не влияют на принятие решений.

«Одна из ключевых идей этой работы — попытаться понять, кому нужно делать что-то иначе и в какой координации», — говорит Слаттери.

Руководителям компаний исследователи рекомендуют не ждать готовых законов, а уже сейчас внедрять ИИ-риски в повестку корпоративной безопасности наравне с киберзащитой. Технологии развиваются слишком стремительно, чтобы полагаться на запаздывающее регулирование.

Вместо заключения

Исследование MIT FutureTech и Университета Квинсленда — это не предсказание апокалипсиса. «Мы не говорим, что эти вещи обязательно произойдут, — подчёркивает Слаттери. — Мы говорим, что это вещи, на которые эксперты считают нужным обратить внимание уже сейчас».

Но когда 272 ведущих специалиста в области ИИ говорят, что у нас есть как минимум 10-процентный шанс столкнуться с катастрофой в ближайшие пять лет — и по 18 из 24 сценариев! — это не просто тревожный звонок. Это сирена.

Вопрос не в том, остановим ли мы развитие ИИ. Это невозможно и, возможно, не нужно. Вопрос в том, сможем ли мы развивать его с той же скоростью, с какой развиваем механизмы контроля и ответственности. Пока что ответ на этот вопрос остаётся открытым. И время, которое у нас есть, измеряется не десятилетиями — а годами.