Разработчики искусственного интеллекта ищут решение на случай бунта, отключения банков и электричества — Axios

Руководители компаний Anthropic, OpenAI и других разработчиков искусственного интеллекта негласно моделируют сценарии общественного сопротивления и политического давления после возможной катастрофы, сообщает Axios.

По информации издания, топ-менеджеры ожидают масштабный киберинцидент с применением небезопасного искусственного интеллекта, способный заблокировать доступ к финансовым сервисам, связи либо системам электро- и водоснабжения. Как отмечают авторы материала, первый случай ощутимого вреда может настроить общество против этой технологии, лидеров отрасли Дарио Амодеи и Сэма Альтмана, а также против президента Дональда Трампа из-за его нежелания регулировать сектор.

Угроза неизбежного инцидента

Как выяснили журналисты Axios, многие ведущие исследователи и руководители индустрии считают серьезный инцидент неизбежным в течение ближайших 6–12 месяцев. В комментарии изданию представитель компании OpenAI подтвердил проведение учений по готовности к различным обстоятельствам, тогда как в Anthropic от комментариев отказались.

Поводом для кризиса, по мнению опрошенных изданием специалистов, может стать как выход автономной группы агентов из-под контроля в тестовой среде, так и действия злоумышленников. В частности, Axios приводит пример недавней атаки на банки в Южной Корее, где хакер из Китая похитил данные с помощью китайских моделей включая DeepSeek, а инструмент Claude Code использовал для поиска площадок сбыта информации.

Политические риски и подготовка законов

По оценкам собеседников издания, после промежуточных выборов представители Демократической партии могут попытаться остановить развитие отрасли через паузу в разработках, запрет сверхинтеллекта либо обязательную установку аварийных выключателей. Однако журналисты подчеркивают, что возрастной состав Конгресса и интеграция технологий в экономику существенно осложнят такие шаги.

Из-за этого, как утверждает Axios, компании стремятся заранее повлиять на будущее законодательство США до наступления первой крупной катастрофы. В индустрии также отмечают, что свободное распространение открытых моделей уже делает невозможными простые запреты, а противостоять вредоносному искусственному интеллекту сможет только защитный ИИ.