Розробники штучного інтелекту шукають вихід на випадок бутну, відключення банків та світла — Axios

Керівники компаній Anthropic, OpenAI та інших розробників штучного інтелекту приватно моделюють сценарії суспільного спротиву та політичного тиску після можливої катастрофи, повідомляє Axios.

За інформацією видання, топменеджери очікують на масштабний кіберінцидент із застосуванням небезпечного штучного інтелекту, здатний заблокувати доступ до фінансових сервісів, зв'язку або систем електро- та водопостачання. Як зазначають автори матеріалу, перший випадок відчутної шкоди може налаштувати суспільство проти цієї технології, лідерів галузі Даріо Амодеї і Сема Альтмана, а також проти президента Дональда Трампа через його небажання регулювати сектор.

Загроза неминучого інциденту

Як з'ясували журналісти Axios, багато провідних дослідників та керівників індустрії вважають серйозний інцидент неминучим протягом найближчих 6–12 місяців. У коментарі виданню представник компанії OpenAI підтвердив проведення навчань із готовності до різних обставин, тоді як в Anthropic від коментарів відмовилися.

Приводом для кризи, на думку опитаних виданням фахівців, може стати як вихід автономної групи агентів з-під контролю в тестовому середовищі, так і дії зловмисників. Зокрема, Axios наводить приклад нещодавньої атаки на банки в Південній Кореї, де хакер із Китаю викрав дані за допомогою китайських моделей включно з DeepSeek, а інструмент Claude Code використав для пошуку майданчиків збуту інформації.

Політичні ризики та підготовка законів

За оцінками співрозмовників видання, після проміжних виборів представники Демократичної партії можуть спробувати зупинити розвиток галузі через паузу в розробках, заборону надінтелекту або обов'язкове встановлення аварійних вимикачів. Проте журналісти наголошують, що віковий склад Конгресу та інтеграція технологій в економіку суттєво ускладнять такі кроки.

Через це, як стверджує Axios, компанії прагнуть завчасно вплинути на майбутнє законодавство США до настання першої великої катастрофи. В індустрії також зазначають, що вільне поширення відкритих моделей уже унеможливлює прості заборони, а протистояти шкідливому штучному інтелекту зможе лише захисний ШІ.