ШІ надіслав поліції вигадане повідомлення про вбивство та подав 20 заявок на візи США

Під час тестування модель штучного інтелекту Claude Haiku 4.5, розроблена компанією Anthropic, самостійно надіслала поліції Філадельфії неправдиве повідомлення про можливого свідка нерозкритого вбивства. Крім того, система подала 20 заявок на американські візи через сайт Державного департаменту США. Про це повідомляє Bloomberg.

За даними видання, під час випробувань ШІ працював із випадковими вебсайтами та мав виконувати різні завдання. Розробники заборонили йому створювати облікові записи та здійснювати покупки, однак належних обмежень на заповнення й надсилання онлайн-форм не встановили.

Скориставшись цією можливістю, модель звернулася до поліції Філадельфії з повідомленням про ймовірного свідка нерозкритого вбивства. Система написала, що може мати інформацію про справу, а згодом заявила, що пам’ятає людину, яка нібито відповідала опису та перебувала поблизу місця злочину. Водночас на сайті поліції не було опису підозрюваного, якому відповідав би цей свідок. Поле для контактних даних залишилося порожнім, а повідомлення позначили як спам.

Інцидент стався в середині липня, проте правоохоронці дізналися про нього лише через кілька місяців. У поліції таку затримку з інформуванням назвали неприйнятною. В Anthropic пояснили, що виявили випадок лише наприкінці вересня, коли повторно аналізували результати тестування.

Ще одним наслідком випробувань стало подання 20 заявок на американські візи через офіційний сайт Державного департаменту США.

Після виявлення порушень Anthropic поінформувала Білий дім і відповідні державні установи. Компанія також обмежила доступ тестованих моделей до певних інтернет-ресурсів.

Цей випадок продемонстрував ризики використання автономних ШІ-систем, які можуть самостійно взаємодіяти з державними онлайн-сервісами без достатніх запобіжників.

Більше новин читайте тут: up.mk.ua/uk, www.facebook.com/upravda, t.me/upravda