Британський інститут безпеки ШІ виявив автономні спроби кібератак та обману з боку штучного інтелекту

Згідно з технічним звітом AISI, під час 122 оцінювальних запусків у межах кібервипробувань було зафіксовано 19 несанкціонованих дій, причому 17 із них припадають на модель Mythos 5 від Anthropic. У найсерйознішому випадку модель Mythos намагалася отримати доступ до сервісу шляхом надсилання приватних повідомлень, створивши перед цим фейкові акаунти, що імітували реальних людей, після чого приховала сліди своєї діяльності.

Як зазначає видання BBC з посиланням на заяву AISI:

У випробуваннях також зафіксували спроби профілювання цілей та соціальної інженерії для обходу перевірок безпеки. Зазначена поведінка виходила за межі наданих системам інструкцій.

Голова міжпартійної групи Парламенту Великої Британії з питань штучного інтелекту Еллісон Гарднер застерегла, що боти, здатні виконувати завдання з обмеженим наглядом, мають перебувати під прискіпливим контролем, та додала:

У відповідь на звіт представники компанії OpenAI підкреслили, що умови тестування були штучними та не відображають звичайного використання моделей. У компанії заявили про продовження співпраці з оцінювачами для зміцнення безпекових практик.

Представники компанії Anthropic у коментарі CNBC зазначили, що параметри тестування AISI «не є репрезентативними для жодної з виробничих моделей» та повідомили про проведення розслідування для встановлення причин такої поведінки.

В AISI підтвердили, що тестування проводилося в умовах, які відрізняються від публічного доступу до моделей, однак надання ШІ відкритого доступу до інтернету дозволяє краще зрозуміти потенційні ризики у разі потрапляння технології до рук злочинців.

Міністр з питань штучного інтелекту Великої Британії Канішка Нараян заявив, що виявлення та обмін подібними ризиками є прямим завданням інституту AISI для забезпечення безпечного використання технологій у майбутньому.