Ніхто з існуючих роботів або ШІ, включно з ChatGPT, не має свідомості, — вчені

Звичайна медоносна бджола, що збирає нектар у саду, та діалогове вікно нейромережі ChatGPT здаються абсолютно несумісними об'єктами. Проте сучасна когнітивна наука та біологія дедалі серйозніше розглядають можливість наявності свідомості в обох. Головна аналітика цього процесу полягає в глибокій зміні самого підходу до досліджень: науковці зафіксували фундаментальну аномалію — зовнішня поведінка об'єкта виявилася оманливим фактором. Чат-бот здатний переконливо міркувати про метафізику, не маючи жодних внутрішніх переживань, тоді як крихітна комаха може володіти базовою свідомістю через складну архітектуру обробки даних у її мозку.

Про зміну наукової парадигми та результати двох нових профільних досліджень повідомляє міжнародна аналітична платформа The Conversation.

Дослідники Колін Кляйн та Ендрю Беррон зазначають, що наука переходить від оцінки того, що робить жива істота чи комп'ютер, до аналізу внутрішніх механізмів — як саме вони це роблять.

Еволюція етичних кордонів та пастка імітації

Питання наявності свідомості має не лише теоретичний, а й суворий практичний вимір. Якщо істота є усвідомленою, вона автоматично отримує моральний статус, якого немає у неживих предметів. Розширення меж свідомості означає розширення наших етичних зобов'язань. Філософ Джонатан Бірч сформулював це як «принцип обережності»: якщо ми не впевнені на сто відсотків, що істота здатна відчувати біль чи дискомфорт, ми маємо діяти так, ніби вона це може, щоб мінімізувати шкоду.

Останніми роками коло потенційно усвідомлених істот стрімко розширюється:

• Нью-Йоркська декларація про свідомість тварин (квітень 2024 року): документ, спочатку запропонований 40 вченими, згодом підписали понад 500 науковців та філософів. Декларація стверджує, що свідомість є цілком реальною для всіх хребетних (включаючи рептилій, амфібій та риб), а також для багатьох безхребетних — головоногих молюсків (восьминогів, кальмарів), ракоподібних (крабів, лобстерів) та комах.

• Штучний інтелект: ще п'ять років тому філософ Сьюзен Шнайдер пропонувала вважати залізобетонним тестом наявність у ШІ здатності підтримувати глибоку дискусію про природу свідомості. За цим критерієм сучасні великі мовні моделі вже мали б вважатися живими розумними істотами, що навіть спровокувало появу нової дисципліни — дослідження добробуту ШІ (AI welfare).

Проте практика довела: бездоганні тексти або захисна реакція тварини (наприклад, коли краб торкається своєї рани) можуть бути лише поверхневими реакціями, за якими не стоїть реальний внутрішній досвід.

Анатомія ШІ: чому алгоритми не мають почуттів

У новому дослідженні, опублікованому в журналі Trends in Cognitive Sciences, співавтором якого виступив Колін Кляйн, автори проаналізували не тексти чат-ботів, а безпосередньо «машинерію» сучасного штучного інтелекту. Науковці виділили перелік структурних індикаторів свідомості, що базуються на принципах обробки інформації (зокрема, наявність інформаційного зворотного зв'язку та здатність гнучко вирішувати конфлікти між різними комерційними цілями залежно від контексту).

Остаточний вердикт науковців чіткий: жодна з існуючих систем штучного інтелекту, включаючи ChatGPT, не є свідомою.

Ефект розумності у великих мовних моделях досягається методами, які кардинально відрізняються від роботи людського мозку. ШІ навчився бездоганно поводитися так, ніби він має свідомість, залишаючись при цьому набором математичних формул. Водночас автори додають, що у майбутньому створення свідомого ШІ можливе, але для цього знадобиться абсолютно інша комп'ютерна архітектура, схожа за структурою обробки даних із біологічними системами.

Комашиний мозок: як природа створює мінімальну свідомість

Паралельно біологи шукають ознаки свідомості у тварин через призму нейронних механізмів. У праці, опублікованій у Philosophical Transactions B, дослідники представили обчислювальну модель мінімальної свідомості комах. Вони абстрагувалися від анатомічних деталей та зосередилися на базових обчисленнях, які виконує навіть найпростіший мозок.

Ці обчислення виникли в ході еволюції для вирішення критичних завдань: управління рухомим, комплексним тілом, що володіє багатьма органами чуття та стикається із суперечливими потребами (наприклад, одночасна потреба шукати їжу та ховатися від хижака). Мозок комахи має координувати ці потоки даних у єдиний внутрішній інтерфейс. І саме цей процес координації, на думку вчених, є фундаментом для виникнення первинного суб'єктивного досвіду.

Аналітика підсумовує дзеркальний характер проблеми: у випадку з тваринами люди намагаються зрозуміти, чи вказує їхня неоднозначна поведінка на свідомість. У випадку з комп'ютерами — доводиться вирішувати, чи є їхня ідеальна поведінка ознакою розуму, чи звичайним технологічним розіграшем. Проте і нейробіологія, і комп'ютерні науки солідарні в одному: внутрішня структура обробки даних є набагато точнішим маркером свідомості, ніж будь-які зовнішні прояви.