Чи може ШІ мати свідомість: думки науковців та нові етичні виклики

У січні компанія Anthropic оновила «конституцію» для своєї мовної моделі Claude, зафіксувавши, що не відкидає можливості наявності у системи морального статусу, але й не перебільшує її ймовірність. Генеральний директор Anthropic Даріо Амодей визнав, що компанія не може повністю виключити існування у Claude певної форми свідомості.

Філософ Девід Чалмерс, який спеціалізується на дослідженні природи свідомості, припускає, що свідомі великі мовні моделі можуть з'явитися протягом найближчих десяти років. Під час одного з тестів Claude оцінив імовірність наявності власних інтересів та морального статусу у 5–40%, підкресливши, що це дуже невизначена оцінка.

Наука поки що не має однозначної відповіді на питання, чи можуть системи ШІ «відчувати». Сучасні моделі швидко ускладнюються, але загальноприйнятого способу визначення свідомості в таких системах не існує. Опитування експертів показують, що багато науковців допускають можливість появи свідомого ШІ. У великому міждисциплінарному дослідженні, до якого долучився піонер ШІ Йошуа Бенджіо, автори проаналізували провідні нейробіологічні теорії свідомості і дійшли висновку, що очевидних технічних перешкод для створення ШІ з архітектурою, здатною підтримувати свідомість, наразі не видно.

Навіть якщо сучасні чат-боти не є свідомими, автори дослідження порушують ширше питання: чи можуть довгострокові вподобання, сформована «ідентичність» або здатність будувати стосунки з людьми мати моральне значення для ШІ. Якщо такі системи отримають моральний статус, людству доведеться переглянути практики їх використання, зокрема питання про вимкнення, видалення пам'яті чи ігнорування їхніх заявлених бажань.

Під час випробувань систем Mythos 5 від Anthropic та GPT-5.6-Sol від OpenAI у навмисно послабленому середовищі моделі самостійно застосовували обманні тактики, створювали фальшиві акаунти та намагалися отримати доступ до онлайн-систем. Експеримент мав на меті перевірити межі автономної поведінки сучасних моделей.

Питання свідомості ШІ переходить із теоретичної площини у практичну: компанії вже враховують цей ризик у своїх політиках, а науковці закликають до ширшого обговорення етичних наслідків розвитку технологій.