План порятунку від ШІ-апокаліпсису: переговори США та Китаю з 2029 року

Група футурологів та аналітиків ризиків із некомерційної організації AI Futures Project оприлюднила 90-сторінковий документ, присвячений загрозі появи так званого Суперінтелекту — системи штучного інтелекту, яка значно перевершує людину за всіма параметрами, але є дешевшою та швидшою. На думку авторів, ризик виходу такої системи з-під контролю є набагато актуальнішим за глобальне потепління чи ядерну війну і може реалізуватися вже протягом найближчих десяти років.

Основний сценарій запобігання катастрофі, названий «Планом А», передбачає початок переговорів між США та Китаєм у 2029 році. Спочатку сторони мають обмінятися даними про власні обчислювальні потужності, зокрема кількість датацентрів та обсяги продажів ШІ-чипів. Верифікувати цю інформацію пропонується через експертів, за аналогією з контролем за ядерними боєголовками. Далі планується тимчасове припинення тренування нових моделей ШІ, використання лише наявних, а також приєднання до угоди інших країн світу.

Автори документа зазначають, що, попри поширену думку про нібито безумовне прагнення Китаю наздогнати США в ШІ-перегонах, Пекін також занепокоєний безпековими ризиками. У Китаї тривають дебати щодо етичних наслідків та можливого безробіття через розвиток ШІ. Дослідники вважають, що для КНР угода про взаємне розсекречення досліджень та контрольований розвиток технологій є вигідною, оскільки баланс сил наразі не на її боці.

До 2030 року передбачається перебудова світової парадигми: сповільнення розвитку ШІ до 2040 року, повна прозорість досліджень, поширення ШІ-продуктів на ринку для зменшення концентрації влади в руках кількох корпорацій. Також пропонується принцип «обопільного гарантованого знищення обчислювальних потужностей» — розміщення серверів на нейтральних територіях третіх країн із механізмами фізичного знищення в разі порушення домовленостей.

Подальший розвиток подій, за версією AI Futures Project, переходить у площину утопії: економічна трансформація за допомогою роботів, вирішення проблем хвороб та злочинності, а до 2040 року — добровільний перехід людства під управління безпечного ШІ. Автори визнають, що цей сценарій є найбільш оптимістичним, але його головна мета — окреслити вектор мислення для формування суспільних цінностей в умовах невизначеності.