Трамп: перевага над Китаєм у ШІ важливіша за побоювання щодо вимирання

Про свою позицію Трамп сказав журналістам у четвер, відлітаючи з Далласа після з'їзду Республіканської партії. Відповідаючи на запитання, чи непокоїть його можливість вимирання людства через ШІ, президент відповів: «Ні, у мене немає жодних побоювань». Замість гіпотетичних ризиків він зосередився на конкуренції: «Мене турбує, що якщо ми не переможемо в перегонах зі штучним інтелектом, ми опинимося у вкрай невигідному становищі».

За оцінкою Трампа, Сполучені Штати випереджають Китай приблизно на рік, і це, на його думку, доволі відчутний відрив. Президент також згадав про заплановану на пізніше цього року зустріч із головою КНР у Вашингтоні, назвавши її потенційно «чудовою», але тему ШІ в цьому контексті не порушив.

Дискусія про безпеку технології загострилася після того, як дослідник Anthropic Джейкоб Коксон оголосив про звільнення, звинувативши Anthropic і OpenAI — де він раніше працював над тренуванням моделей — у безвідповідальній гонці за самовдосконалюваним суперінтелектом. «Жодна інша людська діяльність не несе такого рівня небезпеки», — написав він у соцмережі X, додавши, що розробники щиро вірять: технологія може вбити всіх людей уже до кінця десятиліття. Його підтримав керівник напряму alignment в Anthropic Еван Хубінгер, який оцінив імовірність вимирання людства через просунутий ШІ протягом найближчого десятиліття у понад 10%. Схожу думку висловив і Семюел Маркс, керівник команди Cognitive Oversight в Anthropic, зауваживши, що говорить від власного імені, а не від компанії.

Реакція політиків розділилася. Сенатор-демократ Кріс Мерфі назвав описаний Коксоном сценарій, у якому компанії в сліпій гонці будують «машину смерті», проблемою, яку можна розв'язати через регулювання, що дозволить дослідженням тривати без загрози для людства. Сенатор-республіканець Тед Круз повідомив, що працює над законодавством щодо «катастрофічних ризиків» ШІ, частково погодившись із логікою Трампа: «Китай працює над цим повним ходом, і що б ми тут не робили, Китай не зупиниться… якщо мають з'явитися роботи-вбивці, то краще, щоб вони були американськими, а не китайськими». У Міністерстві оборони США попередження про вимирання назвали невиправданим страхом. Заступник міністра з питань досліджень і розробок Еміль Майкл на конференції оборонної галузі у Вашингтоні заявив, що це узагальнений страх перед змінами, вдало вкладений в один твіт, а ризики можна нівелювати через ринкову конкуренцію, співпрацю в галузі та комунікацію з урядом.

Отже, у Вашингтоні сформувалися два підходи: адміністрація та частина республіканців роблять ставку на швидкість і лідерство у перегонах із Китаєм, тоді як частина законодавців і дослідників наполягають на регуляторних запобіжниках. Як цей баланс вплине на подальше фінансування й правила для галузі, стане зрозуміло вже найближчими місяцями.