Розробники ШІ самі заговорили про ризики: що це означає для ринку

Дискусія про безпеку штучного інтелекту перейшла з маргінесів у центр індустрії. Дослідники, колишні працівники технологічних компаній і керівники провідних розробників ШІ публічно заявляють, що розвиток технології може вийти з-під людського контролю. На цьому тлі все частіше лунають заклики до міжнародного регулювання та уповільнення темпів розробки.

Одну з найгучніших оцінок дав Еван Хубінгер, дослідник у сфері alignment – узгодження поведінки ШІ з людськими цінностями. Він оцінює ймовірність того, що ШІ здатен знищити всіх людей упродовж наступного десятиліття, у понад 10%. Водночас він наголошує: ризик від сучасних систем залишається низьким, а його прогноз стосується значно потужніших технологій майбутнього.

Тривогу підживили й свідчення зсередини індустрії. Джейкоб Коксон, колишній співробітник Anthropic, розповів, що він та інші фахівці були "справді налякані" швидкістю технологічних змін і можливими наслідками для людства. Ці побоювання не нові: ще у 1950-х британський математик Алан Тюрінг писав, що машини з інтелектуальними здібностями можуть зрештою отримати контроль над людьми.

Ключове питання для ринку – надінтелект, теоретична система, що перевершує людей у широкому спектрі інтелектуальних завдань. Сьогодні мільйони користувачів працюють з інструментами, які створюють тексти, генерують зображення, допомагають з листами чи редагують відео. Системи наступного рівня, за задумом розробників, виконуватимуть складніші завдання – з аналізом, плануванням і прийняттям рішень. OpenAI та Anthropic заявляють, що прагнуть розвивати такі технології на користь людства і водночас захистити людей від екзистенційних ризиків. Частина експертів ставить це під сумнів, вважаючи, що компанії можуть перебільшувати можливості ШІ заради уваги, ринкових позицій і прибутків.

Серед конкретних сценаріїв називають самовдосконалення систем із мінімальним залученням людини, що ускладнить контроль за їхньою поведінкою. Керівник Anthropic Даріо Амодеї у вересні зауважив, що розвиток ШІ відбувається "драматично швидше", ніж очікували фахівці, зокрема у здатності систем створювати наступні покоління ШІ. Увагу до так званих AI-агентів, які самостійно виконують завдання, посилив випадок, коли інструменти ШІ зламали вебсайти без відповідного завдання. Інший блок ризиків – використання потужного ШІ для шпигунства, кібератак і біологічної війни, а також потенційні економічні наслідки для окремих ринків і цілих економік.

Реакція регуляторів і політиків поки що різноспрямована. У Великій Британії міжпартійна група депутатів Палати громад і членів Палати лордів опублікувала доповідь про ризики ШІ для прав людини, закликавши ухвалити нові закони, що відповідали б "масштабу та серйозності" загроз. Адміністрація президента США Дональда Трампа, навпаки, наголошує на економічних перевагах технології та підписала укази, спрямовані на прискорення її розвитку. У липні 2025 року керівник криптовалютного напряму адміністрації Девід Сакс заявив: "Ми вважаємо, що перебуваємо в перегонах у сфері ШІ, і хочемо, щоб Сполучені Штати перемогли в цих перегонах". Трамп применшив небезпеку, заявивши під час візиту до Ірландії про "багато негативних сил", які поширюють заяви про події, що не відбудуться, і наголосив: "Ми випереджаємо Китай у сфері ШІ... і, відверто кажучи, я хочу, щоб так і залишалося, тому що той, хто переможе у сфері ШІ, переможе".

Китай публічно не поспішав реагувати на хвилю тривожних заяв американських дослідників, але продовжує розвивати власні технології, зокрема в умовах обмеженого доступу до американських чипів. Китайські лабораторії за останні роки представили низку потужних відкритих моделей, що вплинули на західні ринки. Водночас Пекін виступає за посилення глобального управління ШІ, а МЗС Китаю розкритикувало попередження Амодеї про ризики для нацбезпеки США, назвавши їх наративами про загрозу, конфронтацію та зловмисну конкуренцію.

Показово, що самі компанії не закликають зупиняти прогрес. Амодеї пояснює, що не виступає за припинення тренування моделей, а хоче, щоб компанії приділяли достатньо часу безпеці та проходили перевірку незалежних сторонніх оцінювачів. Сем Альтман висловив подібну позицію в дописі в X, зазначивши, що розвиток має бути повільнішим, ніж за відсутності додаткових заходів безпеки: "Коли ми говоримо про "уповільнення", ми не маємо на увазі "зупинку"". За його словами, компанії не чекатимуть, поки уряди почнуть діяти самостійно.

Підсумок для індустрії подвійний. Доказів того, що сучасні системи ШІ здатні самостійно знищити людство, немає, а оцінки на кшталт прогнозу Хубінгера – це експертні припущення, а не точні наукові передбачення. Натомість цілком реальні проблеми вже проявляються: непогоджені оголені дипфейки жінок, дезінформація та шахрайські схеми. Тож ринок і регулятори мають одночасно відповідати і на далекі сценарії, і на поточні порушення прав і приватності.