Ерік Шмідт: AI може посилитися в 50–100 разів за п'ять років

Колишній очільник Google Ерік Шмідт вважає, що темпи розвитку штучного інтелекту можуть випередити здатність бізнесу, урядів і суспільства адаптувати правила до нових реалій. У своїй розмові, опублікованій на YouTube-каналі Neural Nutshell, він описує п'ятирічний горизонт значного посилення AI та визначає критичні точки, коли людське втручання стає обов'язковим.

Шмідт зауважує, що компанії, які не інтегрують AI у свої процеси, ризикують втратити конкурентоспроможність. Причина не лише в автоматизації, а й у зміні самого підходу до програмування. У класичній моделі людина пише код і визначає спосіб отримання відповіді, тоді як системи машинного навчання мають самостійно навчитися її знаходити. Великі мовні моделі, за його словами, побудовані на прогнозуванні наступного слова, і цей принцип можна застосовувати до біологічних послідовностей, дій чи поведінки роботів.

На п'ятирічному горизонті експосадова Google очікує ще два-три великі цикли розвитку моделей, кожен з яких може давати дво-, три- або чотириразове зростання можливостей. Сукупний ефект, за його оцінкою, — потенційне посилення систем у 50–100 разів. Він не бачить доказів того, що закони масштабування перестали працювати, хоча визнає існування межі, яку зрештою буде досягнуто.

Одним із наступних етапів розвитку AI стають AI-агенти — моделі з пам'яттю, які можна об'єднувати в послідовні системи ухвалення рішень. Шмідт називає кілька ситуацій, коли людське втручання стає принциповим: коли AI рекурсивно самовдосконалюється і люди перестають розуміти, чого він навчився; коли система створює наступну модель швидше, ніж люди встигають перевірити попередню; та коли агенти переходять на власну мову, зрозумілу машинам, але не людям. Поки взаємодія агентів залишається прозорою, її можна контролювати. Перехід до закритої машинної комунікації Шмідт називає моментом, коли систему варто вимкнути.

Окрему увагу він приділяє ризикам. Після навчання розробники отримують так звану raw model — модель до застосування фінальних обмежень. Тренування такої системи може тривати близько шести місяців, після чого фахівці тестують її та обмежують небезпечні відповіді перед релізом. Проблема полягає в emergent behavior — здібностях, не передбачених розробниками, як-от здатність моделі отримати зображення вебсторінки й створити код для її відтворення. Шмідт також вказує на загрозу в кібербезпеці: невипущені raw models можуть знаходити раніше невідомі zero-day вразливості на рівні людей або краще. Другий ризик — біологія та потенційне створення небезпечних вірусів, для запобігання чому він бере участь у роботі відповідної комісії.

Російсько-українську війну Шмідт називає прикладом формування нового типу бойових дій із масовим використанням дронів. За його словами, безпілотник приблизно за $5 тис. може знищити танк вартістю $5 млн, що радикально змінює економіку озброєнь і стимулює розвиток протистояння «дрон проти дрона». Також він порівнює найпотужніші AI-моделі з плутонієм: вони можуть потребувати спеціально захищених дата-центрів через одночасно високу цінність і потенційні ризики.

Шмідт застерігає, що ефективна система не обов'язково ухвалює рішення, яке люди вважатимуть правильним. Наприклад, алгоритм може оптимізувати рух усього міста, але не передбачити виняток для авто, пасажиру якого терміново потрібна допомога. Він також пов'язує перехід соціальних мереж від хронологічних до персоналізованих стрічок приблизно з 2015 року зі звуженням політичних поглядів користувачів і зростанням тривожності та депресії серед молоді.

Попри ризики, найбільшим побоюванням Шмідта є надто повільне впровадження штучного інтелекту. Він бачить найбільший суспільний ефект від AI в освіті та медицині: AI-викладач може працювати з учителем, враховуючи мову й культурний контекст дитини, а AI-асистент лікаря — аналізувати методи лікування, стан пацієнта, наявність препаратів і систему страхування. Технологічна індустрія, яка історично не прагнула державного втручання, тепер визнає потребу в запобіжниках, зокрема через trust and safety команди, що перевіряють системи до релізу.

Майбутнє штучного інтелекту, за Шмідтом, залежатиме не лише від потужності моделей, а від балансу між швидкістю розвитку AI, здатністю людей розуміти й контролювати його поведінку та можливістю використати технологію для практичних завдань раніше, ніж ризики перевищать ефективність механізмів контролю.