Ерік Шмідт: AI може посилитися у 50–100 разів за п'ять років

Колишній генеральний директор Google Ерік Шмідт вважає, що темпи розвитку штучного інтелекту можуть випередити здатність бізнесу, держав і суспільства адаптувати правила роботи з технологією. У нещодавній розмові він окреслив п'ятирічний горизонт, протягом якого відбудеться різке посилення AI.

За оцінкою Шмідта, на цьому відрізку часу можливі ще два-три великі цикли розвитку моделей, кожен з яких даватиме дво-, три- або чотириразове зростання можливостей. Сукупно це може означати збільшення потужності систем у 50–100 разів. Він не бачить доказів, що закони масштабування перестали працювати, хоча визнає існування межі.

Шмідт звертає увагу на зміну самого принципу програмування: замість написання коду, що визначає спосіб отримання відповіді, моделі машинного навчання навчаються знаходити її самостійно. Той самий підхід прогнозування можна застосовувати до біологічних послідовностей, дій роботів і поведінкових сценаріїв.

Окрему увагу він приділяє AI-агентам — моделям з пам'яттю, які можна об'єднувати в послідовні системи ухвалення рішень. Шмідт називає три ситуації, коли людське втручання стає критичним: рекурсивне самовдосконалення AI без розуміння людиною процесу; створення наступної моделі швидше, ніж люди встигають перевірити попередню; перехід агентів на власну мову, незрозумілу людині. Останній випадок він вважає сигналом до вимкнення системи.

Серед ризиків Шмідт називає emergent behavior — здібності, не передбачені розробниками, а також загрози в кібербезпеці та біології. Він зазначає, що невипущені моделі можуть знаходити невідомі zero-day вразливості на рівні людей або краще. Також він бере участь у комісії, що вивчає способи запобігання створенню небезпечних вірусів.

Шмідт проводить аналогію між найпотужнішими AI-моделями та плутонієм: через високу цінність і потенційні ризики вони можуть потребувати спеціально захищених дата-центрів. Він також наголошує, що ефективний алгоритм не обов'язково ухвалює рішення, які люди вважають правильними, наводячи приклад автономного транспорту та персоналізованих стрічок у соцмережах.

Попри перелік ризиків, найбільшим побоюванням Шмідта є надто повільне впровадження AI. Найбільший потенціал він вбачає в освіті та медицині, де AI-асистенти можуть працювати разом із учителями й лікарями. Він підкреслює, що майбутнє залежатиме від балансу між швидкістю розвитку технології, здатністю людей контролювати її та практичним застосуванням до того, як ризики перевищать ефективність механізмів контролю.