Google DeepMind заснувала інститут для ширшого обговорення розвитку AGI

До керівництва DeepMind Institute увійшли співзасновник DeepMind Шейн Легг, очільник підрозділу Google Джеймс Маніка та колишній голова Google DeepMind Деміс Гассабіс. Легг також обійматиме посаду головного редактора інституту.

За задумом засновників, інститут досліджуватиме розбіжності в поглядах між Google, Google DeepMind і ширшою науковою спільнотою щодо розвитку AGI. У повідомленні компанії зазначено: «Вони (компанія та науковці) не завжди матимуть однакову думку і, ймовірно, змінюватимуть свої погляди в міру появи нових даних та інформації на цьому стрімкому етапі розвитку технологій».

Першою публікацією інституту стала добірка з чотирьох есе — про економічні наслідки AGI, прозорість моделей, принципи процвітання людства та методи оцінювання передових систем ШІ. В одному з матеріалів дослідники безпеки DeepMind Рохін Шах та Анка Драган розглядають проблему «вікна прозорості»: на їхню думку, втрата можливості перевіряти покрокові міркування ШІ не є неминучою, навіть якщо нові архітектури ускладнюють моніторинг. Вони пропонують відкрито обговорювати компроміси між продуктивністю та безпекою і розглянути обмеження «непрозорої послідовної глибини» — обсягу внутрішніх обчислень без зрозумілого людині ланцюжка міркувань. Альтернатива — вимагати від розробників доводити, що менш прозорі системи придатні для ефективного моніторингу.

В окремому есе Деміс Гассабіс пропонує створити в США орган зі встановлення стандартів для передових систем ШІ. Компанії спершу добровільно подаватимуть моделі на перевірку приблизно за 30 днів до запуску. Якщо система підтвердить ефективність, успішне оцінювання може стати обов'язковою умовою для розгортання найпотужніших моделей у США. На старті критерії розроблятимуть разом із компаніями, але згодом перевірки мають стати незалежними та конфіденційними, щоб моделі не адаптувалися під відомі тести. Гассабіс також допускає посилення механізмів за потреби: «якщо того вимагатиме серйозність ситуації» можливе узгоджене сповільнення темпів розробки передових систем ШІ.

Запуск DeepMind Institute відбувається на тлі змін у дискусії про безпеку ШІ: галузь дедалі більше переходить від загальних застережень до конкретних пропозицій щодо зовнішнього контролю, розкриття інформації та запобіжників на випадок, якщо розвиток технологій випереджатиме заходи безпеки.

Для ринку це означає, що найбільший гравець у сфері ШІ публічно виносить питання регулювання та прозорості моделей на окремий майданчик. Якщо ідея добровільної сертифікації перед запуском переросте в обов'язкову, це може змінити графіки релізів і витрати розробників у США, а також задати орієнтир для регуляторів в інших країнах.