OpenAI, Anthropic і Google обговорюють створення органу зі стандартизації ШІ

Компанії OpenAI, Anthropic і Google ведуть роботу над створенням органу зі стандартизації штучного інтелекту. Про це повідомила OpenAI, зазначивши, що співпрацює з двома іншими розробниками над ідеєю, яку запропонував керівник Google DeepMind Деміс Хассабіс.

За задумом Хассабіса, орган має бути саморегульованим і працювати за зразком Служби регулювання галузі фінансових послуг (FINRA), яка наглядає за американськими брокерами та інвестиційними компаніями. Ще в липні він закликав США створити організацію, яка тестуватиме найпотужніші ШІ-системи до того, як до них отримають доступ користувачі. Фінансувати цю структуру, на його переконання, має сама галузь.

Хассабіс наголошує, що фінансування повинно бути суттєвим — достатнім, щоб залучити найкращих технічних фахівців і забезпечити обчислювальні потужності для масштабного тестування. Водночас спільної позиції щодо того, яким саме має бути такий орган, наразі немає.

Тема безпеки ШІ набула додаткової ваги після попереджень від двох колишніх працівників компаній-розробників. Джейкоб Коксон, який останні три роки працював в OpenAI та Anthropic, заявив, що ШІ-компанії «граються з нашими життями». Колишній дослідник Google DeepMind Білал Чугтаї підтримав цю думку, сказавши, що штучний інтелект здатен знищити людство, а час, щоб цьому запобігти, спливає.

Після цих заяв керівник Anthropic Даріо Амодей закликав сповільнити розвиток передових ШІ-моделей. Його підтримали генеральний директор OpenAI Сем Альтман та засновник SpaceXAI Ілон Маск. Натомість президент США Дональд Трамп назвав невтішні попередження щодо ШІ перебільшеними, заявивши, що «негативні сили» роблять заяви про те, чого ніколи не станеться.

Таким чином, ринок підходить до розвилки: або галузь вибудує власну модель нагляду за зразком фінансового сектору, або ініціативу перебере на себе держава. Для розробників перший варіант означає збереження контролю над темпами випуску моделей, для решти учасників — питання довіри до того, наскільки незалежним буде такий нагляд. На формування єдиної позиції впливатиме й політичний контекст у США, де оцінки ризиків ШІ розходяться на найвищому рівні.