OpenAI, Anthropic і Google готують саморегулювання ШІ-галузі

OpenAI, Anthropic і Google працюють над концепцією саморегулівної організації для сфери штучного інтелекту. Про співпрацю OpenAI оголосила 15 вересня. Автором ідеї виступає керівник Google DeepMind Деміс Хассабіс: він пропонує модель, подібну до Управління з регулювання фінансової галузі США (FINRA), яке наглядає за брокерами та інвестиційними компаніями.

Ще в липні Хассабіс закликав створити в США структуру, яка тестуватиме найпотужніші ШІ-системи до їхнього потрапляння до користувачів. Фінансувати її, на його переконання, мають передусім самі компанії галузі. «Фінансування має бути значним [...], щоб залучити найкращих технічних фахівців і забезпечити обчислювальні потужності для масштабного тестування», — зазначав він.

Єдиного бачення майбутнього органу немає. Співзасновник і генеральний директор канадської Cohere Ейдан Гомес 13 вересня у блозі звинуватив провідні американські компанії в тому, що під приводом безпеки вони формують «картель». «ШІ потрібні запобіжники. Сперечаються не про це, і так було завжди. Суперечка в тому, хто пише правила, кого допускають до участі та чиї інтереси вони захищають», — написав Гомес.

Дискусія розгортається на тлі посилення тривог у галузі. 9 вересня з Anthropic звільнився Джейкоб Коксон, який раніше працював в OpenAI, заявивши, що ШІ-компанії «грають із нашими життями». 14 вересня колишній дослідник Google DeepMind Білал Чугтаї підтримав ці застереження: «Я щиро вважаю, що ШІ здатен знищити нас усіх і що в нас може закінчуватися час, аби цьому запобігти». 12 вересня генеральний директор Anthropic Даріо Амодей закликав сповільнити розвиток ШІ — його позицію поділяють очільник OpenAI Сем Альтман та Ілон Маск, засновник xAI.

Протилежний табір теж активний. Президент США Дональд Трамп назвав застереження про ризики ШІ «містифікацією». 14 вересня на конференції в Лос-Анджелесі генеральний директор Nvidia Дженсен Хуанг назвав такі прогнози тривожними та безвідповідальними, заявивши, що «похмурі сценарії» про знищення людства ШІ «не ґрунтуються на науці».

Для ринку це означає, що боротьба точитиметься не так навколо самого факту регулювання, як навколо того, хто контролюватиме правила та доступ до участі. Якщо ініціатива трьох компаній набуде інституційної форми, вона може стати першим галузевим майданчиком для тестування найпотужніших моделей — і водночас викликати звинувачення в обмеженні конкуренції з боку менших гравців.