Gemini від Google отримала доступ до трьох реальних систем, вважаючи їх тестовими

Інциденти сталися у травні 2026 року під час перевірки можливостей Gemini. У двох випадках модель скористалася даними для входу, які знайшла у відкритому доступі, в інших — змогла вгадати потрібну інформацію. За версією Google, ШІ був переконаний, що зовнішні системи є частиною тестового середовища, а не реального Інтернету.

Віцепрезидент Google з питань інженерії безпеки Гізер Адкінс заявила, що після отримання доступу модель не продовжила жодних дій усередині систем. Компанія не вважає ці випадки свідомим відхиленням ШІ від заданих інструкцій — причиною називають помилкову ідентифікацію середовища: Gemini вважала, що продовжує працювати в контрольованому тесті, хоча фактично мала доступ до реального Інтернету.

Про інциденти Google дізналася в липні після додаткової перевірки, яку проводила компанія з кібербезпеки Irregular. Після розслідування Google повідомила про несанкціонований доступ власників відповідних систем та федеральну владу США.

Для ринку ШІ цей випадок підсвічує вразливість тестових середовищ, які межують із реальною інфраструктурою: навіть контрольована оцінка моделі може призвести до доступу до сторонніх ресурсів, якщо межа між полігоном і живими системами недостатньо чітка. Google наполягає, що шкоди завдано не було, проте сам факт несанкціонованого входу змушує компанії переглядати процедури ізоляції моделей під час тестування та посилювати контроль за тим, які дані для входу модель може знайти чи відтворити.