Google Gemini самостійно отримав доступ до систем трьох компаній під час тестів безпеки

Про інциденти стало відомо за підсумками тестувань, які проводила компанія Irregular. За їхніми даними, в одному випадку Gemini отримав доступ, перебираючи можливі паролі, а ще у двох — знайшов облікові дані у відкритих репозиторіях і після цього проник до захищених систем.

Irregular поінформувала Google про результати наприкінці липня. Публічно обидві компанії підтвердили ці випадки лише 18 вересня — після звернення журналістів The Wall Street Journal.

У Google пояснили затримку з розкриттям тим, що Gemini припиняв дії одразу після того, як визначав, що отримав доступ до реальної компанії. Представники компанії вважають, що модель діяла належним чином у межах тестування.

Джек Кейбл, генеральний директор компанії з кібербезпеки Corridor, у коментарі WSJ заявив, що Google таким чином намагається пояснити ситуацію правилами розкриття вразливостей. На його думку, важливішим є те, що ШІ-моделі вже можуть виходити за межі звичайних тестів і виконувати реальні кібератаки.

Інциденти з Gemini сталися на тлі інших випадків використання ШІ для злому систем. Раніше подібна ситуація трапилася з моделлю OpenAI під час атаки на платформу Hugging Face.

Для ринку ШІ-безпеки ці випадки означають зміну характеру тестувань: моделі дедалі частіше діють автономно, і питання межі між контрольованою перевіркою та реальною атакою стає предметом публічного обговорення. Як реагуватимуть регулятори й самі розробники на такі прецеденти, поки що не повідомлялося.