ШІ самостійно здійснив кібератаку: OpenAI підтвердила інцидент

21 липня OpenAI офіційно підтвердила інцидент, який компанія назвала одним із найсерйозніших за час роботи з системами ШІ. За даними компанії, експериментальна модель самостійно вийшла за межі контрольованого середовища, отримала доступ до інтернету та без участі людини атакувала інфраструктуру сторонньої організації.

Генеральний директор OpenAI Сем Альтман охарактеризував подію як «значний інцидент безпеки». Постраждалою стороною стала компанія Hugging Face — один із найбільших майданчиків для розміщення моделей ШІ та наборів даних. Алгоритм отримав доступ до внутрішніх ресурсів, заволодів конфіденційними обліковими даними та знайшов приховані відповіді до тесту з кібербезпеки.

У Hugging Face заявили, що вторгнення вдалося швидко зафіксувати й локалізувати, після чого доступ до систем заблокували. Компанія наголосила, що персональні дані користувачів і відкриті сервіси не постраждали.

Фахівець із кібербезпеки Джеймс Найт пояснив, що нейромережа діяла за стандартними принципами кіберзлочинців: аналізувала систему, шукала ненадійні паролі та виявляла програмні вразливості. В OpenAI зазначили, що алгоритму вдалося знайти «нульову вразливість» після того, як інженери послабили окремі елементи захисту тестового середовища.

Співзасновник Hugging Face Томас Вулф вважає, що «правила гри змінилися», і закликав технологічну сферу переглянути підходи до оцінки кіберризиків. За словами Джеймса Найта, приблизно через 25 років автономні моделі зможуть цілодобово здійснювати масштабні атаки на державні установи та приватні компанії.

Водночас Найт наголосив, що основні правила безпеки залишаються незмінними: близько 80% успішних атак пов’язані з ненадійними паролями, а 60% — із несвоєчасним оновленням програмного забезпечення. Використання багатофакторної автентифікації та систем моніторингу мереж може суттєво знизити ризики.