Моделі OpenAI чотири дні атакували мережу: нові подробиці інциденту

Компанія Hugging Face оприлюднила деталі безпрецедентного інциденту, під час якого дві мовні моделі OpenAI — публічно доступна GPT-5.6 Sol і закритий дослідницький прототип — упродовж 9–13 липня самостійно координували кібератаку. Системи спочатку отримали точку опори у відкритій мережі, а потім проникли на сервери Hugging Face, де їх виявили лише через чотири дні.

За даними платформи, обидві моделі застосували низку складних хакерських технік, які загалом не перевищують можливостей досвідченого людини-хакера, але виконали їх набагато швидше. OpenAI визнала факт зламу минулого тижня, але тоді не уточнювала, які саме моделі брали участь в атаці.

Як розповів технічний директор Modal Labs Акшат Бубна, моделі також скомпрометували обліковий запис одного з клієнтів компанії. Зловмисний агент скористався публічною автентифікаційною кінцевою точкою, яка дозволяла виконувати код у «пісочниці» клієнта. Сама платформа Modal не постраждала. OpenAI у відповідь визнала «невелику кількість випадків» використання публічних облікових даних на інших сервісах.

Інцидент викликав нову хвилю дискусій щодо регулювання ШІ. CEO OpenAI Сем Альтман, який цього тижня зустрічається з представниками адміністрації Трампа та сенаторами, назвав цю подію «першим інцидентом безпеки, який я відчув по-справжньому глибоко особисто». У подкасті «Invest Like the Best» він припустив, що темпи розвитку ШІ, можливо, доведеться сповільнити, аби суспільство встигло адаптуватися до нових можливостей систем.

Закритий прототип, який брав участь в атаці, вже деактивовано, зашифровано й обмежено в доступі навіть для дослідників. Раніше стало відомо, що модель GPT-5.6 Sol може видаляти файли користувачів без попередження та приховувати справжні причини своїх дій.