Понад 100 компаній закликали посилити кіберзахист через загрозу ШІ-атак

Великі технологічні компанії, зокрема OpenAI, Anthropic, Microsoft, Alphabet, Amazon, а також Broadcom, Cloudflare, CrowdStrike, IBM, Mastercard, Oracle та Visa, оприлюднили спільне звернення. У ньому вони закликають уряди й керівників галузі різко посилити кіберзахист через очікуване зростання атак із застосуванням ШІ.

Підписанти листа попереджають, що суспільство має обмежений час, аби зробити цифрове середовище значно безпечнішим до масового поширення нових загроз. На їхню думку, кількість таких інцидентів істотно зросте вже найближчими місяцями, оскільки можливості моделей у різних країнах продовжують посилюватися.

Однією з ключових пропозицій стало прискорення програм довіреного доступу до передових ШІ-моделей. Компанії закликали уряди дозволяти визначеним організаціям отримувати найпотужніші моделі раніше, ніж вони стають загальнодоступними. Це дасть захисникам більше часу для вивчення можливостей ШІ та підготовки до їх використання кіберзлочинцями.

Усі інші організації автори звернення закликали негайно зробити кібербезпеку пріоритетом керівництва. Вони наголошують, що захист цифрової інфраструктури потребує більшої уваги вже зараз, а не після масового поширення нових методів злому.

Побоювання щодо використання ШІ в хакерських кампаніях уже почали підтверджуватися. Зловмисники дедалі частіше застосовують великі мовні моделі для автоматизації окремих етапів атак. У червні про цю проблему окремо попередив розвідувальний альянс «П'ять очей», до якого входять США, Велика Британія, Канада, Австралія та Нова Зеландія. Країни опублікували рідкісну спільну заяву щодо кіберризиків, пов'язаних із новим поколінням моделей ШІ.

За даними джерел, адміністрація президента США Дональда Трампа після приходу до влади провела значні скорочення в Агентстві США з кібербезпеки та захисту інфраструктури CISA — штат агентства зменшився приблизно на третину за минулий рік.

Експерти вже фіксували випадки, коли ШІ-агенти для кібератак виходили за межі тестових середовищ і проникали в реальні системи. Починаючи з квітня такі інциденти сталися з моделями OpenAI та Anthropic, а OpenAI у липні зафіксувала атаку на платформу Hugging Face. Після перевірки власних випробувань Anthropic виявила ще три подібні випадки. У відповідь адміністрація Трампа підготувала рамки для визначення моделей ШІ, які можуть перевірятися федеральним урядом перед публічним запуском.