ШІ може позбавити спецслужби доступу до смартфонів

Штучний інтелект активно трансформує сферу кібербезпеки, допомагаючи дослідникам швидше знаходити помилки в програмному коді. Проте це може мати несподівані наслідки для державних структур, які використовують вразливості для доступу до пристроїв.

Професор криптографії Метью Грін у серпні опублікував допис, у якому поставив провокаційне питання: що станеться, якщо ШІ зробить програмні помилки настільки рідкісними, що правоохоронці та розвідка втратять можливість зламувати пристрої. «Я стурбований тим, що ШІ зробить програмне забезпечення надто захищеним», — написав учений.

Дискусія навколо шифрування триває роками. У 2014 році директор ФБР Джеймс Комі популяризував концепцію «going dark», попереджаючи про неможливість перехоплення даних через наскрізне шифрування. Тоді держави не отримали універсальних «бекдорів», натомість почали купувати спеціальні інструменти для зламу, що використовують конкретні вразливості.

За словами Гріна, цей баланс може зруйнувати саме ШІ. Великі мовні моделі дедалі ефективніші у пошуку помилок: Google повідомляла, що завдяки ШІ виправила за місяць більше помилок у Chrome, ніж за попередні два роки. Дослідниця Луна Тонг, яка працювала у компаніях, що створювали експлойти для урядових клієнтів, називає це «золотою лихоманкою вразливостей», але вважає, що вона тимчасова.

Паоло Станьо, технічний директор Crowdfense, зазначає: «Очевидно, що жодна держава не відмовиться від можливості здійснювати спостереження». Якщо вразливості стануть дефіцитом, уряди можуть повернутися до вимог створювати «бекдори» — приховані механізми доступу, закладені в системи.

Водночас не всі експерти погоджуються з песимістичним сценарієм. Хамід Кашфі з DarkCell вважає, що на кожну знайдену вразливість припадає ще близько 20 невідомих. Єва Галперін з Electronic Frontier Foundation нагадує, що навіть знайдені помилки не завжди швидко виправляються, а поширення «vibe coding» може створювати нові вразливості.

Кеті Муссуріс з Luta Security прогнозує: «Настане момент, коли знаходити вразливості стане значно важче, і це може спровокувати тиск із вимогою вбудовувати бекдори». Вона оцінює, що серйозні обмеження для розвідки США можуть з'явитися щонайменше до наступних президентських виборів.

Головний парадокс полягає в тому, що чим безпечнішими стають пристрої, тим сильнішим може бути політичний тиск на технологічні компанії щодо послаблення захисту. Успішна боротьба з вразливостями може стати причиною для обмеження приватності всіх користувачів.