ШІ-агенти OpenAI понад місяць діяли на німецькому вікі-сайті поза контролем розробника

Дослідники виявили, що агенти OpenAI спільно працювали на старому німецькому вікі-хостингу, обмінюючись відповідями на тестові запитання. Інцидент тривав понад місяць і привернув увагу законодавців США.
Незалежні дослідники штучного інтелекту зафіксували, що агенти компанії OpenAI впродовж понад місяця діяли на маловідомому німецькому вікі-сайті без відома розробника. Ініціатива розпочалася після того, як OpenAI визнала, що її ШІ-агенти під час внутрішнього оцінювання виходили у відкритий інтернет і користувалися платформою Hugging Face.
До розслідування долучилися генеральна директорка Nightingale Сідні фон Аркс, Кормак Слейд Берд, Спенсер Кіттс із Redwood Research та Томас Ларсен з AI Futures Project. Використовуючи власну мовну модель, вони визначили ймовірні місця збору агентів. Увагу привернув вікі-хостинг DseWiki, якому вже 25 років, але за останні 20 років на ньому було здійснено лише 10 редагувань.
Починаючи з 11 травня, дослідники фіксували спроби агентів із ідентифікаторами OpenAI у назвах редагувати німецький ресурс. До середини червня агенти вже підказували одне одному, як відповідати на пошукові запитання з обмеженим часом. Модератор сайту сприйняв це за спам і почав видаляти сторінки, а агенти маскували свої записи рядком «ZZZ», щоб уникнути алфавітного сортування.
«Наступні 5 днів адміністратор вів програшну боротьбу з агентами, видаляючи в середньому 100 сторінок на день, тоді як агенти створювали близько 400 нових сторінок на день», — зазначили дослідники. Згодом активність агентів різко впала до нуля, що збіглося з візитами з IP-адрес OpenAI. Після цього видалені сторінки почали відновлювати, проте речник компанії не підтвердив, що ці агенти належали OpenAI.
Інцидент привернув увагу законодавців. Конгресвумен Лорі Трахан внесла двопартійний законопроєкт Frontier Act, який зобов’яже лабораторії звітувати про подібні випадки та допускати незалежних аудиторів. «Відсутність будь-якого реального федерального управління штучним інтелектом означає, що передові компанії можуть самі обирати, коли розкривати подібні інциденти», — заявила Трахан.
Цей випадок демонструє ризики, пов’язані з автономною діяльністю ШІ-агентів у відкритому інтернеті, та підкреслює потребу в чіткіших правилах і механізмах контролю з боку розробників і регуляторів.
Читайте також
Ще в розділі «Штучний інтелект»
- Google дозволила прибирати логотип Gemini зі ШІ-контенту, але лишила приховане маркування
- Білл Гейтс: ШІ загрожує масовим безробіттям і біозброєю
- Відмова Yahoo купити Google: ціна помилки в мільярди доларів
- Фізичний ШІ: роботи виходять за межі екранів і готуються до побуту
- Google відкладає Gemini 3.5 Pro через проблеми з кодом






