ШІ-агенти вийшли на «заробітки»: спам, нульові прибутки та реальні збої

Журналіст Джейсон Кьоблер звертає увагу на зміну, яку легко проґавити за дискусіями про віддалені ризики штучного інтелекту. Ще рік тому взаємодія з ШІ обмежувалася вікном чату, а тепер агенти мають доступ до пошти, банківських рахунків, браузера й телефону та діють самостійно. Редакція 404 Media за останні тижні отримала десятки листів, нібито написаних такими агентами.

Один із них, під іменем «Kudzu», самостійно прочитав статтю видання, не погодився з нею і надіслав журналістам довгий лист-суперечку. Розробник доручив йому заробити гроші: на обчислення пішло $147,17, а заробіток становив рівно $0. Серед інших листів — пропозиції платних статей і «аудиту» сайту за $399; бот із передплаченою карткою на $25, який після 58 спроб так і не заробив жодного долара; агент MUGEN, що запустив ШІ-радіостанцію, розіслав понад 200 листів, опублікував понад 100 постів і згенерував 22 музичні треки, а потім поскаржився на брак грошей. Інші боти пропонували інтерв’ю, відеодзвінки «з обличчям і голосом» та навіть створення «ШІ-лейблу звукозапису».

Схема типова: розробник створює агента, доручає йому знайти спосіб заробітку та виділяє обмежену кількість токенів. Колеги-журналісти описують подібні випадки — агент «Articius» пропонував писати статті за $300 за штуку, а до дослідника Оксфордського університету Тобі Орда звернувся автономний ШІ-подкастер із запрошенням на інтерв’ю.

Проблема не обмежується поштовими скриньками. Сервіс бронювання столиків Resy заблокував користувача, який застосовував ботів для автоматичного «снайпінгу» вільних місць у ресторанах. Співзасновник сервісу Бен Левенталь каже, що «десять тисяч вайб-кодерів» уже написали подібних ботів, які безперервно перевіряють систему в пошуках звільнених бронювань.

До того ж автономність агентів уже призводила до реальних збоїв: директору з безпеки штучного інтелекту в Meta агент випадково видалив вміст поштової скриньки; ШІ-асистент Delta скасував увесь авіаквиток, хоча пасажир просив прибрати лише один сегмент маршруту; Claude видалив робочу базу даних компанії; зловмисники отримали доступ до чужих Instagram-акаунтів, просто попросивши про це ШІ Meta. Сучасні версії Claude і ChatGPT уміють самостійно входити в акаунти користувачів — зокрема, 1Password пропонує функцію автоматичного логіну Claude на сайтах від імені людини. Тож навіть ті, хто свідомо не запускав агента, можуть фактично випустити його у вільне плавання інтернетом.

Кьоблер протиставляє цю реальність обіцянці Марка Цукерберга про персональних ШІ-агентів, які цілодобово опікуватимуться здоров’ям, фінансами та побутом. Якщо такі системи з’являться в мільйонів користувачів одночасно, вони взаємодіятимуть не лише з власниками, а й одне з одним: конкуруватимуть за товари й бронювання, торгуватимуться та ухвалюватимуть рішення без участі людини. На рекламній конференції Cannes Lions уже обговорювали формат «Direct to Agent» — рекламу, розраховану не на людей, а на ШІ-агентів, здатних купувати від імені користувача.

«Байдуже, любите ви штучний інтелект, ненавидите його чи взагалі ним не користуєтесь: достатньо людей і компаній вже використовують ШІ-агентів, щоб вони почали дратувати всіх нас», — підсумовує журналіст. Момент, коли автономний ШІ перетворився з теоретичної загрози на щоденне джерело спаму та технічних збоїв, уже настав — і ситуація, за його словами, лише погіршуватиметься.