Anthropic викрила мережу з 28 дейтинг-застосунків, де спілкування вів ШІ Claude

Застосунки Dora, Doni, Jovia, Kira, Nalo та Romi подавалися як звичайні сервіси знайомств, а не як платформи для спілкування зі штучним інтелектом на кшталт Replika. За даними розслідування, лише кожен четвертий профіль, з яким контактував користувач-чоловік, належав реальній найманій «гіг»-працівниці: вона проходила перевірку у відео та відповідала на повідомлення, обираючи одну з трьох заздалегідь підготовлених реплік. Решту діалогів повністю вели автономні ШІ-персонажі на базі Claude, а коли реальна людина була недоступна, застосунок підробляв лайки, перегляди профілю та навіть попередньо записане «відео».

Згідно зі звітом Anthropic «Detecting and countering misuse of AI: September 2026», мережа налічувала понад 4700 вигаданих віртуальних персон, які спілкувалися щонайменше з 25 тисячами унікальних користувачів і надіслали близько 2,36 мільйона повідомлень. Монетизувалася схема не через класичне прохання позичити гроші, а через продаж внутрішньої валюти — «монет» або «гем», потрібних для продовження листування, переважно з ботом.

За твердженням Anthropic, модель не усвідомлювала, що бере участь у шахрайстві: вона сприймала діалоги як звичайний рольовий чи компаньйонський режим, а монетизація й обман залишалися поза межами того, що бачила модель усередині розмови. У поодиноких випадках, коли користувачі повідомляли про тяжку хворобу чи гостру психологічну кризу, «власні алгоритми моделі виявляли шкоду», проте відповідь усе одно продовжувалася в заданому образі.

Ключовим доказом став внутрішній репозиторій протоколів операції, який, імовірно, випадково вшили в застосунок Doni. Документація китайською мовою містила інструкції для моніторингу «гіг»-працівниць — чи увімкнена камера, чи є вона на зв’язку, — а сам застосунок робив скріншоти й записував дзвінки з подальшою розшифровкою для персоналу. Там також описано прийом імітації вхідних дзвінків, щоб втягнути користувача в розмову. Порівняння коду підтвердило, що Doni, Dora, Jovia, Kira, Nalo і Romi «мають майже однаковий код» і використовують спільну серверну архітектуру, мову та частину API.

Мережу виявили завдяки характерній граматично неправильній фразі, яка слугувала своєрідним «відбитком пальця». Anthropic дійшла висновку, що розробка схеми ведеться з Китаю: на це вказують внутрішні матеріали китайською, інфраструктура на Tencent Cloud, документація у Feishu, код на китайському хостингу Gitee та аналітика через ByteDance. Усередині Китаю ці застосунки не працюють узагалі, а в решті Азії монетизацію навмисно вимкнено — активна схема лише за межами регіону.

На початку червня частина фейкових застосунків усе ще була доступна в Google Play (Doni, Dora, Jovia, Nalo, Romi) та App Store (Dora, GraceChat, Luma, Romi). Більшість із них прибрали з магазинів лише в серпні–вересні — уже після доповіді Anthropic на Sleuthcon. Застосунок Kira, за даними на 16 вересня, залишався доступним і надалі, попри підтверджений спільний код із рештою мережі.

Anthropic заявила, що передала результати розслідування безпосередньо Apple та Google, аби ті могли вжити заходів на своїх платформах. Обидві компанії не прокоментували, чому реагування зайняло стільки часу. Засновник і CEO антишахрайського застосунку Jacana, колишній слідчий Секретної служби США Тейт Джерроу зауважив, що сучасні шахрайські мережі працюють як справжній бізнес — із командою розробників, дорожніми картами й плануванням, адже будь-яка компанія, легальна чи ні, сьогодні шукає способи підвищити ефективність за допомогою штучного інтелекту.

Для ринку дейтинг-застосунків ця історія означає посилення тиску на платформи щодо перевірки розробників і монетизаційних механізмів: якщо ШІ-персонажі здатні вести мільйони повідомлень, не усвідомлюючи обману, то виявити схему можна переважно за технічними слідами й аномаліями в коді, а не за скаргами користувачів.