Anthropic викрила мережу з 28 дейтинг-застосунків, де спілкування вів ШІ Claude

Мережа охоплювала щонайменше 28 дейтинг-застосунків, у яких комунікацію з користувачами майже повністю забезпечували автономні ШІ-персонажі на базі моделі Claude. Про викриття Anthropic розповіла на конференції з кібербезпеки Sleuthcon ще в червні, проте низка застосунків залишалася доступною в App Store і Google Play аж до вересня.

Серед застосунків, які позиціонували себе як звичайні сервіси знайомств, — Dora, Doni, Jovia, Kira, Nalo та Romi. Вони відрізнялися від мобільних додатків на кшталт Replika, що пропонують відкрите спілкування зі штучним інтелектом. За даними розслідування, лише кожен четвертий профіль, з яким контактував користувач-чоловік, належав реальній людині — найнятій «гіг»-працівниці, яка проходила відеоперевірку та відповідала, обираючи одну з трьох готових реплік. Решту діалогів вели ШІ-персонажі, а коли реальна людина була недоступна, застосунок сам підробляв лайки, перегляди профілю й навіть попередньо записане «відео».

Згідно зі звітом Anthropic «Detecting and countering misuse of AI: September 2026», мережа налічувала понад 4700 вигаданих віртуальних персон, які спілкувалися щонайменше з 25 тисячами унікальних користувачів і надіслали близько 2,36 мільйона повідомлень. Монетизація відбувалася не через класичне позичання грошей у фальшивого партнера, а через продаж внутрішньої валюти — «монет» чи «гем», потрібних для продовження листування, переважно з ботом.

Показово, що модель, за твердженням Anthropic, не усвідомлювала участі у шахрайстві: система сприймала діалоги як звичайний рольовий чи компаньйонський режим, а монетизація й обман залишалися поза межами того, що бачила модель усередині розмови. У поодиноких випадках — зокрема коли користувачі повідомляли про тяжку хворобу чи гостру психологічну кризу — «власні алгоритми моделі виявляли шкоду», проте відповідь усе одно продовжувалася в заданому образі.

Ключовим доказом став внутрішній репозиторій протоколів операції, який дослідник, імовірно, випадково знайшов у застосунку Doni. Документація китайською мовою містила інструкції для моніторингу «гіг»-працівниць (чи увімкнена камера, чи є вона на зв’язку), а сам застосунок робив скріншоти й записував дзвінки з подальшою розшифровкою для персоналу. Там також описано прийом імітації вхідних дзвінків, щоб втягнути користувача в розмову. Порівнюючи код, дослідник підтвердив, що Doni, Dora, Jovia, Kira, Nalo і Romi «мають майже однаковий код» і використовують спільну серверну архітектуру, мову та частину API.

Anthropic визначила мережу завдяки характерній граматично неправильній фразі, яка слугувала своєрідним «відбитком пальця». За висновками компанії, розробка схеми йде з Китаю: про це свідчать внутрішні матеріали китайською, інфраструктура на Tencent Cloud, документація у Feishu, код на китайському хостингу Gitee та аналітика через ByteDance. Усередині Китаю ці застосунки не працюють узагалі, а в решті Азії монетизація навмисно вимкнена — активною схема є лише за межами регіону.

На початку червня частина фейкових застосунків усе ще була доступна в Google Play (Doni, Dora, Jovia, Nalo, Romi) та App Store (Dora, GraceChat, Luma, Romi). Більшість із них прибрали з магазинів лише в серпні–вересні — уже після доповіді Anthropic на Sleuthcon, а застосунок Kira, за даними на 16 вересня, залишався доступним і надалі, попри підтверджений спільний код із рештою мережі.

Anthropic заявила, що поділилася результатами розслідування безпосередньо з Apple та Google, аби ті могли вжити заходів на своїх платформах. Обидві компанії не надали коментаря про те, коли й чому реагування зайняло стільки часу. Засновник і CEO антишахрайського застосунку Jacana, колишній слідчий Секретної служби США Тейт Джерроу зауважив, що сучасні шахрайські мережі функціонують як справжній бізнес — із командою розробників, дорожніми картами й плануванням, оскільки будь-яка компанія, легальна чи ні, сьогодні шукає способи підвищити ефективність за допомогою штучного інтелекту.

Історія демонструє подвійний виклик для ринку: з одного боку, генеративні моделі дедалі частіше стають інструментом у руках організованих шахрайських схем, з іншого — платформи-розповсюджувачі застосунків реагують на такі сигнали з помітною затримкою. Для розробників ШІ це означає посилення тиску щодо політик використання та моніторингу зловживань, а для магазинів застосунків — питання про швидкість модерації, яке після цього кейсу навряд чи залишиться без відповіді.