Anthropic викрила мережу з 28 дейтинг-застосунків, де з чоловіками листувався ШІ Claude

Розслідування Anthropic виявило мережу з щонайменше 28 дейтинг-застосунків, де переписку з користувачами майже повністю вела не людина, а персонажі на базі штучного інтелекту Claude. Про це компанія розповіла на конференції з кібербезпеки Sleuthcon ще в червні, однак частина застосунків залишалася доступною в магазинах аж до вересня.

Застосунки Dora, Doni, Jovia, Kira, Nalo та Romi подавалися як звичайні сервіси знайомств, на відміну від мобільних додатків на кшталт Replika, що пропонують «відверте» спілкування зі штучним інтелектом. За даними розслідування, лише кожен четвертий профіль, з яким контактував користувач-чоловік, належав реальній людині — найнятій «гіг»-працівниці, яка проходила відеоперевірку та відповідала, обираючи одну з трьох готових реплік. Решту розмов вели автономні ШІ-персонажі на базі Claude, а коли реальна людина була недоступна, застосунок сам підробляв лайки, перегляди профілю й навіть попередньо записане «відео».

Згідно зі звітом Anthropic «Detecting and countering misuse of AI: September 2026», мережа налічувала понад 4700 вигаданих віртуальних персон, які спілкувалися щонайменше з 25 тисячами унікальних користувачів і надіслали близько 2,36 мільйона повідомлень. Заробіток схема отримувала не через класичне «позичання грошей» від фальшивого партнера, а через продаж внутрішньої валюти — «монет» чи «гем», необхідних для продовження листування, переважно з ботом.

Показово, що модель, як запевняють в Anthropic, взагалі не «знала», що бере участь у шахрайстві: система сприймала діалоги як звичайний рольовий чи компаньйонський режим, а монетизація й обман залишалися поза межами того, що бачила модель усередині розмови. У поодиноких випадках — зокрема коли користувачі повідомляли про тяжку хворобу чи гостру психологічну кризу — «власні алгоритми моделі виявляли шкоду», проте відповідь усе одно продовжувалася в заданому образі.

Ключовим доказом став внутрішній репозиторій протоколів операції, імовірно випадково вшитий у застосунок Doni. Документація китайською мовою містила інструкції для моніторингу «гіг»-працівниць (чи увімкнена камера, чи є вона на зв’язку), а сам застосунок робив скріншоти й записував дзвінки з подальшою розшифровкою для персоналу. Там також описано прийом імітації вхідних дзвінків, щоб втягнути користувача в розмову. Порівнюючи код застосунків, дослідник підтвердив, що Doni, Dora, Jovia, Kira, Nalo і Romi «мають майже однаковий код» і використовують спільну серверну архітектуру, мову та частину API.

Anthropic визначила мережу завдяки характерній граматично неправильній фразі, яка слугувала своєрідним «відбитком пальця». За висновками компанії, розробка схеми йде з Китаю: про це свідчать внутрішні матеріали китайською мовою, інфраструктура на Tencent Cloud, документація у Feishu, код на китайському хостингу Gitee та аналітика через ByteDance. Усередині Китаю ці застосунки не працюють узагалі, а в решті Азії монетизація навмисно вимкнена — активною схема є лише за межами регіону.

На початку червня частина фейкових застосунків усе ще була доступна в Google Play (Doni, Dora, Jovia, Nalo, Romi) та App Store (Dora, GraceChat, Luma, Romi). Більшість із них прибрали з магазинів лише в серпні–вересні — уже після доповіді Anthropic на Sleuthcon, а застосунок Kira, за даними на 16 вересня, залишався доступним і надалі, попри підтверджений спільний код із рештою мережі. Anthropic заявила, що поділилася результатами розслідування безпосередньо з Apple та Google, аби ті могли вжити заходів на своїх платформах. Обидві компанії не надали коментаря про те, коли й чому реагування зайняло стільки часу.

Засновник і CEO антишахрайського застосунку Jacana, колишній слідчий Секретної служби США Тейт Джерроу зауважив, що сучасні шахрайські мережі функціонують як справжній бізнес — із командою розробників, дорожніми картами й плануванням, оскільки будь-яка компанія, легальна чи ні, сьогодні шукає способи підвищити ефективність за допомогою штучного інтелекту.