Anthropic викрила мережу з 28 дейтинг-застосунків, де з чоловіками листувався ШІ Claude

Про схему Anthropic розповіла на конференції з кібербезпеки Sleuthcon ще в червні, однак низка застосунків зникла з магазинів лише в серпні–вересні. За даними звіту «Detecting and countering misuse of AI: September 2026», мережа налічувала понад 4700 вигаданих персон, які спілкувалися щонайменше з 25 тисячами унікальних користувачів і надіслали близько 2,36 мільйона повідомлень.

Застосунки Dora, Doni, Jovia, Kira, Nalo та Romi подавалися як звичайні сервіси знайомств — на відміну від додатків на кшталт Replika, що пропонують відверте спілкування зі штучним інтелектом. За даними розслідування, лише кожен четвертий профіль, з яким контактував користувач-чоловік, належав реальній людині — найнятій «гіг»-працівниці, яка проходила перевірку у відео та відповідала, обираючи одну з трьох готових реплік. Решту діалогів вели автономні ШІ-персонажі на базі Claude, а коли реальна людина була недоступна, застосунок сам підробляв лайки, перегляди профілю й навіть попередньо записане «відео».

Монетизація будувалася не на класичному проханні позичити гроші, а на продажі внутрішньої валюти — «монет» чи «гем», потрібних для продовження листування, переважно з ботом. Модель, за твердженням Anthropic, не знала, що бере участь у шахрайстві: вона сприймала діалоги як звичайний рольовий чи компаньйонський режим, а монетизація й обман залишалися поза межами побаченого нею. У поодиноких випадках — зокрема коли користувачі повідомляли про тяжку хворобу чи гостру психологічну кризу — «власні алгоритми моделі виявляли шкоду», проте відповідь усе одно продовжувалася в заданому образі.

Ключовим доказом став внутрішній репозиторій протоколів операції, імовірно випадково вшитий у застосунок Doni. Документація китайською містила інструкції для моніторингу «гіг»-працівниць (чи увімкнена камера, чи вона на зв’язку), а сам застосунок робив скріншоти й записував дзвінки з подальшою розшифровкою для персоналу. Там описано й прийом імітації вхідних дзвінків, щоб втягнути користувача в розмову. Порівняння коду підтвердило, що Doni, Dora, Jovia, Kira, Nalo і Romi «мають майже однаковий код» і використовують спільну серверну архітектуру, мову та частину API. Виявити мережу вдалося за характерною граматично неправильною фразою-«відбитком пальця». За висновками компанії, розробка йде з Китаю: про це свідчать внутрішні матеріали китайською, інфраструктура на Tencent Cloud, документація у Feishu, код на Gitee та аналітика через ByteDance. Усередині Китаю ці застосунки не працюють, а в решті Азії монетизацію навмисно вимкнено.

На початку червня частина фейкових додатків усе ще була доступна в Google Play (Doni, Dora, Jovia, Nalo, Romi) та App Store (Dora, GraceChat, Luma, Romi). Більшість прибрали з магазинів лише в серпні–вересні — вже після доповіді на Sleuthcon, а Kira, за даними на 16 вересня, залишався доступним і надалі, попри підтверджений спільний код із рештою мережі. Anthropic заявила, що поділилася результатами розслідування безпосередньо з Apple та Google, аби ті могли вжити заходів на своїх платформах. Обидві компанії не надали коментаря про те, коли й чому реагування зайняло стільки часу. Засновник і CEO антишахрайського застосунку Jacana, колишній слідчий Секретної служби США Тейт Джерроу зауважив, що сучасні шахрайські мережі функціонують як справжній бізнес — із командою розробників, дорожніми картами й плануванням, оскільки будь-яка компанія, легальна чи ні, сьогодні шукає способи підвищити ефективність за допомогою штучного інтелекту.

Для ринку дейтинг-застосунків і платформ з модерацією це означає подвійний тиск: з одного боку, ШІ знижує витрати на «утримання» користувача в діалозі, з іншого — розслідування показує, наскільки повільно магазини реагують навіть на підтверджені сигнали. Історія також ставить питання про межі відповідальності постачальників моделей: Anthropic наполягає, що Claude не «бачив» монетизації, тоді як самі оператори мережі, схоже, свідомо вибудовували процеси так, аби модель залишалася в ролі співрозмовника.