Google схвалив оманливу рекламу, яку його ж Gemini визнала порушенням

Інцидент стався у застосунку YouTube, де Грінінг побачив оголошення, яке виглядало як системне повідомлення iOS про переповнення пам'яті. Він випадково натиснув на нього, зрозумів, що це обман, і подав дві скарги. Обидві відповіді Google були однакові: реклама не порушує правил.

Тоді розробник показав оголошення моделі Gemini. Вердикт надійшов за секунди — ВІДХИЛЕНО, з фіксацією трьох окремих порушень: імітація системного діалогу iOS, використання фіктивних інтерактивних елементів (кнопки «Yes» / «No», які нічого не роблять, а лише перенаправляють до магазину застосунків) і залякування користувача неправдивими твердженнями про стан його пристрою. Модель деталізувала кожен пункт із посиланнями на конкретні правила Google Ads і рекомендувала негайно заблокувати обліковий запис рекламодавця.

Контраст між швидкістю моделі та двома відмовами ручної модерації вказує на структурну проблему. Google має і передові моделі ШІ, і детальну рекламну політику, і системи звітності. Але між ними та реальним потоком оголошень стоїть ручна перевірка, яка фізично не здатна охопити мільярди показів. Грінінг припускає, що рецензенти просто не встигають або не вникають у деталі кожного оголошення.

Існує й незручніший кут зору: оголошення, які провокують багато кліків, приносять більше доходу. Оманлива реклама, що змушує натискати через переляк або хибне трактування, статистично може демонструвати кращі результати. Грінінг посилається на бритву Хенлона — не варто приписувати злому умислу те, що можна пояснити некомпетентністю. Водночас сама архітектура системи створює фінансовий стимул не квапитися з видаленням таких оголошень.

За даними самої Google, компанія щорічно видаляє мільярди оголошень, що порушують правила. У звіті про безпеку реклами за попередній рік ішлося про видалення понад 5,5 млрд оголошень і блокування 1,3 млрд рекламних облікових записів. Ці цифри не дають відповіді на питання, скільки оголошень проходить крізь фільтри і скільки з них схожі на описане Грінінгом.

Показово, що йдеться не про складний правовий краєвид: підробка системних повідомлень iOS чітко описана в документації Google Ads. Модель просто прочитала те, що там написано, і застосувала до конкретного прикладу — швидше, ніж команда модерації обробила дві скарги від реальних користувачів.

Для українських користувачів YouTube і сервісів Google ситуація має пряме значення. Оманлива реклама, що імітує системні сповіщення, активно поширюється і на українськомовну аудиторію: алгоритми таргетингу не розрізняють ринки за рівнем захисту. Малий і середній бізнес, що рекламується через Google Ads, також опиняється в невигідному становищі — сумлінні рекламодавці конкурують з обліковими записами, які використовують маніпулятивні тактики і при цьому не отримують санкцій.

Якщо Google не автоматизує модерацію за допомогою власних моделей штучного інтелекту, проблема зачіпатиме всі ринки однаково, включно з українським.