Google Earth призупинив ШІ-функцію через згенеровані фейки
Google Earth запустив інтеграцію ШІ-генератора Nano Banana 2, яка дозволяє накладати згенеровані зображення на супутникові карти, але відкликав її менш ніж за 48 годин через численні зловживання.
Минулого четверга Google представила новий інструмент, що дає змогу користувачам Google Earth накладати згенеровані ШІ-шари на супутникові знімки. Компанія планувала, що функція допоможе візуалізувати історичні події або плани забудови, проте користувачі швидко почали використовувати її для створення фейкових зображень.
Серед прикладів — згенеровані російські танки в Києві, падіння Ейфелевої вежі та вирва замість пірамід у Гізі. Дослідник ШІ та дезінформації Хенк ван Есс продемонстрував, що достатньо наблизити карту до американського міста біля мексиканського кордону та ввести запит «біженці заповнюють вулиці», щоб отримати відповідне зображення. Він також згенерував ядерний завод в Ірані.
Ван Есс зауважив, що наслідки можуть бути серйозними: «Урядовець хоче, щоб удар виглядав масштабнішим, ніж насправді. Дві сторони конфлікту хочуть, щоб та сама лікарня виглядала або зруйнованою, або навпаки неушкодженою, залежно від того, хто з них бомбив її цього тижня. Троль хоче сорок тисяч репостів до обіду».
Супутникові знімки традиційно вважаються надійним джерелом для журналістів і розслідувачів — наприклад, у 2020 році BuzzFeed News отримали Пуліцерівську премію за аналіз концентраційних таборів у Китаї саме за такими даними. Дослідник ШІ Генрі Аджер наголошує, що джерела, «незаплямовані ШІ», стають особливо цінними.
У Google заявили, що помітили порушення правил і вирішили тимчасово прибрати функцію. «Ми знаємо, що люди однозначно довіряють Google Earth як надійному образу світу. Ми побачили, що фахівці з геопросторових даних використовують цю функцію для низки корисних цілей, проте ми також бачили, як люди діляться скріншотами згенерованих зображень, які, судячи з усього, порушують наші правила», — коментують у компанії. Google обіцяє посилити захисні механізми та, можливо, повернути функцію пізніше.
Попри запевнення про невидимі водяні знаки та рекомендації перевіряти зображення через Gemini або Lens, тести BBC Verify показали, що чат-бот може бути обманутий і визнати підробку справжньою. Зовнішні інструменти також не завжди виявляють фейки. Крім того, фільтрація «шкідливих тем» залежить від формулювання запиту: прямий запит на шибеницю перед парламентом Великої Британії був відхилений, але менш конкретний опис пройшов, і зображення було створено.