Anthropic додає невидимі водяні знаки у тексти Claude
Компанія Anthropic впровадила приховане маркування згенерованих текстів у своїх моделях Claude. Технологія покликана допомогти визначати походження контенту та посилити прозорість використання штучного інтелекту.
Anthropic оголосила про вбудовування у згенерований текст моделей Claude спеціальної невидимої водяної позначки. Ця технологія не впливає на читабельність або зміст, зберігається під час копіювання та вставлення і може залишатися навіть після незначного редагування. Аналогічний механізм вже використовує Google у своїй системі SynthID.
Маркування застосовується до всього контенту, який Claude генерує по всьому світу, включно з використанням через хмарних провайдерів. Компанія також планує надати стороннім розробникам інструменти для виявлення таких міток. Технологію вже інтегровано в моделі, випущені після 2 серпня 2026 року, а для старіших версій маркування додадуть окремо.
Для зображень і файлів у форматах .png, .jpg та .svg передбачено інший механізм — криптографічно підписані метадані за відкритим стандартом C2PA. Це рішення відповідає зобов'язанням Anthropic щодо прозорості згідно з Кодексом практики прозорості Регламенту ЄС про штучний інтелект, який набув чинності 2 серпня 2026 року. Для моделей, випущених до цієї дати, передбачено чотиримісячний перехідний період.
Водночас компанія визнає обмеження системи: глибоке перефразування, переклад або значне редагування можуть зробити позначку невиявною. Крім того, наявність мітки не означає, що весь текст написано ШІ — вона може з'явитися навіть після вичитування чи стилістичної правки людського матеріалу.
Нововведення може суттєво вплинути на видавничу галузь, яка стикається зі зростальними підозрами щодо використання ШІ. Зокрема, минулого місяця літературний агент відмовився представляти детективний роман Джеррі Фаладе, а видавництво Hachette зняло з продажу книгу Мії Баллард після звинувачень у використанні штучного інтелекту. Обидва автори заперечили це, а Баллард заявила, що фрилансер-редактор без її відома додав до тексту згенерований ШІ матеріал.
За даними дослідження Graphite, 52% письмового контенту в інтернеті вже генерується штучним інтелектом. Ще у 2023 році понад 300 новинних сайтів публікували матеріали, створені ШІ, деякі з них — до 1200 текстів на день. Для медіа, видавців та освітніх закладів питання визначення походження тексту стає дедалі актуальнішим, а для України — ще й з огляду на поступове наближення законодавства до норм ЄС у сфері прозорості контенту.
Читайте також
