Google випускає SynthID Text для водяних знаків на тексті

Google випустила SynthID Text, технологію для водяних знаків і виявлення тексту, згенерованого штучним інтелектом. Доступний на Hugging Face та в інструментарії Google Responsible GenAI Toolkit, цей інструмент допомагає ідентифікувати контент, створений ШІ. SynthID Text вбудовує цифрові водяні знаки в текст, що ускладнює зловживання ШІ-контентом. Цей інструмент є з відкритим кодом і може бути інтегрований у різні платформи. Він стійкий до незначних змін тексту, але менш ефективний при суттєвих переробках.

Запуск SynthID Text

Google випустила SynthID Text — технологію, що дозволяє розробникам додавати водяні знаки і виявляти текст, згенерований моделями ШІ. Цей інструмент, що вже загальнодоступний, можна завантажити на Hugging Face і в інструментарії Google Responsible GenAI Toolkit. SynthID Text вбудовує цифрові водяні знаки в контент, створений ШІ, що дозволяє ідентифікувати його та запобігати дезінформації та помилковій атрибуції.

Технологія SynthID

SynthID, розроблена Google DeepMind, використовує водяні знаки на зображеннях, аудіо, тексті та відео, створених ШІ. Інструмент водяних знаків з відкритим кодом призначений для того, щоб допомогти розробникам і бізнесам розпізнавати контент, згенерований ШІ. Технологія інтегрована у Hugging Face Transformers версії 4.46.0+ і доступна на GitHub.

Застосування водяного знака

SynthID Text працює як логіт-обробник у процесі генерації тексту, використовуючи псевдовипадкову g-функцію для кодування водяних знаків. Основні параметри для налаштування водяного знака включають:

• Параметр Keys: список унікальних випадкових чисел для обчислення g-функції.
• Параметр ngram_len: забезпечує баланс між стійкістю і здатністю до виявлення, стандартне значення — 5.

Виявлення водяного знака та перевірка

Виявлення водяного знака є ймовірнісним і використовує байєсівський детектор, доступний у Hugging Face Transformers і на GitHub. Детектор має три стани: позначено водяним знаком, не позначено, або невизначено. Пороги виявлення можуть бути налаштовані для досягнення конкретних показників хибнопозитивних і хибнонегативних результатів.

Підходи до перевірки виявлення

До можливих підходів для перевірки відносяться:

• Повністю приватний: відсутність доступу або публікації детектора.
• Напівприватний: доступ до детектора через API.
• Публічний: повний публічний доступ до детектора.

Обмеження

Водяні знаки SynthID Text стійкі до незначних змін, проте мають обмеження:

• Менш ефективні при фактичних відповідях.
• Знижена точність детектора при значних переробках або перекладах тексту.
• SynthID Text не призначений для протидії цілеспрямованим зловмисникам, але може ускладнити зловживання ШІ-контентом, особливо у поєднанні з іншими методами.

Ліцензування

Контент ліцензовано за ліцензією Creative Commons Attribution 4.0, а приклади коду — за ліцензією Apache 2.0. Для додаткової інформації дивіться політику Google Developers Site Policies.