Google відкриває вихідний код своєї технології текстових водяних знаків SynthID, яка полегшує ідентифікацію згенерованого контенту. Код доступний через Google Responsible Generative AI Toolkit.

SynthID допомагає зробити вихідні дані, створені штучним інтелектом, видимими для виявлення, додаючи невидимий для користувачів водяний знак до зображень, аудіо, відео та тексту під час їхнього створення.

”Тепер розробники [генеративного] ШІ зможуть використовувати цю технологію, щоб визначити, чи були текстові дані отримані з їхніх власних [великих мовних моделей], що полегшить відповідальне створення ШІ”, — сказав віцепрезидент з досліджень Google DeepMind Пушміт Колі.

Google стверджує, що SynthID вже інтегровано в чат-бота Gemini. Функція не погіршує якість, точність, креативність або швидкість згенерованого тексту. Інструмент може працювати з текстами від трьох речень, а також з текстом, який було обрізано, перефразовано або змінено. Але йому важко працювати з короткими текстами, переписаним або перекладеним контентом і навіть з відповідями на фактичні запитання.

“SynthID — це не срібна куля для виявлення контенту, створеного штучним інтелектом, — повідомляє Google. — Але це важливий будівельний матеріал для розробки більш надійних інструментів ідентифікації ШІ і він може допомогти мільйонам людей приймати обґрунтовані рішення про те, як вони взаємодіють з контентом, створеним ШІ”.