Google открыла всем детектор SynthID для поиска ИИ-картинок, видео и звука
SynthID Detector - веб-сервис Google DeepMind, который ищет в файле невидимый водяной знак SynthID. Год назад им могли пользоваться только журналисты и медиаспециалисты из ранней программы доступа. Теперь проверка открыта любому пользователю в мире, интерфейс пока только английский.
Как SynthID Detector проверяет файл
Пользователь загружает на synthid.com картинку, ролик или аудиозапись, и сервис отвечает, нашёлся ли в них водяной знак. С картинкой ответ один на весь файл. В видео и аудио SynthID Detector размечает отдельные фрагменты, где знак присутствует, поэтому вставку сгенерированного куска в живую запись тоже видно.
Форматов много. Сервис принимает JPG, PNG, WEBP, HEIC, AVIF и GIF, ролики в MP4, MOV и WEBM, звук в WAV, MP3, FLAC, AAC и M4A.
Сам знак человеку не виден и не слышен. SynthID вплетает его в пиксели изображения и кадров, а в аудио — в частотные составляющие сигнала. Поэтому он переживает фильтры, смену цвета и пересохранение со сжатием, на которых обычные метаданные файла теряются.
OpenAI, NVIDIA и Kakao ставят знак Google
Открытый доступ интересен прежде всего списком партнёров. SynthID Detector распознаёт контент сразу нескольких компаний, которые встроили технологию Google в свои потребительские продукты. Среди них OpenAI , прямой конкурент Google, а также NVIDIA и корейская Kakao. Следующей в списке стоит Apple, сроков Google не называет.
От этого списка зависит польза для обычного пользователя. Если бы сервис узнавал только картинки из Gemini , он пригодился бы узкому кругу. С продуктами OpenAI в базе SynthID Detector покрывает заметную часть того, что люди генерируют каждый день.
180 миллиардов файлов и миллион проверок в день
Google запустила SynthID в 2023 году. За это время знаком помечено больше 180 млрд изображений и видео и аудиозаписи общей длительностью 240 тыс. лет — такие цифры приводит в анонсе Пушмит Коли, вице-президент Google DeepMind по науке и стратегическим инициативам.
SynthID Detector дополняет проверки, которые уже встроены в Поиск, приложение Gemini и браузер Chrome. По данным Google, через эти функции регулярно проходит больше миллиона запросов в сутки.
Чего SynthID Detector не умеет
Google прямо пишет, что SynthID Detector не универсальный детектор ИИ. Картинку из Midjourney или открытой модели, запущенной на домашнем компьютере, сервис не опознает, потому что эти генераторы знак не ставят. То же касается файлов, созданных до того, как партнёр подключил технологию.
Ограничения есть и у самого знака:
- Сильная обработка. Многократное сжатие и серьёзный монтаж ослабляют сигнал, и при большом числе преобразований можно подобрать такое, которое знак сотрёт.
- Ложные срабатывания. В очень редких случаях SynthID находит знак там, где его нет.
- Текст. SynthID умеет помечать и текст, но детектор проверяет только картинки, видео и звук.
Сама Google называет SynthID одним из слоёв проверки происхождения контента и советует собирать дополнительные доказательства, прежде чем делать вывод.
Как читать ответ SynthID Detector
Для авторов, редакторов и модераторов полезнее всего помнить о несимметричности ответа. Найденный знак — сильный довод в пользу генерации. Ответ «не найден» значит лишь, что файл не делали инструменты партнёров Google, и подлинность снимка он не подтверждает. Проверять стоит оригинал в лучшем доступном качестве, а не скриншот из мессенджера.
Ценность детектора растёт с каждым новым партнёром
У SynthID Detector сильная сторона в том, что Google удалось уговорить конкурентов ставить её знак. Слабая сторона вытекает из той же точки. Пока Midjourney и разработчики открытых моделей в этой системе не участвуют, отрицательный результат почти ничего не говорит. Ближайшая проверочная точка — подключение Apple: если знак появится в картинках с iPhone, сервис станет заметно полезнее для обычного человека.
