В ЕС заработала обязательная маркировка ИИ-контента
Закон об искусственном интеллекте (AI Act) вступил в силу ещё в 2024 году, но его части включались постепенно. 2 августа очередь дошла до раздела о прозрачности - правил, которые описывают, когда пользователю обязаны сказать, что перед ним работа алгоритма. С этого же дня Еврокомиссия и национальные регуляторы могут применять санкции за несоблюдение требований.
Чат-бот обязан представиться
Первое требование статьи 50 адресовано разработчикам систем, которые напрямую общаются с человеком: чат-ботов, голосовых ассистентов, агентов, аватаров. Такая система должна с первой реплики дать понять, что отвечает алгоритм.
Исключение одно - случаи, когда это и так очевидно. Еврокомиссия просит трактовать его узко и предлагает ориентир в виде среднестатистического разумно осведомлённого и внимательного пользователя. Системы, которые работают в фоне и обмениваются данными с другими программами без контакта с человеком, под требование не попадают.
Метка внутри самого файла
Второе требование AI Act к разработчикам - машиночитаемая маркировка. Всё, что генеративная система выдаёт наружу (текст, изображение, аудио, видео), должно нести встроенный признак искусственного происхождения, чтобы контент можно было опознать автоматически.
Из-под требования выведены пограничные случаи: короткие последовательности символов, исходный код, вывод, который никогда не попадёт человеку на глаза, и промежуточные материалы закрытых производственных циклов вроде киностудийного пайплайна. Финальный результат такого цикла маркируется. Обычная редактура с помощью ИИ - например, выравнивание цвета - файл в ИИ-контент не превращает.
Дипфейк подписывают заметно
Здесь обязанность переходит к тем, кто ИИ применяет: компаниям, редакциям, агентствам, самозанятым. Дипфейк в терминологии AI Act - изображение, аудио или видео, которое похоже на реального человека, объект или событие и может сойти за подлинное. Все три признака должны совпасть одновременно.
Подпись должна быть видимой или слышимой и появляться при первом контакте человека с материалом. Спрятанной внутри файла метки от разработчика тут недостаточно - она решает задачу автоматического детектирования и человеку ничего не сообщает. Для художественных, сатирических и явно вымышленных работ требование мягче: обозначить нужно так, чтобы не портить впечатление от произведения.
Тексты на общественно значимые темы
Отдельное правило AI Act касается текста. Маркировать нужно публикации, которые информируют аудиторию по общественно значимым темам: политика, работа госорганов, суд и правоохранители, права человека, общественная безопасность, здравоохранение, экология, защита потребителей, а также экономические, научные и культурные сюжеты, вокруг которых идёт публичная дискуссия.
Выход из-под требования один - человеческая проверка. Если у текста есть редакционный контроль (кто-то с полномочиями принять, переписать или отклонить материал по существу, с фактчекингом и проверкой источников) либо содержательная профессиональная экспертиза, метка не нужна. Орфографической вычитки и правки запятых для этого не хватит.
Формулировка обходит спор о качестве ИИ-текстов стороной. AI Act допускает публикацию сгенерированного материала, но требует, чтобы под ним стоял живой ответственный человек.
Личный пост и профессиональная публикация
Частное лицо, которое сделало дипфейк для друзей и выложило его в соцсеть, под AI Act не попадает: личная непрофессиональная активность выведена из сферы действия закона. Граница проходит по регулярной экономической выгоде. Как только на этом зарабатывают систематически - ведут коммерческий блог, берут заказы, работают в штате, - человек или компания становятся полноценными пользователями системы со всеми обязанностями.
Внутри компании сотрудники отдельными ответственными не считаются. Дизайнер, копирайтер или журналист выполняют указания работодателя, и за маркировку отвечает юридическое лицо, включая случаи, когда работу делали подрядчики и фрилансеры на аутсорсе.
Правило работает и за пределами ЕС
Место регистрации компании для AI Act значения не имеет. Значение имеет то, где используется результат работы системы: если вывод попадает к пользователям в ЕС, требования распространяются и на разработчика из третьей страны. За нарушения предусмотрены штрафы до €15 млн или 3% мирового годового оборота, для малого и среднего бизнеса допускается смягчение по принципу соразмерности.
Для сайта с русскоязычной аудиторией всё это пока остаётся справочной информацией. Пока читатели, площадки размещения и заказчики не пересекаются с Евросоюзом, менять в работе ничего не требуется. Вопрос становится практическим, когда появляется европейский трафик, европейский клиент или размещение на европейской платформе.
В России маркировка осталась добровольной
За три недели до европейского дедлайна свой закон об ИИ получила Россия. Федеральный закон № 243-ФЗ «О поддержке развития технологий искусственного интеллекта» подписан 26 июля, основная часть заработает 1 сентября, а положения о маркировке и о суверенных моделях - с 1 марта 2027 года.
Логика у российской нормы другая. Автор аудио- или визуального материала, сделанного большой фундаментальной моделью, сможет поставить пометку об использовании ИИ по своему усмотрению, а формат определит соглашение с сервисом, который эту модель предоставил. Обязанность закреплена за площадками: владельцы сайтов и систем, распространяющих информацию на языках народов России и собирающих больше 500 тысяч пользователей в сутки, должны дать людям техническую возможность такую пометку разместить.
Кнопка обязательна, решение о пометке остаётся за автором. AI Act заходит с другой стороны и требует метку от разработчика генеративной системы, на выходе из модели, ещё до того как файл попадёт к человеку.
Настоящая проверка начнётся в декабре
Для систем, выпущенных на рынок до 2 августа, действует ограниченная отсрочка до 2 декабря, и касается она только технической машиночитаемой маркировки. Остальные требования работают уже сейчас. Контент, сгенерированный раньше 2 августа, задним числом размечать не нужно, хотя Еврокомиссия просит это сделать там, где возможно.
Соблюдение правил проверяют национальные надзорные органы стран ЕС, у Еврокомиссии роль ограниченная. Параллельно действует добровольный кодекс практик по прозрачности ИИ-контента, который подписали больше 180 организаций: подпись даёт понятный способ доказать соответствие требованиям.
Как правила сработают на практике, станет понятно позже: отрасль пока в переходном режиме. Первые содержательные сигналы появятся после 2 декабря, когда отсрочка закончится и встроенную маркировку начнут спрашивать со всех генеративных сервисов, работающих на европейском рынке. Российская проверочная точка дальше - 1 марта 2027 года, и сравнивать два подхода можно будет уже по практике, а не по текстам законов.
