Apple подписала обязательство Белого дома по безопасности ИИ перед запуском собственной генеративной технологии
Apple присоединилась к 15 другим технологическим компаниям, включая Amazon, Anthropic, Google, Inflection, Meta, Microsoft и OpenAI, которые взяли на себя обязательства по соблюдению основных правил разработки генеративного ИИ, предложенных Белым домом в июле 2023 года. На момент подписания этого документа Apple еще не раскрывала, насколько глубоко планирует интегрировать ИИ в iOS. Однако на конференции WWDC в июне этого года компания четко обозначила свои намерения: Apple полностью погружается в сферу генеративного ИИ, начиная с партнерства по встраиванию ChatGPT в iPhone.
Будучи частым объектом внимания федеральных регуляторов, Apple стремится заранее продемонстрировать свою готовность играть по правилам Белого дома в области ИИ. Это можно рассматривать как попытку заручиться поддержкой перед возможными будущими регуляторными баталиями в сфере ИИ.
В рамках обязательства компании, работающие в сфере ИИ, они обещают проводить "красное тестирование" (действуя как хакеры для проверки мер безопасности организации) моделей ИИ перед их публичным выпуском и делиться этой информацией с общественностью.
Добровольное обязательство Белого дома также требует от ИИ-компаний конфиденциального обращения с весами неопубликованных моделей ИИ. Apple и другие компании соглашаются работать над весами моделей ИИ в защищенных средах, ограничивая доступ к ним минимально необходимым числом сотрудников. Наконец, ИИ-компании соглашаются разрабатывать системы маркировки контента, такие как водяные знаки, чтобы помочь пользователям отличить то, что сгенерировано ИИ, от того, что создано человеком.
Отдельно Министерство торговли США сообщило, что в скором времени опубликует отчет о потенциальных преимуществах, рисках и последствиях использования базовых моделей с открытым исходным кодом. Открытый ИИ все чаще становится политически заряженным полем регуляторных баталий. Некоторые группы хотят ограничить доступность весов моделей мощных ИИ-систем в целях безопасности. Однако такой подход может значительно ограничить экосистему ИИ-стартапов и исследований. Позиция Белого дома в этом вопросе может оказать существенное влияние на индустрию ИИ в целом.
Белый дом также отметил, что федеральные агентства достигли значительного прогресса в выполнении задач, поставленных октябрьским исполнительным указом. На сегодняшний день федеральные агентства наняли более 200 сотрудников, связанных с ИИ, предоставили доступ к вычислительным ресурсам более чем 80 исследовательским группам и выпустили несколько рамочных документов по разработке ИИ.
Интересный факт:
Подписание Apple обязательства Белого дома происходит на фоне растущего интереса к регулированию ИИ во всем мире. Например, Европейский Союз работает над комплексным законодательством об ИИ, известным как AI Act, которое может стать первым в мире всеобъемлющим законом, регулирующим использование искусственного интеллекта.
Этот шаг Apple демонстрирует растущее осознание технологическими гигантами необходимости сотрудничества с правительством в вопросах регулирования ИИ. Однако остается открытым вопрос, насколько эффективными окажутся добровольные обязательства в долгосрочной перспективе и как они повлияют на инновации в сфере ИИ.
