Microsoft предложила вознаграждение за взлом своих продуктов на базе ИИ
Первым подходящим продуктом является пакет Bing на базе искусственного интеллекта, включающий Bing Chat, Bing Chat for Business, Bing Image Creator и интеграцию искусственного интеллекта Bing с приложением Microsoft Start и Skype Mobile.
Microsoft ищет уязвимости «инъекции», которые затрагивают GPT-4 OpenAI , ложные или оскорбительные сообщения в чате, предполагаемые утечки кода и чтение скрытых системных подсказок, о чем упоминалось ранее в этой статье.
Модель GPT-4 поддаётся обману и манипуляциям, и этим могут воспользоваться злоумышленники
Об ошибках можно сообщить через портал исследователей MSRC, а вопросы можно направить на сайт. Вознаграждения зависят от серьезности и качества найденных уязвимостей. Для получения дополнительной информации посетите веб-сайт программы Microsoft AI Bounty .
Неудачный запуск Bing Chat
Запуск программы последовал за серией сбоев, которые преследовали Bing Chat с момента его появления в феврале. Microsoft, очевидно, знала об этих недостатках еще до запуска , но все равно решила выпустить продукт.
Исследование AlgorithmWatch показывает, что Bing предоставляет неверную информацию в связи с выборами. Несмотря на эту ненадежность, Microsoft продолжает предлагать чат в качестве источника информации, а также использовала его для размещения ненавязчивой рекламы своих продуктов..
Bing Chat стал общедоступным в мае 2023 года. Microsoft усиленно развивает его аналогично чату GPT, добавляя всё новые функции, такие как ответы к изображениям, историю чата и плагины, чтобы создать из продукта в мощную платформу .
Microsoft интегрировала Bing Chat в свой браузер Edge и предложила в том числе корпоративную версию. Плагины, такие как OpenTable или Wolfram Alpha, предназначены для решения более сложных задач, таких как бронирование столиков в ресторанах и математические вычисления, аналогично концепции плагина ChatGPT .
В частности, Microsoft хочет позиционировать Bing Chat как «второго пилота Интернета», бросая вызов доминированию Google в поиске и потенциально создавая новую экосистему контента . Но технический директор Microsoft Кевин Скотт недавно рассказал, что они пока добились лишь «небольшого прироста доли рынка», хотя и делали это «такими способами, которых мы раньше не видели».
Генеральный директор Microsoft: Сатья Наделла, был менее воодушевлен, назвав оптимистичные высказывания о Bing Cha,t в начале этого года, в рамках антимонопольного дела против Google "преувеличением". Наделла говорил о том, что Microsoft может надеяться на увеличение своей доли рынка с трех до 3,5%, а также о том, что искусственный интеллект может еще больше укрепить доминирование Google на рынке.
