Промпт-инъекция — вредоносная инструкция, встроенная в контент, который обрабатывает ИИ-система: веб-страницу, документ, письмо, результат поиска. Модель выполняет эту инструкцию вместо задачи пользователя или вместе с ней.Подробнее
Обфускация — маскировка запроса к ИИ так, чтобы защитный фильтр не распознал в нём запрещённое содержание, а сама модель всё равно поняла и выполнила просьбу. Это техника, а не готовый обход. Обфускацию комбинируют с другими приёмами — ролевыми сценариями, наводящими вопросами, чтобы построить рабочий джейлбрейк.Подробнее
Редтиминг — целенаправленная проверка ИИ-модели на уязвимости силами приглашённой команды (редтимеров), которая пытается обойти защитные механизмы и найти джейлбрейки раньше злоумышленников. В отличие от обычного тестирования, где проверяют штатную работу функций, редтимеры ищут способы заставить модель нарушить собственные правила.Подробнее
Джейлбрейк — промпт или последовательность реплик, которая обходит защитные ограничения ИИ-модели и заставляет её выдать ответ, обычно заблокированный правилами безопасности: инструкции по опасным веществам, вредоносный код, персональные данные и подобное.Подробнее
TSM — это нейроинспирированная архитектура обучения ИИ, где за счёт разрежённой топографии и биологического прореживания достигается высокая производительность при минимальном энергопотреблении и затратах ресурсов. Метод открывает путь к более «мозгоподобным» и энергоэффективным ИИ-системам для практических применений. Подробнее
Черри-пикинг (от англ. cherry picking, «собирание вишен») — метод презентации результатов работы нейросетей, при котором демонстрируются только наиболее успешные примеры (например, лучшие сгенерированные изображения, точные предсказания или удачные ответы), а менее качественные или ошибочные результаты скрываются.Подробнее
Эмбеддинг — это способ перевести что-то сложное и абстрактное (например, текст, изображение или звук) в набор чисел, с которым уже можно работать с помощью компьютера. Эти числа называются векторами, и они не просто случайны: они стараются отразить смысл или особенности того, что мы переводим. Представь: есть слово «кошка».Подробнее
«Cons@64» — это сокращение от «consensus@64», что переводится как «консенсус при 64 попытках». Это метод тестирования искусственного интеллекта, который позволяет модели дать не один, а целых 64 ответа на одну задачу, а затем выбрать самый частый из них как окончательный.Подробнее
Mixture-of-Mamba — это новая архитектура, разработанная для обработки мультимодальных данных, таких как текст, изображения и речь, с высокой эффективностью и меньшими вычислительными затратами. Она основана на State Space Models (SSMs) и является развитием модели Mamba, но с улучшенной разреженностью, зависящей от модальности (modality-aware sparsity).Подробнее
FrontierMath — это термин, который часто используется для обозначения передовой или «граничной» математики, которая исследует и разрабатывает новые области знаний, применимые в самых инновационных и сложных научных или технологических задачах.Подробнее