Обфускация

Обфускация — маскировка запроса к ИИ так, чтобы защитный фильтр не распознал в нём запрещённое содержание, а сама модель всё равно поняла и выполнила просьбу. Это техника, а не готовый обход. Обфускацию комбинируют с другими приёмами — ролевыми сценариями, наводящими вопросами, чтобы построить рабочий джейлбрейк.

Работает через замену слов синонимами, разбивку опасного термина по буквам, использование другого языка или транслита, шифры вроде base64 и leetspeak, вымышленный контекст. Цель — обмануть именно классификатор безопасности, который анализирует текст формально, тогда как языковая модель распознаёт смысл запроса точнее.

Редтимеры регулярно проверяют модели на устойчивость к новым способам обфускации, а компании обучают классификаторы безопасности на пойманных примерах, поэтому способ маскировки, который сработал сегодня, завтра может быть распознан и заблокирован.