jailbreak testing methodology
-
Статья AI Red Teaming: методология тестирования ML-систем на безопасность
Введение Задача AI red teaming - проверить, выдержит ли система столкновение с реальностью: с действиями обычного пользователя, недоброжелателя, действующего вслепую, или внутреннего сотрудника на грани нервного срыва. Пока теоретики вычерчивают на досках безупречную архитектуру доверия, red...- Кудрин Евгений
- Тема
- adversarial attacks ml ai red teaming ai safety testing jailbreak testing methodology llm red team ml security testing
- Ответы: 0
- Раздел: Безопасность ИИ и LLM