промпт-инъекция
-
Статья Prompt Jailbreak vs Prompt Injection: В чем разница?
Если вы хотя бы немного следите за миром больших языковых моделей (LLM), вы наверняка сталкивались с терминами "промпт-инъекция" (prompt injection) о которой я говорил в прошлой статье, и "джейлбрейк" (jailbreak). Их используют разработчики, исследователи, хакеры и журналисты. И очень часто...- samhainhf
- Тема
- атаки на llm безопасность ai генеративный ии джейлбрейк защита llm защита от инъекций искусственный интеллект безопасность промпт-инъекция
- Ответы: 0
- Раздел: Безопасность веб-приложений