adversarial ml
-
Статья Fitness-функции для evasive malware: как формализовать 'успех' обхода детекта в эволюционных алгоритмах
На третьей итерации собственного фреймворка для эволюционного тестирования ML-детекторов обнаружилась занятная штука: подавляющее большинство мутированных PE-сэмплов прошли статический классификатор на базе EMBER, но потеряли функциональность - reverse shell не устанавливался, DLL не...- Сергей Попов
- Тема
- adversarial ml detection evasion evasive evasive malware fitness-функции fitness-функция game framework malware shellforge генетический алгоритм для как обход антивируса
- Ответы: 0
- Раздел: Реверс-инжиниринг и анализ вредоносного ПО
-
Статья CTF и машинное обучение: разбор атак на ML-модели в соревнованиях
На PHDays 9 организаторы запустили AI CTF из шести задач - из 130 зарегистрировавшихся хотя бы один флаг сдали только 14 человек. Четырнадцать. Одна из задач, Prediction Challenge, предлагала загрузить модель в формате pickle на сервер-аналог Kaggle и набрать 1.0 точности на случайно...- Сергей Попов
- Тема
- adversarial examples adversarial ml ai security challenges ctf машинное обучение htb ai задачи ml ctf writeup model extraction attack pickle десериализация prompt injection ctf взлом ml модели ctf
- Ответы: 0
- Раздел: Безопасность ИИ и LLM