News Злоумышленники обманывают системы машинного обучения через электронные письма

Недавно был обнаружен новая способ кибератак, использующий умные электронные письма для обмана систем машинного обучения, что позволяет злоумышленникам обходить передовые меры безопасности и проникать в корпоративные сети. Этот новый метод, получивший название Conversation Overflow, работает следующим образом. В верхней части письма получателю предлагается совершить определенное действие, например, предоставить личную информацию или перейти по ссылке. Однако под этой видимой частью находится скрытый текстовый блок, состоящий из множества пустых строк и обычного текста, имитирующий обычный обмен сообщениями электронной почты.

Эта хитрая техника обманывает алгоритмы машинного обучения. Это происходит потому, что алгоритмы машинного обучения склонны рассматривать такие письма как легитимные из-за их сходства с обычными письмами. Исследователи отмечают, что этот способ используется неоднократно и может быть опробован злоумышленниками для обхода существующих систем безопасности. Злоумышленники, проникшие в систему, отправляют запросы на кражу учетных данных, замаскированные под легитимные запросы на повторную аутентификацию. Основная цель - компания-хостер, чьи учетные данные могут быть проданы по высокой цене на темных форумах.

Эта новая техника атак представляет собой серьезный вызов для современных систем искусственного интеллекта и машинного обучения, основанных на обнаружении аномалий. Для защиты от таких атак рекомендуется использовать более совершенные алгоритмы машинного обучения, регулярные тренинги по безопасности и многоуровневую аутентификацию.