Уязвимость ИИ-фильтров перед мошенническими рассылками: фишинговые письма обходят защитные фильтры с помощью «засаливания» текста

Уязвимость ИИ-фильтров перед мошенническими рассылками: фишинговые письма обходят защитные фильтры с помощью «засаливания» текста

Спам-письма научились обманывать не только людей, но и алгоритмы, которые должны их отсеивать, — причём делают это с помощью приёмов, известных ещё с начала двухтысячных годов. Компания Barracuda сообщила о новой волне фишинговых атак, построенных на технике «засаливания текста».

По данным Barracuda, с апреля зафиксировано свыше миллиона фишинговых писем на тему покупок в интернет-магазинах, в которых применялся этот метод. Он основан на добавлении в письмо случайных, безобидных на вид слов, из-за которых система фильтрации перестаёт распознавать вредоносное содержимое и пропускает сообщение адресату.

Чтобы такие вставки не бросались в глаза человеку, злоумышленники используют один из нескольких способов маскировки. Один из них — сжатие видимой области письма с помощью CSS, из-за чего лишний текст остаётся за пределами экрана. Другой — размещение «засоряющих» слов вне видимой зоны письма. Третий — использование шрифта нулевого размера, который вставляет посторонние фразы между строками фишингового текста так, что их видит только машина, а не читатель.

В результате получателю приходит письмо, которое выглядит совершенно обычным, а система фильтрации воспринимает его как набор бессвязных слов и не находит признаков угрозы. Обычные защитные шлюзы электронной почты давно научились справляться с подобными уловками: они умеют раскрывать скрытый текст и реагировать на подозрительно большое количество замаскированных вставок.

С системами на основе искусственного интеллекта дело обстоит иначе — по словам Barracuda, такие инструменты по умолчанию обрабатывают весь текст письма одинаково, не различая, что видно человеку, а что скрыто от него. Обучить их этому можно, но на практике большинство подобных систем этого не делает.

Для снижения риска Barracuda рекомендует не полагаться исключительно на поиск ключевых слов, а использовать комплексный подход к защите почты: проверять репутацию отправителя, результаты аутентификации, встроенные ссылки, способы отображения HTML-кода и расхождения между видимым и скрытым содержимым письма.