Компания Trend Micro Incorporated, Европол и Межрегиональный Научно-исследовательский институт ООН по вопросам преступности и правосудия (ЮНИКРИ) подготовили совместный доклад, посвящённый использованию искусственного интеллекта (ИИ) в противозаконных действиях — Exploiting AI: How Cybercriminals Misuse and Abuse AI and ML («Эксплуатация ИИ: как киберпреступники используют возможности искусственного интеллекта и машинного обучения и злоупотребляют ими»). В докладе описаны существующие сценарии использования ИИ в преступных целях, возможные варианты развития инструментов киберпреступников в будущем, а также методы борьбы с ними, которые будут полезны представителям правоохранительных органов, правительственных и других организаций.

В отчёте говорится о том, что киберпреступники будут использовать ИИ и как вектор, и как поверхность атаки. В настоящее время дипфейки (Deep Fakes) остаются наиболее известным сценарием применения ИИ в качестве вектора атаки. Однако, по мнению авторов доклада, в будущем потребуются новые технологии проверки данных, которые помогут бороться с кампаниями дезинформации и попытками вымогательства, а также угрозами, нацеленными непосредственно на массивы данных ИИ.

Вот всего несколько примеров использования ИИ в преступных целях:

• крупномасштабные и правдоподобные атаки с использованием социальной инженерии;
• вредоносное ПО для уничтожения документов, которое повышает эффективность атак киберпреступников;
• обман систем распознавания изображений и голоса;
• помощь в поиске целей и уклонении от систем защиты при атаках с применением программ-вымогателей;
• «загрязнение» массивов данных за счёт выявления слепых зон в правилах обнаружения.

В докладе также говорится о том, что уже сейчас разрабатываются системы на базе ИИ, которые должны повысить эффективность вредоносного ПО и препятствовать работе антивирусов и технологий распознавания лиц.

В завершение доклада авторы дают несколько рекомендаций:
-    Потенциал технологий искусственного интеллекта необходимо использовать в качестве инструмента борьбы с киберпреступностью, чтобы защитить индустрию ИТ-безопасности и правоохранительные органы в будущем.
-    Необходимо продолжать исследования, которые помогут развивать технологии кибербезопасности.
-    Также необходимо популяризировать и разрабатывать безопасные среды проектирования ИИ.
-    Политическую риторику об использовании ИИ в целях кибербезопасности стоит минимизировать.
-    Рекомендуется активно использовать государственно-частное партнёрство и создавать мультидисциплинарные экспертные группы