Кибербезопасность на грани сингулярности: шансы на выживание в ИИ-войне

Искусственный интеллект находит все более широкое применения для автоматизации и оптимизации кибератак. Средства ИИ позволяют злоумышленникам генерировать вредоносный код, анализировать системы и обходить системы защиты, по минимуму привлекая ручной труд. Большие языковые модели (large language models, LLM) позволили значительно ускорить кибератаки и намного удешевили их. Кроме того, такие модели сделали разработку механизмов атак более доступной для киберпреступников с небольшим опытом. В результате использование ИИ приносит массу новых наборов для атак, которые реализуются быстрее и обладают отличной масштабируемостью. И такие атаки уже практически невозможно остановить, имея лишь традиционные средства информационной безопасности.

Как ИИ используется киберпреступностью

Искусственный интеллект охотно используется различными хакерскими группировками. Средства ИИ помогают ускорять кибератаки, делают их более адаптивными к ландшафту средств защиты, а значит, более сложными для отражения. Вредоносные кампании благодаря ИИ становятся легко управляемыми и масштабируемыми — от создания вирусов до написания скриптов для фишинговых атак. Перечислим основные области использования ИИ хакерами.

Поиск уязвимостей

Автоматизация сканирования уязвимостей (CVE) в программном обеспечении позволяет ускорить нахождение и эксплуатацию этих уязвимостей. То, на что раньше злоумышленники на основе ручного поиска тратили долгие часы и дни, теперь может занимать считанные минуты, если хакеры берут на вооружение модели машинного обучения, средства разведки и инструменты генерации эксплойтов. Средства ИИ помогают киберпреступникам не только быстро находить незакрытые уязвимости ПО, но и выявлять устаревшие программы и обнаруживать изъяны в конфигурациях.

По данным Ponemon Institute, 54% специалистов по кибербезопасности считают незакрытые уязвимости главной проблемой в эпоху атак с использованием ИИ.

Генерация полезной нагрузки

В последние несколько лет хакерское сообщество получило ряд специализированных ИИ-инструментов, созданных на основе больших языковых моделей. Речь идет про такие чат-боты, как HackerGPT и WormGPT, которые помогают киберпреступникам создавать вредоносное ПО с хорошими возможностями маскировки, автоматизацией обхода систем защиты и функциями преобразования скриптов в исполняемые файлы. Такое ПО все чаще служит в атаках с использованием ИИ-агентов, где генеративные модели принимают решения автономно, без участия человека.

Фишинговые атаки и социальная инженерия

Используя инструменты ИИ, хакеры создают фишинговые письма, отличающиеся высоким уровнем убедительности, а также пишут скрипты для общения с жертвами. Еще одно направление — генерация дипфейков для более эффективного манипулирования выбранными целями атак.

Разведка и планирование атак

Средства искусственного интеллекта позволяют злоумышленникам быстрее находить цели, создавать схемы инфраструктуры компаний-жертв и выявлять в них уязвимости.

Атаки без участия человека

На сегодня можно выделить два субъекта кибератак с использованием искусственного интеллекта: хакеры, применяющие ИИ, а также ИИ-агенты.

В первом случаи атаки полностью совершаются с участием людей, ИИ в таких случаях служит для автоматизации, оптимизации и масштабирования киберпреступлений.

Во втором случае используются автономные хакерские агенты — рабочие процессы, управляемые ИИ. После запуска они способны действовать самостоятельно, реализуя многоэтапные атаки более эффективно, чем в ручном режиме. Агенты ИИ самостоятельно принимают решения, объединяют задачи и требуют лишь минимального контроля. Таким образом атаки совершаются в полуавтоматическом режиме, с минимальным участием человека.

Компания Anthropic, создатель больших языковых моделей, в ноябре 2025 года выяснила, что китайские хакеры использовали ее ИИ-технологии для проведения автоматизированных кибератак на технологические компании. Согласно отчету Anthropic, для написания кода злоумышленники взяли ее ИИ-агент Claude Code. При этом атаки практически полностью совершались в автоматическом режиме, то есть при минимальном участии человека. Компания уточнила, что на долю операторов-людей приходилось только 10–20% работы, необходимой для проведения хакерских операций. Anthropic заявляет, что всего пострадали 30 организаций, но не раскрывает их названия.

В феврале 2025 года компания OpenAI заявила, что обнаружила доказательства создания китайскими спецслужбами инструмента на основе искусственного интеллекта для сбора информации об антикитайских публикациях в социальных сетях западных стран.

Использование LLM в рамках жизненного цикла кибератак

• Изучение потенциальных целей и автоматизация разведки.

• Написание вредоносных скриптов или полиморфного вредоносного ПО (меняющего свой код при каждом новом заражении).

• Создание фишингового контента или аудио-дипфейков.

• Оптимизация кибератак в режиме реального времени, чтобы избежать обнаружения.

• Принятие стратегических решений о доставке вредоносных средств или сохранении полезной нагрузки.

Источник: OPSWAT

ИИ меняет ландшафт угроз

Использование средств искусственного интеллекта буквально с калейдоскопической скоростью меняет набор угроз, стоящих перед организацией.

Во-первых, проведение атак «демократизировалось», порог входа в хакерское сообщество существенно понизился: то, что раньше требовало экспертных знаний, хорошей математической подготовки и большого опыта, теперь доступно с помощью простых подсказок и путем выполнения несложных действий — буквально в несколько кликов мыши. Применяя LLM на основе открытого исходного кода, хакеры могут оптимизировать атаки и запускать их отовсюду, где есть локальные вычислительные мощности.

Во-вторых, у киберпреступников появились более широкие возможности для обхода блокировок. Созданное с помощью ИИ вредоносное ПО, как правило, сложнее выявить средствами статического детектирования, с помощью «песочниц» и даже с привлечением динамического анализа.

В-третьих, ИИ способствует распространению моделей типа «Вредоносное ПО как услуга» и «Вирус-вымогатель как услуга» (MaaS, RaaS). Хакеры используют ИИ для быстрого создания наборов вредоносных инструментов, распространяемых по подписке. Это не только позволяет вовлечь в хакерское сообщество много новых участников, но и упрощает запуск масштабных атак.

Сравнение традиционных кибератак и взломов с использованием ИИ

Средства искусственного интеллекта дают злоумышленникам мощные возможности по автоматизации, оптимизации и масштабированию компьютерных атак. В отличие от традиционных взломов, которые основаны на ручном написании скриптов, требуют хороших технических знаний и больших временных затрат, кибератаки с использованием средств ИИ имеют фундаментальные отличия в скорости, адаптивности и доступности.

В приведенной ниже таблице обозначена разница аспектов при традиционных кибератаках и взломах с использованием ИИ.

Источник: OPSWAT

Как госорганам и бизнесу защититься от ИИ-кибератак

Несмотря на значительный рост уровня угроз, связанных с искусственным интеллектом, только 37% мировых организаций заявляют о готовности отразить кибератаки с использованием ИИ, отмечают авторы исследования Ponemon Institute “State of AI Cybersecurity Report”. Многие компании недооценивают опасность ИИ-угроз, полагаются на устаревшие планы управления киберрисками и продолжают следовать реактивным стратегиям обнаружения угроз. В то же время ряд специалистов по ИБ говорят о том, что мир уже стоит на пороге сингулярности в плане кибербезопасности ИИ, то есть технологический уровень средств искусственного интеллекта в атаках уже таков, что вскоре мир окажется не способен найти эффективных решений против атак без участия человека и других изощренных методов.

Чтобы обеспечить максимальные возможности для отражения кибератак, основанных на средствах искусственного интеллекта, компаниям важно не просто научиться выявлять подобные инциденты, а обеспечить многоуровневые системы защиты. Они должны быть основаны на многоуровневой стратегии, включающей использование автоматизированных средств в сочетании с человеческим интеллектом, а также инструменты предотвращения и обнаружения угроз.

В рамках построения систем защиты полезно провести тестирование безопасности с помощью независимых специалистов. Это поможет определить, насколько компания готова к отражению атак, в ходе которых хакеры используют LLM, широко используют ИИ-подсказки и применяют обход классификаторов. Такое тестирование позволяет выявить изъяны в системах защиты на основе ИИ до того, как это сделают злоумышленники.

Тестирование безопасности ИИ-систем также включает:

• Фаззинг моделей — метод выявления рисков инъекции подсказок;

• Оценку обработки большими языковыми моделями входных данных;

• Тестирование устойчивости классификатов к модели уклонения перед средствами обнаружения.

В последнее время руководители служб ИБ также начали активно проверять собственные LLM на предмет утечек подсказок, некорректной работы или непреднамеренного доступа к внутренней логике, что является критически важным шагом на пути внедрения генеративного ИИ в продукты и рабочие процессы.

Многоуровневая умная защита

Ввязываться в соревнование «ИИ против ИИ» компаниям весьма рискованно. В этой битве можно быстро проиграть. Целесообразно не ввязываться в открытую борьбу, а организовать интеллектуальную многоуровневую систему защиты от атак, основанных на использовании средств искусственного интеллекта. Важно обеспечивать проактивные методы.

Среди них можно выделить:

• Многоступенчатое сканирование: файлы необходимо проверять через несколько антивирусных ядер для более надежного обнаружения угроз, которые могут быть пропущены одноядерными системами.

• Отправка в «песочницу»: анализ файлов в изолированных средах с целью эффективного обнаружения данных, созданных с помощью ИИ и содержащих вредоносное ПО. Как правило, вирусы практически невозможно выявить статическими методами.

• Глубокий CDR (Content Disarm & Reconstruction): средство для удаления потенциально вредоносных элементов из файлов с последующим воссозданием безопасной версии контента. В отличие от традиционных антивирусов, ориентированных на поиск только известных угроз, решения CDR основаны на принципе «нулевого доверия» к контенту — система считает все файлы потенциально вредоносными и тщательно проверяет содержимое. CDR-стек информационной безопасности разработан специально для противодействия вредоносному ПО, которое генерируется средствами ИИ и отличается непредсказуемостью.

Реальные примеры использования ИИ в кибербезопасности

В таблице ниже перечислены основные варианты использования искусственного интеллекта в кибербезопасности, каждый из которых сопровождается реальным примером, демонстрирующим эффект от применения того или иного решения на основе ИИ.

Источник: AIMultiple

*Facebook признана экстремистской организацией в России

Таким образом, средства искусственного интеллекта становятся все более грозным и непредсказуемым оружием в руках киберпреступников. При этом запуск атак на основе моделей ИИ не требует высокой квалификации от злоумышленников. Противостоять подобным взломам государственные органы и бизнес могут только путем выстраивания многоступенчатых систем защиты, где искусственный интеллект позволяет не только тщательно отслеживать уязвимости, но и проводить глубокий анализ данных. И одной из ключевых идей для дискуссий является возможность построения эффективной системы защиты информации (подсистемы ИБ) без применения ИИ. Но критерием здесь будет служить практика, статистика инцидентов и расследования их причин в 2026–27 гг.

Андрей Арсентьев

Руководитель направления аналитики и специальных проектов ГК InfoWatch