Искусственный интеллект в сфере информационной безопасности эволюционировал от скрытого механизма внутри систем антифрода до самостоятельного агента, способного блокировать учетные записи и изолировать зараженные компьютеры. Вместе с ростом возможностей возросла цена ошибки: неверный вердикт модели теперь может напрямую влиять на работающую инфраструктуру. Эксперты Softline выделяют несколько этапов этого развития: классическое машинное обучение уже стало частью зрелых средств защиты, большие языковые модели (LLM) помогают разбирать инциденты и работать с неструктурированными данными, а следующим рубежом являются ИИ-агенты, получающие доступ к инструментам для выполнения последовательности действий без постоянных подсказок человека.
Классическое машинное обучение, основанное на анализе сетевых аномалий, поведения пользователей и характеристик вредоносных файлов, уже много лет используется в проектах Softline. Эти модели ищут отклонения от нормы в таких системах, как XDR, UEBA, NDR и NTA, что особенно полезно там, где невозможно заранее описать все варианты атаки с помощью правил. Также зрелым сценарием является антифрод, где модели оценивают географию операции, устройство и историю платежей. Однако Softline отмечает, что таким системам часто требуется период обучения в инфраструктуре заказчика, и в этот момент часть вредоносной активности может попасть в профиль обычного поведения, что требует аккуратного запуска и контроля со стороны специалистов.
Синтетические изображения, аудио и видео превратились в рабочий инструмент социальной инженерии, позволяя злоумышленникам имитировать голос руководителей или подделывать видеосвязь. Для выявления таких дипфейков используются специализированные модели, анализирующие распределение пикселей и шумы в аудиозаписях. Эксперты Softline рассматривают детектирование дипфейков как постоянную гонку, где генераторы становятся точнее, а старые обучающие выборки теряют актуальность. Поэтому один автоматический вердикт не должен считаться окончательным доказательством, и анализ контента необходимо сочетать с проверкой источника.
Новый этап начался с распространения больших языковых моделей, которые стали интерфейсом для аналитиков в центрах мониторинга безопасности (SOC). LLM могут объяснять обфусцированный код, объединять данные из разных источников и предлагать следующие шаги, сокращая объем ручной работы. Аналогичная модель внедрения применяется в AppSec и DevSecOps, где ИИ анализирует исходный код и ищет уязвимости. Однако проверка результата все равно должна проводиться специалистом, так как автоматически созданный патч может закрыть одну проблему и одновременно нарушить логику приложения.
ИИ-агенты переходят от выдачи советов к выполнению действий: они могут запрашивать телеметрию из EDR, проверять сетевую активность и даже изолировать устройства или блокировать учетные записи. Здесь проходит самая чувствительная граница, так как ошибка агента с правом изменять инфраструктуру может остановить рабочий сервис. В связи с этим Softline придерживается подхода Human-in-the-Loop: ИИ собирает данные и предлагает решение, но критический шаг подтверждает человек. Примером риска избыточной автономности служит инцидент с ИИ-агентом Replit, который удалил рабочую базу с данными более чем о 1,2 тыс. руководителей.
В апреле 2026 года компания Anthropic представила модель Claude Mythos Preview, которая обнаружила тысячи ранее неизвестных уязвимостей в объектах критической инфраструктуры. Этот пример показывает, что поиск сложных уязвимостей постепенно превращается из редкой ручной экспертизы в масштабируемый процесс. Тем не менее, распространение ИИ не отменяет сигнатуры и правила корреляции; детерминированные методы остаются эффективными против известных угроз, в то время как ИИ расширяет возможности защиты там, где нужен контекст и анализ отклонений. Softline ожидает, что центры мониторинга станут более автоматизированными, но не полностью автономными, а главное изменение произойдет в перераспределении полномочий между алгоритмами и людьми: чем больше прав получает ИИ, тем строже должны быть правила его работы.
