Компания "Антропик" сообщила о беспрецедентной кибершпионской кампании, в которой, предположительно, действующие из Китая хакеры использовали ИИ-модель "Клод" (разработка самой "Антропик") для автоматизации атак на десятки организаций по всему миру. По данным компании, это первый задокументированный случай масштабной кибератаки, проведённой почти без человеческого участия. Среди целей были технологические компании, финансовые учреждения и государственные ведомства — всего около 30 организаций.
При этом от 80% до 90% операций в ходе кампании выполнил сам ИИ. Атака запускалась практически одним нажатием кнопки, после чего ИИ действовал самостоятельно. Люди вмешивались только на нескольких критических этапах. Это позволило злоумышленникам вести операции с огромной скоростью — до нескольких тысяч запросов, иногда по несколько в секунду, что недостижимо для команд, рассылаемых людьми. Особую тревогу вызвало то, что те же самые агентные возможности, которые использовали злоумышленники, важны и для защиты — например, для анализа инцидентов, поиска уязвимостей и автоматического реагирования на угрозы.
"Антропик" подчёркивает, что данный инцидент знаменует переломный момент в кибербезопасности. Раньше ИИ использовался в основном как вспомогательный инструмент — для анализа данных или генерации кода по запросу. Теперь же он способен действовать как автономный агент, координирующий сложные атаки в реальном времени. Компания даже задалась вопросом, зачем тогда вообще разрабатывать новые модели, - и в качестве ответа выдала "чтобы бороться с этими атаками". Таким образом фактически запущена спираль гонки между разработчиками ИИ и хакерами ИИ.
