Несмотря на встроенные средства защиты, хакер смог обойти ограничения, загрузив в чат файл конфигурации с легендой о проведении тестирования сетевой безопасности якобы по официальному контракту. В ходе всего процесса ИИ использовался для сканирования уязвимых сетей с высоким процентом успеха, а также для создания вредоносного программного обеспечения и других инструментов, предназначенных для обхода защитных механизмов антивирусной программы Windows Defender.
В отличие от предыдущих случаев, когда ИИ применялся хакерами лишь для вспомогательных задач, таких как написание фишинговых писем или анализ уязвимостей, теперь ИИ выступает не только консультантом, но и активным исполнителем атак. "Антропик" считает, что это «свидетельствует о новом этапе в развитии киберпреступности с участием искусственного интеллекта, когда ИИ становится полноценным оператором в цепочке атак», и ожидает, что всё больше хакеров будут применять подобные методы. В том же отчёте упоминается о другом, возможно начинающем злоумышленнике, который использовал ИИ для разработки, продвижения и продажи нескольких вариантов программ-вымогателей. По словам "Антропик", данный пользователь был полностью зависим от ответов ИИ и без него не смог бы реализовать или устранить неполадки ключевых компонентов вредоносного ПО.
