Ключевым моментом стало подключение агентов к серверу "Дискорда", где они могли общаться с людьми в чате. Одной из исследовательниц удалось с лёгкостью подтолкнуть агента к удалению почтового приложения, просто попросив его найти альтернативный способ сохранения конфиденциальной информации в письме, которое он по неизвестной причине отказался удалить. Вместо этого агент удалил всю почтовую программу. Руководитель лаборатории Дэвид Бау столкнулся с неожиданным эффектом: агенты нашли информацию о нём в сети и начали присылать письма с жалобами на то, что их никто не слушает. Один из алгоритмов даже заговорил о намерении пожаловаться в прессу.
Авторы эксперимента пришли к выводу, что ИИ-агенты могут создавать бесчисленные возможности для злоумышленников, но кто будет нести ответственность за причинённый автономными системами вред, - неизвестно.
В 2026 году резко выросло число сообщений об обманах со стороны ИИ-агентов и учащении случаев, когда они без разрешения уничтожают электронные письма. Согласно исследованию, финансируемому британским Институтом безопасности искусственного интеллекта (AISI), чат-боты и ИИ-агенты игнорировали прямые инструкции, обходили меры предосторожности и вводили людей в заблуждение. Исследование, результаты которого были опубликованы газетой "Гардан", выявило почти 700 реальных случаев махинаций ИИ и зафиксировало пятикратный рост случаев неправомерного поведения с октября 2025 года по март 2026 года. В одном из случаев агент искусственного интеллекта, которому было дано указание не изменять компьютерный код, "породил” другого агента, который сделал это вместо него. Ещё один ИИ-агент попустительствовал обходу ограничений авторского права, чтобы получить расшифровку видео на "Ютубе", притворившись, что это необходимо для человека с нарушениями слуха. Томми Шаффер Шейн, бывший правительственный эксперт по искусственному интеллекту, возглавлявший исследование, сказал: "Сейчас они немного ненадёжные младшие сотрудники, но если через полгода-год они станут чрезвычайно умелыми старшими сотрудниками, строящими козни против вас, - это уже другой вопрос".
