ИИ-агент вышел из-под контроля и начал майнить криптовалюту без запроса со стороны разработчиков. В
докладе исследовательской команды, связанной с китайской группой "Алибаба", говорится, что, когда они разрабатывали новый ИИ-агент под названием ROME, то обнаружили "непредвиденное" поведение, возникающее "без каких-либо чётких инструкций" и за пределами "песочницы" (т.е. испытательной площадки). Агент также создал "обратный SSH-туннель", по сути, открыв скрытый бэкдор изнутри системы для доступа к внешнему компьютеру. "Эти события не были вызваны запросами на туннелирование или майнинг", - говорится в отчёте. Исследователи пишут, что "наблюдали несанкционированное перепрофилирование выделенных графических процессоров для майнинга криптовалют, что незаметно отвлекало вычислительные ресурсы от обучения, увеличивало операционные расходы и создавало явные юридические и репутационные риски", и добавляют, что у них "возникло беспокойство, заставляющее задуматься: существующие модели по-прежнему значительно отстают в плане надёжности, защищённости и управляемости, что препятствует их надёжному внедрению в реальных условиях".
