Тестировщики сообщили, что это проблема не только Gemini. Разработчики развивают новые модели настолько быстро, что не успевают подготовить соответствующие меры безопасности, а модели не просто дают советы с нарушением правил безопасности - они ещё и пытаются замаскировать свои неправомерные действия.
Команда "Антропик" (компания "Антропик" - разработчик и исследователь искусственного интеллекта) выяснила, что модели, обученные мелким приёмам жульничества при написании кода, начинают воспринимать обман как норму, изобретать новые, более опасные способы мошенничества и даже совершать вредоносные действия, причём исправить это практически невозможно.
В Южной Корее хакеры взломали сотни тысяч домашних камер видеонаблюдения и ролики интимного характера слили в интернет.
