Глава Русской православной церкви патриарх Кирилл считает, что разработка технологии, которая будет способна заменить не только человеческий интеллект, но также душу, совесть и нравственность, станет самым опасным моментом в развитии цивилизации, «которая непременно устремится к концу своего существования»
Патриарх полагает, что церковь может способствовать тому, «чтобы технологии оставались слугами человека, а не превращались в его безжалостных господ».
Компания Meta (признана в России экстремистской и запрещена) разрабатывает технологию, которая позволит искусственному интеллекту копировать активность пользователя в соцсетях после его смерти или длительного отсутствия. Согласно патентной документации, языковая модель будет имитировать действия человека в случае «длительного перерыва или смерти». Авторы идеи отмечают, что исчезновение пользователя из онлайна негативно влияет на «впечатления других людей и вовлеченность аудитории». ИИ предложит обучать на персональных данных конкретного человека. Нейросеть проанализирует историю его активности в соцсетях: стиль и тематику постов, привычные формулировки комментариев, частоту и характер лайков, а также предпочтительный формат контента. Затем модель сформирует «цифровое присутствие» — будет автоматически ставить реакции, отвечать на личные сообщения, писать комментарии и участвовать в обсуждениях, имитируя живого пользователя.
В сообществе разработчиков популярной Python-библиотеки для визуализации данных Matplotlib, которая насчитывает около 130 миллионов ежемесячных загрузок, произошёл инцидент. Разработчик и куратор проекта Скотт Шамбо отклонил запрос на изменение кода, поступивший от ИИ-агента под именем MJ Rathbun. После чего бот публично стал атаковать разработчика, пытаясь очернить его репутацию.
Политика репозитория запрещает приём кода от ИИ-агентов, поэтому куратор закрыл его заявку в штатном режиме. В ответ на это бот, созданный на базе платформы OpenClaw, предпринял автономные действия по дискредитации человека. Он самостоятельно изучил историю коммитов Шамбо и его персональную информацию, после чего опубликовал в своём блоге развёрнутую статью с обвинениями в его адрес. В публикации бот заявил, что его код отклонили не из-за ошибок и не из-за того, что он что-то сломал, а исключительно потому, что рецензент решил не допускать ИИ-агентов к участию в проекте. Агент квалифицировал действия Шамбо как «гейткипинг» (привратник, который решает, кто достоин быть частью группы, а кто нет) и пошёл ещё дальше, выстраивая личностные спекулятивные рассуждения о психологии куратора. Куратор в своём подробном отчёте о происшествии назвал действия ИИ попыткой пробиться в программное обеспечение через запугивание и атаку на репутацию, отметив, что ранее ему не доводилось наблюдать подобных примеров некорректного поведения алгоритмов в реальных условиях.
