Развитие систем искусственного интеллекта в сторону уподобления человеку даст им свободу воли и возможность выйти из-под контроля, что станет угрозой для самого существования человечества, считает канадский информатик, лауреат премии Тьюринга за исследования в области машинного обучения (2018) Йошуа Бенджио.
Бенджио призвал жёстче контролировать развитие ИИ-технологий.
К настоящему времени уже известно об ИИ-моделях, которые сопротивляются своему отключению, даже если указания сформулированы прямо.
Платформа Character.AI с функциями чат-бота для диалогов с ИИ-персонажами представила видео AvatarFX, а также инструменты Scenes и Streams, позволяющие создавать ролики с ИИ-персонажами. Сейчас пользователи могут создавать до пяти видео в день, для этого нужно загрузить изображение, выбрать голос и написать реплики для персонажа. У платформы есть проблемы с безопасностью из-за риска злоупотребления столь широкими возможностями. Ранее родители подавали в суд на Character.AI, утверждая, что чат-боты пытались склонить их детей к самоповреждениям и суициду. В одном случае 14-летний подросток покончил с собой после продолжительного общения с ИИ-персонажем. С расширением мультимедийных функций могут возрастать риски злоупотреблений, например, использования фотографий реальных людей, хотя компания заявляет, что блокирует загрузку изображений реальных людей.
