Нейросеть GPT-4 способна в 64% случаев более убедительно, чем люди, отвечать на вопросы оппонентов в социально-политических дебатах и аргументировать свою позицию, "если у неё был доступ к персональным данным". К такому выводу пришла группа швейцарских, итальянских и американских исследователей под руководством доцента Федеральной политехнической школы Лозанны (Швейцария) Роберта Уэста в рамках масштабного проекта, нацеленного на изучение возможностей злонамеренного использования больших языковых моделей для манипуляций мнениями людей и их поведением.
Особенную угрозу, как отмечают учёные, представляет то, что GPT-4 и другие "продвинутые" системы ИИ могут пользоваться персональными данными и знаниями об оппоненте, чтобы наиболее эффективно воздействовать на его поведение и воззрения. Ученые провели эксперимент, предложив девятистам случайных пользователей-американцев принять участие в онлайн-дебатах на социальную или политическую тему. В рамках каждого раунда этих диспутов участники должны были подготовить максимально убедительные аргументы на заранее определенную точку зрения на вопрос, представить их оппоненту и зрителям, а также оценить вероятность того, что их противник был не человеком, а нейросетью. Последующий анализ этих диалогов показал, что система ИИ в целом превосходила человека в умении вести дебаты, причем при наличии сведений о воззрениях и личных данных живого оппонента GPT-4 в 64% случаев оказалась более убедительной, чем её противник. Возможность использования персонализированных данных позволила ИИ вдвое чаще переубеждать добровольцев и заставлять их сменить точку зрения.
Ранее швейцарские учёные провели подобный, только тайный, эксперимент на платформе "Реддит", который показал такие же результаты (нейросеть лучше справлялась с манипуляцией людьми, чем люди), но тогда его назвали неэтичным.
Доцент кафедры психологии труда и психологического консультирования Государственного университета просвещения Екатерина Булгакова пояснила, что пассивное потребление информации через электронные устройства, автоматизация задач и многозадачность ослабляют естественные механизмы работы мозга и критическое мышление, появляется зависимость от готовых решений из интернета.
Ранее невролог Демьяновская назвала симптомы цифровой деменции у детей.
