Искусственный интеллект оказался способен разрушать анонимность в интернете

Модели искусственного интеллекта оказались способны в значительном числе случаев определять истинного владельца фейкового аккаунта в интернете. Для выявления поддельного аккаунта и определения его истинного владельца модели ИИ используют ряд идентифицирующих сигналов — это могут быть фрагменты или крупные объёмы совпадающих данных, а также отличительные признаки поведения. К такому результату пришли исследователи Швейцарской высшей технической школы Цюриха (ETH Zurich), независимой образовательной и научно-исследовательской программы MATS, а также компании "Антропик". «Наши выводы имеют большое значение для конфиденциальности в интернете. Среднестатистический пользователь Сети долгое время действовал в соответствии с неявной моделью угроз, предполагая, что псевдонимы обеспечивают адекватную защиту, потому что целенаправленная деанонимизация требует значительных усилий. Большие языковые модели опровергают это предположение», — пишут учёные.

В рамках исследования модели ИИ в 68% случаев успешно определили поддельный характер учётных записей и в 90% случаев из них верно указали на их истинных владельцев. ИИ способен выявлять не только настоящие имена хакеров, но и тех, чья жизнь может зависеть от анонимности: информаторов, активистов или жертв насилия.