Ряд сотрудников компаний-разработчиков искусственного интеллекта сделал заявление об опасности продолжения разработок:
Исследователь компании "Антропик" Джейкоб Коксон уволился со своего места работы, объяснив, что не хочет участвовать в гонке по созданию систем искусственного интеллекта, могущих выйти из-под контроля и уничтожить человечество. "Мы движемся по пути,
ведущему к воплощению наиболее грозных сценариев, при которых уже к концу следующего года ситуация может выйти из-под контроля", - объяснил Коксон. Он подчеркнул, что считает таким катастрофическим сценарием создание "самосовершенствующегося интеллекта", и это вовсе не "маркетинговый ход", компания "Антропик" действительно движется в этом направлении.
Коксона поддержал ведущий научный сотрудник "Антропик" Эван Хабингер. По его словам, опасность уничтожения человечества реальна, и, несмотря на все усилия, у компании по-прежнему нет плана решения проблемы «выравнивания для сверхразума», и она «явно не на верном пути». «Что меня беспокоит, так это сверхразум, возникающий в результате рекурсивного самосовершенствования, которое, как мы уже говорили,
происходит быстрее, чем мы думали».
OpenAI добивается введения в США обязательных общенациональных требований к безопасности систем искусственного интеллекта. «Перспектива ускорения разработки ИИ силами самого же ИИ
требует большего, чем просто добровольных обязательств. США необходимы обязательные общенациональные нормы, способные развиваться вместе с технологиями», — говорится в заявлении компании.
