Два «крёстных отца ИИ» — Джеффри Хинтон и Йошуа Бенджио, - а также соучредитель Apple Стив Возняк и основатель Virgin Group Ричард Брэнсон, бывший главный стратег президента США Дональда Трампа Стив Бэннон и другие заметные деятели, к настоящему времени более 3200 человек, подписали открытое письмо, в котором призвали отказаться от разработки сверхразумного искусственного интеллекта "до тех пор, пока не будет достигнут широкий научный консенсус о том, что это будет безопасно и контролируемо, а также не будет получена мощная общественная поддержка".
Двумя годами ранее тоже было обнародовано такое письмо, тогда его подписал и глава SpaceX и Tesla Илон Маск; оно не достигло никаких результатов, а Маск теперь преследует цель стать одним из главных выгодополучателей от сильного искусственного интеллекта - в частности, создать армию роботов, чтобы, по его словам", "искоренить бедность". Интенсивную работу для появления сверхразума ведёт компания OpenAI, глава которой Сэм Альтман предсказывает успех на этом поприще к 2030 году; его бурная деятельность по привлечению инвестиций привела к тому, что он "организовал целую серию сделок на сотни миллиардов долларов, натравив друг на друга гигантов Кремниевой долины", и они не могут позволить случиться провалу OpenAI. Работу в этом направлении ведёт и запрещённая в России экстремистская организация Meta, которая только что объявила о сокращении 600 человек, занимавшихся сверхразумом, - для того, чтобы упростить процесс принятия решений.
