Учёные показали, что сдержать супер-умный искусственный интеллект будет невозможно

Международная группа исследователей разработала теоретический алгоритм, который, по идее, должен сдерживать супер-умный искусственный интеллект, чтобы он не причинил вреда человечеству. Однако оказалось, что алгоритм не будет способен помешать такому искусственному интеллекту, поскольку невозможно будет понять, находится ли алгоритм в стадии оценки угрозы -- или он уже перестал сдерживать искусственный интеллект. 

Исследователи также продемонстрировали, что мы можем даже не осознать момент, когда интеллект машин превзойдёт человеческий.

Илон Маск описывал искусственный интеллект как "самую большую экзистенциальную угрозу" и сравнивал его разработку с "призыванием демона".