"Вы можете сделать умные компьютеры, не имея ни малейшего представления о том, что они делают. Вы берете огромный объем вычислительных мощностей и бросаете его на воистину гигантский объем данных так, что это каким-то образом изменяет компьютеры. Никто не знает, что происходит внутри этих вещей", - приводит его слова газета "Таймс".
Соарес сравнил нынешнюю ситуацию с машиной, которая несется навстречу пропасти с огромной скоростью: "Я не говорю, что мы не можем остановить автомобиль, но мы просто на полных парах летим к обрыву".
Издание пишет о том, что ИИ находится на начальном этапе развития, который можно определить как узкий, или слабый ИИ. Однако, как говорится в статье, некоторые эксперты считают, что он может уже в течение следующих 12 месяцев развиться до общего, или сильного ИИ, что позволит ему мыслить подобно человеку. Например, "Гугл" только что представила искусственный интеллект, который содержит в себе множество ИИ-агентов. В определённый момент может появиться искусственный суперинтеллект, и не исключён риск, что ИИ начнет воспринимать человечество как помеху самому себе.
"Таймс" считает, что сценарий Соареса (он совпадает с прогнозом крёстного отца искуссственного интеллекта Джеффри Хинтона и с мнением исследователя ИИ Элиезера Юдковского) является крайне негативным. Так, исполнительный директор движения PauseAI Холли Элмор оценивает вероятность гибели человечества из-за ИИ всего от 15 до 20%, американский миллиардер Илон Маск также говорит о 20%, а генеральный директор корпорации "Гугл" Сундар Пичаи - о 10%. Как замечает издание, такие прогнозы оцениваются как оптимистичные.
