Всё-таки это поразительное, завораживающее зрелище. Раз за разом умные мужчины, создатели и исследователи искусственного интеллекта -- перечислю поимённо:
Джеффри Хинтон,
Йошуа Бенджио,
Макс Тегмарк,
Элиезер Юдковский,
Роман Ямпольский,
Дэниэл Кокотайло -- так вот: эти люди, которые знакомы с искусственным интеллектом несравненно больше, чем я, снова и снова предупреждают, как ужасно опасен сверхсильный искусственный интеллект (AGI), к созданию которого корпорации сейчас стремятся в ускоренном темпе, -- но тут же оговариваются, как мил и симпатичен простой искусственный интеллект (AI), который не внушает им опасений, а "просто инструмент", и должен принести человечеству всяческие блага.
Это завораживает, говорю, -- наблюдать, как они отчаянно предостерегают против одного и нахваливают другое. Даже несмотря на то, что они, когда этого касается разговор, понимают, что ИИ уже сейчас снижает уровень критического мышления и резко повышает манипуляции людьми, -- но их это как-то почти не беспокоит.
Я боюсь появления AGI меньше, чем эти люди. Просто потому, что, в моём представлении, он ещё то ли будет, то ли нет, -- а они уверены, что при нынешнем векторе развития непременно будет. Наверное, они правы, потому что знают эту индустрию куда лучше меня.
Но ни один из них не боится того, чего я боюсь в первую очередь и что уже есть прямо сейчас: насаждаемый "искусственный интеллект как инструмент". И завораживает вот что: они не понимают, что некритическое, идиотическое стремление к созданию AGI напрямую связано с распространением и насаждением AI. Оно вырастает из него. И не может не вырастать: это всего лишь логичный следующий шаг.
Потому что ИИ не просто ещё один инструмент -- экскаватор или конвейер, калькулятор или компьютер с полезными бухгалтерскими и т.п. программками. Это технология, которой (уже сейчас) человек передаёт самые сердцевинные человеческие способности, которые и делают его человеком: исследование, творчество, общение. Я не знаю, появится ли AGI -- люди, знающие об ИИ гораздо больше, чем я, уверены, что появится, -- но я знаю, что то, что есть прямо сейчас, уже очень скверно. И когда эти люди удивляются безответственности и глупости, что, мол, корпорации и правительства подталкивают человечество на грань уничтожения, а ведь можно было бы просто мирно использовать ИИ как полезный инструмент, -- меня завораживает то, что они не видят связи: передав мышление на аутсорсинг, вы уже не можете остановиться.
Но почему всё-таки эти умные, знающие мужчины, которые критического мышления явно ещё не лишились, не понимают того, что понимаю я? Даже не так: они не то что "не понимают" -- они не придают значения.
У меня здесь два предположения: частное и общее. Частное (его, в принципе, достаточно) заключается именно в том, что они все так или иначе приближали создание этой технологии, и теперь просто физически не могут, не способны признать, что этого изначально не следовало делать. Они хотели как лучше -- и из этого в их понимании следует "мы делали как лучше". В действительности не так: они хотели как лучше, но сделали очень скверное. Это бывает.
Ну, и общее предположение: это мальчиковая, мужская страсть к технологиям. В мальчиково-мужском представлении -- а мы действительно живём сейчас в мире, созданном мужчинами, -- технология (прогресс) не может быть плохим до тех пор, пока не станет откровенно ужасен. Вот они и напирают на картину, которая откровенно ужасна, игнорируя те (уже имеющие место) последствия, которые ужасны неявно.
Следует, пожалуй, сделать оговорку: уровень критического мышления и чувства самосохранения снижались в человеческом обществе ещё до появления и повсеместного проталкивания технологии искусственного интеллекта. Один из примеров -- массовый завоз инокультурных мигрантов в развитые страны при неспособности этих развитых стран их ассимилировать. Таким образом, технология искусственного интеллекта именно что "очень удачно" легла на нисходящую траекторию человеческого упадка и восходящую траекторию технического прогресса. "Простой искусственный интеллект", "искусственный интеллект как инструмент", который порешает за нас наши проблемы, стал следующим шагом. Конечно, он ничего не порешает, а только усугубит: две расходящиеся траектории следует сводить, а не разводить ещё дальше. Ну, а сверхсильный искусственный интеллект, который теоретически способен обойтись вообще без человека, -- это всего лишь ещё один шаг, который станет последним.
