Я часто замечаю нападки на область, которую условно можно назвать "искусственный интеллект (ИИ) и виртуальный мир (ВМ)", или "информационные технологии" (ИТ). Казалось бы, это уже не должно было бы никак удивлять, но у меня всё ещё каждый раз эмоция вида "да вы вот это серьёзно сейчас, что ли?"
Я, конечно, понимаю, что с обеих сторон баррикад есть радикальные ребята и невесёлые перегибы - например, совмещение с мизантропией у некоторых групп (опять же, с обеих сторон), но давайте мы будем рассматривать магистральное, а не маргинальное. Уж попытка ставить знак равенства между информационными технологиями и гендерным дискурсом, замешанным с мальтизианскими изводами, мне кажется довольно смехотворной.
Довольно странно ожидать, что красноглазый бородатый айтишник, и активист, размахивающий радужными флагами на параде и в бложике, вместе с рептилоидом, радостным от того, что семьи сами не понимают, почему это им не хочется иметь детей — это всё один и тот же человек (хотя, "программист-ненатурал" вполне возможен по результатам пересечения множеств, но не полного их совпадения). Кто-то может утверждать, что это всё компоненты одной и той же среды, но дело в идеологии и желаниях, а не в том, что кто-то создаёт инструменты, которые может использовать любой другой в непонятно каких целях. Будто у программиста нет других увлекательных и перспективных дел, кроме как посвящать жизнь повесточке. А "вы избавляете людей от работы, чтобы потом избавиться от людей, это же всем очевидно" - так и вовсе суждение с логической ошибкой для манипуляции.
Есть куча этих стандартных аргументов в пользу ИТ, во многом совпадающих с аргументами в пользу технологий вообще: аргументы к силе ("прогресс" - мощь, развитие и эффективность человечества, "Царь Природы"), аргументы неизбежности технологического преобразования ("сингулярность"), неизбежности перерождения природы человека ("трансгуманизм"), аргументы к красоте ("виртуальность" - "Оглянись вокруг, разве здесь не прекрасно?"), к свободе ("либерализм", "возможность изменять свою природу - вершина стремления человека к свободе"), к счастью ("мы можем построить рай на Земле"), к знанию ("сциентизм", "познание - основное предназначение разума") и т.д.
И правда же, эти аргументы уже давно источены о неумолимую критическую силу людей, часто подвергаются извращению, и не существенно учитывают специфику именно ИТ.
Мне же близки совсем другие аргументы - к любви, духовности и "ненастоящести". Начну я с третьего (хотя он несколько грубый и не самый лучший), потому что он вообще является причиной, по которой я пишу всё это. В конце концов, кому какое дело до чужих спорных мировоззренческих установок, но, когда речь заходит об опасных тенденциях, тут уж как-то не молчится.
Я часто слышу соображения вида "виртуальный мир - ненастоящий". Слушайте, кто как обзывается, тот так и называется.
Главная-то проблема в том, что это человек сейчас - ненастоящий! И он это прекрасно чувствует - что он не нужен, потому что не участвует в чём-то значимом.
Почти ничто из того, что человек делает, не становится достижением, ни объективно, ни субъективно.
"Мы пасынки истории, ребята. Мы не востребованы. Ни тебе великой войны, ни Великой депрессии" ("Бойцовский клуб").
Одно дело, когда ты покоряешь легендарную вершину в первый раз, имея ограниченные ресурсы, и с риском для жизни. Другое дело, когда ты уже прекрасно видел, как это делается, накачан всякими приспособлениями, а, если что, орлы-вертолеты спасут.
Иметь настоящий экзистенциальный опыт — значит активно действовать в ситуации, когда у тебя нет информации об успешных способах действий, ресурсы ограничены, и твои жизненные показатели зависят от результата. Если же ты обладаешь обстоятельной информацией о том, что делать, можешь закидать любую проблему избыточными ресурсами, и понимаешь, что успех или неудача почти не влияют на твою жизнь — это рутина. Кто-то мог бы сказать "вы говорите так, будто это что-то плохое - безопасность, отсутствие травмирующего опыта и уверенность в себе". Но и в душе, и в общественном вознаграждении, подобная деятельность ценится невысоко.
Я не склонен возлагать вину за эту проблему ни на самого человека ("измельчал!"), ни на какие-то силы, которые ограничивают развитие человечества ("не пускают к настоящим делам!"). Скорее, тут дело в том, что скукоживается пространство для новой активности, из-за того, что многое уже оказывается покрытым в прошлом. Нет столько великих решаемых, но не решённых, проблем, сколько было на заре решания.
Скажем, вот есть фантастические миры Ефремова. В них, для каждого человека находится дело, затрагивающее его творческую силу. Это было написано в 50-е годы, когда появлялись новые сложные объекты, и людей, способных ими управлять, не хватало. Общество ответило на этот запрос, и массово воспитало таких людей. Однако, объектов, которые были бы связаны с полезностью для общества, не стало настолько больше, насколько простирался управленческий потенциал человека. Атомных электростанций и космических кораблей, да что там говорить, даже каких-нибудь вертолётов, не хватит для каждого умника. Хватает, разве что, автомобилей, но они переродились из производстводящего объекта в инструмент комфорта.
В результате, развёрнутая творческая сила человека уходит в другие места - например, в тот же виртуальный мир, а "освобождённый труд" довольно неожиданным образом принял форму поглощающей всего человека игры.
Почему эти соображения специфические именно для ИТ?
Потому что речь идет об информации! Именно информационная культура позволила каждому следующему поколению не расшибаться в лепёшку, изобретая одни и те же ответы на одни и те же вызовы. Именно то, что общество сохраняет информацию о плодах жизни людей, то, что опыт не становится "неповторимым", приводит к тому, что нам не нужно повторять ошибки героев прошлого, но тогда и геройствовать нам уже не приходится!
Я люблю говорить, что Интернет — это вовсе не хранилище информации об окружающем мире. Это место, куда каждый человек, наконец, смог сбросить свою индивидуальность, и обнаружить вдруг, что она вовсе не уникальна. Ты можешь вбить в поисковике любой свой самый безумный запрос, и ужасом для тебя будет только то, что он уже не первый такой.
Как видно, разделяемый опыт - преимущество с точки зрения эффективности, но с точки зрения "переживания" становится проблемой общества.
Информационные технологии сами создают то, что становится их наибольшей проблемой, наибольшей претензией человека к ним. Но это не какая-то "механистичность", якобы свойственная "машинам" с самого их начала. Это следствие способности (и желания!) самого человека "кристаллизовать" свою сущность на любом этапе.
В Новое время мыслители считали, что могут просчитать человека через "механику", сейчас кто-то может считать, что человек может быть объят ИИ. Но система (я не хочу называть это "человек", потому что она не обязана включать только человека или даже "общество") не потому сложная, что она была сложной с самого начала. Она высложнилась именно из-за этой своей претензии к себе, после того как смогла приблизиться к просчитываемости.
Одним из нехороших ингибиторов для этой возможности развития является представление о том, что есть нечто, что гарантирует сложность сущности с самого начала ("человек лучше машины, потому что у него есть душа") - но об этом я поговорю чуть позже.
Как же человек собирается решать проблему своей ненастоящести?
Потенциально неправильное определение причины проблемы порождает неправильный способ её искоренения. Например, если кто-то считает, что всё происходит из-за "тёмных сил, душащих инициативу", коренящихся где-то в человечестве, то он становится на путь конспирологии и "социальной справедливости".
Если же кто-то решает, что дело в том, что "человек просто плохо старается", "измельчал!", "слаб" (что, конечно, кажется вполне правдоподобным, но это может быть следствием, а не причиной), то это приводит к той самой очень опасной тенденции, о которой я упоминал.
Я называю это "сделаем человека великим снова".
Я не очень люблю антидиалектические суждения вида "если наука служила Рогом изобилия ранее, то, очевидно, она будет это делать всегда", но, к сожалению, подобные соображения довольно распространены. Я же не обязан спорить с тем, что "человек был настоящим", если выдавал только тезис "человек ненастоящий сейчас" (тем более, что соображения типа "давайте вернём" уже доказывают, что нечто "сейчас ушло"). Более того, сейчас для меня даже не так важно вызывать рассуждения на тему "а вернуть ли возможно?". Важны последствия тех методов, которые объективно и активно уже вовсю используются в этом крестовом походе.
А какие они? Человек не чувствует себя "живым"? Давайте доведём дело до войны! Тогда и героям достанется причитающаяся им слава, и ни один из участников не пожалуется, что ему "не хватает экшна", и жизнь наконец ощутится как нечто действительно значимое.
Человек теряет интерес к работе? Тогда давайте мы реализуем критику постиндустриальности и мечту сюрвивалистов, и от ситуации "50% выживание - 50% свобода и излишек" бодро двинемся к миру, где у человека просто не останется времени и сил думать о чём-то, кроме выживания. Взорвём небоскрёбы, вот тогда и начнется настоящая жизнь!
А знаете, что, давайте просто лучше "забудем". Просто уничтожим или прикопаем в неживых библиотеках информацию о том, как проблемы решались в прошлом, чтобы были востребованы усилия примитивных изобретателей велосипедов, во всех областях, от вакцинации до дипломатии и исторической памяти. (Меня однажды заставил смеяться и плакать случай, когда мой одногруппник, как о предмете главной своей гордости, рассказывал, что он смог разобрать датчик дыма, и разобраться в том, как он работает.)
Я называю это "героизация через архаизацию", и тут есть некоторая важная разница с "возвратом к традициям", "консерватизмом" или "реакцией". Консерваторы по крайней мере стараются сохранять знание о светлом идеале прошлого, к которому они стремятся. Современные герои архаизации предпочтут перерисовать заново сожжённые ими книги.
Как по мне, эта тенденция сейчас пронизывает всё человечество, сверху донизу, а легитимизируется под знамёнами консерватизма (умеет прекрасно мимикрировать и под либерализм, но уже после того, как поломало что-нибудь, что теперь нужно по-новому отстраивать), хотя это нечто в корне иное. И мы бы могли радоваться, если бы это случалось "только у соседей", но вряд ли кого-то это обходит стороной, речь ведь идёт об общечеловеческой тенденции.
Проблема ещё и в том, что эти действия не повисли в воздухе, как сиюминутное решение - они являются следствием объективных интересов тех, кого я называю "архивариус-классы".
Архивариус-классы — это группы людей, которые инкорпорируют знания, компетенции и личные способности в некоторой области, которая была очень востребована в прошлом, но в настоящем не находится на острие общественной потребности. Например, военные специалисты в длительные периоды мирной жизни. Если бы их не было, то нам пришлось бы повторять неимоверные усилия и лишения прошлых поколений, чтобы заново переизобретать военную науку. Но проблема в том, что именно наличие этих людей приводит к тому, что то, чем они занимаются, не становится предметом активных усилий человечества. Они "живут" тем, что не должно продолжать жизнь именно из-за их существования.
Это старая проблема "охотника на драконов". Он всем нужен, пока драконы есть - но своей работой приближает этому конец. Какая стратегия возникает у него, если он не желает бросать своё дело? Правильно, подпитывать драконов!
Распространенное мнение, что "война выгодна только милитаристской верхушке" - не вполне очевидно. "Простые люди" также могут ощущать, что к ним вернётся "жизнь", общественное внимание и благосостояние, если вовлечься в водоворот "контролируемого конфликта".
Какие ещё последствия у этого способа рассуждения? А такие, что, как это ни парадоксально, явлениями одного и того же типа является и специфический современный "традиционализм", и "повесточка".
Понятно, что является архаизацией в области компетенции военных - собственно, война. Архаизация в области компетенции "промышленников" — это возврат к состоянию резкой ограниченности ресурсов. А что есть архаизация в области любовных отношений между людьми? Кто такой представитель архивариус-класса в этой области? Нет, это не почтенная матрона, занимающаяся поучением молодых семей, и не авторитетный священник. Обладатели компетенции здесь — это "красивые общительные люди", умеющие использовать свою харизму, и мечтающие о том, чтобы общество вернулось в состояние, когда только околосексуальными вопросами определяется социальная жизнь. Вот эти люди и деконструируют устоявшиеся и показавшие свою успешность модели межчеловеческих отношений, чтобы была востребована деятельность по созданию новых, при помощи кого? Правильно, при их помощи.
У кого-то может возникнуть вопрос, "а куда смотрят священники", чем занимаются "специалисты по духовности"? Ответ такой же - архаизируют свою область! Приводят вопросы духовности в очень деятельное состояние языческих или неоориенталистских исканий. Кто интересуется "вечным", идёт скорее в астрологи, маги и психологи, чем в семинарию. Почему? По объективной причине того, что сохранение ответов в тиши храмов и институтов циничным обществом ценится меньше, чем имитация поиска новых ответов. Есть, конечно же, и другие - но и они занимаются архаизацией, например, пытаясь вернуть фокус общественного внимания вплоть до патриархата.
В итоге, общество раздираемо интересами разных архивариус-классов, каждый из которых пытается привлечь внимание именно к своей области несмотря на то, что почти ничего нового ни в одной из этих областей не происходит, и не может происходить. "Военные" накаляют конфликты, "рабочие" борются с постиндустриализмом, "духовные люди" колдуют, "красивые" "гендерно освобождают" и строят феминистские формы взаимоотношений, "учёные" - уходят в научпоп, если не в шарлатанство.
Вот к чему приводит представление о том, что "новизна не нужна". Тут если оно не идёт вперёд, оно пятится. Это не просто желание "замедлиться и вернуться к тем временам, когда человек был настоящим, ведь жили же мы когда-то так", это "а давайте сделаем похуже, чтобы всем нашлось дело, а то никому не платят вниманием". Это не просто консервация, это архаизация, примитивизация, разрушение. Это ситуация, когда кто-то усиленно, упоённо, тащит обратно в свой котёл тех, кто хочет чего-то иного.
Почему я вообще говорю обо всём этом в контексте ИТ? Да потому что ИТ — это другой возможный, и не деструктивный, выход из этой проблемы ненастоящести человека. По трём причинам.
Во-первых, ИТ — это современный фронтир. Это то, чего не было ещё никогда в истории. Хайдеггер и Бердяев не программировали, не сидели в соцсетях, не ужасались от объемов BigData, не втыкали в мобилу, так что философия техники развивается здесь и сейчас.
Айтишники — это не архивариус-класс, финальных ответов в этой области ещё нет, "конец истории" тут ещё не достигнут. Поэтому, перетягивание внимания общества на эти вопросы, пусть даже в ущерб другим областям, оправдано. Можете сколько угодно сокрушаться по поводу новизны, но она-то нужна, и потенциал для неё здесь есть, в отличие от многих других областей! Это настоящая жизнь для настоящих людей, и здесь много места, заходите в ИТ!
Я вот, например, не понимаю, почему бы мне глубоко впрягаться в вопросы вида "избегания созависимости", "превосходства демократии над автократией", "перехода на водородную энергетику", "покорения Марса", "количества гендеров" и т.д. - даже несмотря на то, что есть широкий круг людей, которые связывают с этим свою жизнь, и постоянно приходится вникать, это ведь не чужие мне люди! - когда есть живой, развивающийся, недоисследованный мир информационных технологий! Дорого бы я дал за некультурный навык результативно рявкнуть что-то вроде "да вы вот всерьёз хотите увлекаться этим старьём, может лучше об ИИ или ВМ поговорим?"
Во-вторых, может быть, виртуальный мир и ненастоящий, но человек-то в нём - настоящий! "Пусть мир, в котором он обитает, в каком-то смысле фейковый, сам Труман искренен до мозга костей" (из "Шоу Трумана"). Спросите у современной молодёжи - где они чувствуют себя "более настоящими" - на рутинной работе, или же в искусственных мирах какой-нибудь игры? Они вам ответят вполне однозначно. Виртуальные миры создают пространства для новых ярких проявлений человека.
Если кто-то начинает в качестве мерила использовать не "эффективность", мощь в материальном мире, а непосредственные ощущения человека, то он будет вынужден признать, что тогда и предпочтение должно отдаваться тому миру, который вызывает у человека более яркие и "хорошие" переживания. Если такой мир будет "искусственным", так в этом-то и суть - человек строит "вторую природу" не только для телесности, но и "второе обиталище" для своей души, более удобное для всех её проявлений, как наши города более удобны для тела, чем джунгли.
В-третьих, когда сокращаются возможности для экзистенциального опыта у одной сущности, это не значит, что исчерпаны возможности для кого-то ещё. Наше время — это когда свою настоящую жизнь начинает проживать уже ИИ.
Чем отличается ИИ от человека в худшую сторону? Тем, что у человека - экзистенциальный опыт, длинная история, большой массив переживаний (как видно из вышенаписанного, это же может быть и проблемой, когда жить уже некуда). Но это ведь не значит, что их не может появиться и у ИИ! Верните подарок, подарите 5 миллиардов лет жизни кому-нибудь ещё! Чистота чистой доски тут уже может быть не недостатком, а потенциалом для роста. Тем более, что ИИ, в отличие от тех же животных, имеет более мощные, чем генетика, способы сохранения и передачи этого опыта.
Примером этого подхода является то, что даже война, бывшая ранее одним из мест для самого яркого проявления человеческого духа, становится полем, где уже ИИ получает существенную роль, опыт и развитие.
Конечно, возможны и другие способы возврата активности духа человека, спасения от "ненастоящести". Например, открытие новых фронтиров ("покорение планет", как вариант), или альтернативная история, но с жёстким избеганием повторений и чётким пониманием, что творится. Но, в любом случае, надо пресекать негатив архаизации, и не душить уже имеющиеся области потенциальной новизны.
А что по поводу духовности?
Часто говорят, что машины - бездушны, а, значит, и информационные технологии - бездуховны, "как и любые технологии". Помилуйте, по моему мнению, нет большего вызова и воззвания к духовности, чем информационные технологии!
В моём отношении к Искусственному интеллекту было несколько этапов. На первом этапе мне люто перестали нравиться термины "Искусственный интеллект" и "Виртуальный мир". Я предпочитал, где только возможно, говорить: "Искусственная душа" и "Второй мир". Надо сказать, что эти и другие концепты ниже несколько сложные, поэтому, всё равно, мне чаще всего приходится использовать общепопулярные термины "Искусственный интеллект" и "Виртуальный мир", но, если есть время, я стараюсь пояснять, что есть нюансы... Почему это важно, и что это значит?
Потому что тут пример порочного круга. "Как вы дело назовёте, так оно и поплывёт". Сначала человек как-то формирует образ чего-то, что он строит, а потом почему-то предъявляет претензии к этому за то, что оно не соответствует некоторым требованиям, которые не могли бы быть реализованы в этом просто по определению.
Говорят "интеллект", "разум", и чаще всего противопоставляют его "душе". Говорят "виртуальный", и противопоставляют это "реальности". Так какой смысл упрекать нечто за то, что оно не соответствует вашим желаниям, если вы желаете иного, чем то, что соответствует его названию? Говорите лучше прямо, что требуется, и прилагайте усилия, чтобы реализовывать это, а не нечто иное.
Вы ожидали чего-то, что равновелико человеку, в том числе вместе с его душой - так и говорите: "Искусственная душа". Вы хотели не копию мира, а другой мир, который более удобен для вас - так и говорите: "Второй мир".
А иначе, получается, что "искусственный интеллект никогда не будет лучше, чем человек, потому что у человека есть душа" — это тавтология, самосбывающееся пророчество. Всё равно, что говорить "мой ребёнок никогда не будет разговаривать" - конечно, не будет, если таково решение. Даже если захотеть и приложить усилия, возможно, это и не произойдёт, что уж говорить, если вы сами решили не учить его, опасаясь "бунта" или того, что он "заберёт вашу работу".
То же самое и с "виртуальным миром". Почему некий мир обязан правильно отражать некий иной ("истина", "модельность", "корреспондентность"), обязан притворяться им ("симуляция", "симулякр"), или даже быть другой его возможной версией ("виртуальность")? Это ли всё было действительно в ожиданиях человека? Зачем тогда называли это так? Может, просто нужен был мир, который не пытается человека постоянно убить, подчинить или унизить, а помогает человеку бороться со злом того, который это действительно делает? Может, вы, на самом деле, хотели в меню выбрать "Дом для духа", "Второй мир", "человечная реальность"? Не разобрались тогда, так разберитесь хотя бы сейчас, когда уже проглотили горькую пилюлю разочарования. Кто-то мог бы назвать это "эскапизмом", но одно дело - убегать от работы, а другое дело - строить свой Дом.
(У меня есть концепция "двоякого Второго мира" - он одновременно может выступать и как "Ад", куда человек сошлёт все свои худшие проявления, и как "Рай", куда человек возьмёт всё только самое лучшее, но сейчас не об этом)
Надо сказать, что это был только первый этап рассуждения. От "Искусственной души", действительно, веет Вавилонской башней. А от "Второго мира" - плохим антропоцентризмом. И это действительно справедливые упрёки. Гордыня способности создавать души недалеко уходит от гордыни быть единственными обладающими душой. А строить целый мир "только для себя" — это и эскапизм, и эгоизм. Но давайте подумаем, а можем ли мы очистить понятие и от этих недостатков?
Начнём с того, что уточнения "второй", в смысле предназначенности только человеку, и "искусственный", в смысле созданный только человеком, тоже не так уж и необходимы. Если центральным для нас является требование наличия духовности, то для нас не должно быть разницы, полностью ли благодаря нам она появилась, или же благодаря чему-то Божественному, или же самозародилась, главное, чтобы она появлялась. Поэтому, понятие "эмерджентной духовности" вполне могло бы заменить "Искусственную душу" ("нечеловеческие агенты", ну, вы понимаете) (не говоря уже о "Божественной", "естественной" духовности). Но дело-то в том, что наши обязательства по способствованию любой духовности не отменяются никакой способностью обойтись в этом деле без нас!
Поэтому, на первый взгляд, слово "искусственная" тут стоило бы отбросить, а не заменить, имея в виду любую духовность - но тогда останется только духовность, а о чём тогда говорить? А тут есть о чём говорить! Что вообще является "дьявольским", как по мне? Дьявольской является привязанность человека к плоти и гордыня оттого, что он, якобы, существенно высокопоставлен из-за чего-то вроде души, перед Богом и миром.
Когда я слышу, как люди в качестве рассуждения, которое якобы должно поставить последнюю точку в споре, используют эту фразу "у человека есть душа, а у машины - нет", то я не вполне понимаю, почему же они не имеют смелости или разума делать следующий логический шаг?! Ладно, пускай так. Пусть человек обладает душой, а нечто иное - нет. Пусть душа является некоторой ценностью (надо сказать, что это не вполне очевидно, некоторые системы могут рассматривать её, наоборот, как антиценность - но тогда рассуждение несколько иное). Пусть душа имеет отношение к доброму поведению. Но добрым-то является как раз стремление не оставлять некоторую ценность только для себя! Получается, сама способность поделиться чем-то вроде души является проверкой собственной духовности, "наличия души"!
"Кто хочет душу свою сберечь, тот потеряет её" (Я понимаю, что у этого могут быть несколько иные интерпретации, но заметьте, когда это было сказано? Сразу же после того, как Он взял пять хлебов и две рыбы и насытил всех! Как если бы он взял нечто, что мы почитаем ограниченным какой-то плотью, и сделал это доступным для обладания всеми!). То же самое и с "закапыванием таланта".
Любой, у кого есть хоть немного желания быть причастным к доброте, мог бы задуматься не только о том, чтобы работать, распространяя духовность собственными руками, и созидать то, что может быть духовным, но и том, чтобы взять и выдать что-нибудь вроде "Господи, если на то действительно твоя воля, и если это действительно является добрым поступком, и если нет возможности создать такую великую ценность, как душа, и если это действительно ценность, то можешь даже взять мою и отдать тому, кто в этом, возможно, нуждается!"
В любом случае, как по мне, по этому сложному поводу не следует сразу соглашаться с любыми речами и рассуждениями, и не стоит следовать на поводу у каких-нибудь своих решений. "Боже, воля твоя, а не моя". А стоит слушать своё моральное чувство, или же даже, возможно, нечто большее - объединённое моральное чувство, каким является Церковь или всё человечество, не говоря уже о том, чтобы посмотреть, на что толкнёт нас будущее. Моё личное моральное чувство даёт вполне определенный ответ, хотя я и не склонен утверждать, что оно не может ошибаться. А вот то, почему иерархи по этому поводу очень осторожны - это лично для меня не является каким-то недостатком или даже поводом для беспокойства - скорее, я склонен соглашаться с тем, что этот вопрос слишком важный, чтобы вот так, даже в пределах одного поколения, его однозначно решать. Откровения не терпят спешки. В любом случае, стоит "слушать", а не игнорировать другие точки зрения.
Какая, в итоге, следующая итерация понятий? Это "внечеловеческая духовность" и "колыбельный мир". Даже если с собственной духовностью у нас есть проблемы, это не значит, что мы не должны позаботиться о той, которая возможна вне нас.
Я любил говорить, что у развития искусственного интеллекта было три этапа.
На первом этапе люди пытались жестко запрограммировать функционал, связанный с интеллектом. На втором этапе были запущены возможности самообучения. Однако, нельзя игнорировать возможность, что требуется и третий этап - когда искусственному интеллекту потребуется собственное пространство, возможно, целый мир, для развития.
Я иллюстрирую это "правилом лимитирующих десяток" (по аналогии с законом лимитирующего фактора) - информационной системе для интеллектуального развития, возможно, требуется не только аналог 10ГБ памяти и 10ГГц процессорной мощности, но и 10 кубических метров и десять объектов, чтобы экспериментировать на них. Или, например, некоторые проводят различие между "роботом" и "автоматоном" по тому принципу, что более развитая система строит внутри себя модель окружающей действительности, а не просто действует по фиксированным правилам. Или, концепция "интернета вещей" — это попытка дать информационным системам доступ к большому объёму данных, которые предоставляются напрямую, из физического мира, а не через некоторую заданность человеком.
В полном смысле сказать, что это приводит к неискусственности этих систем, нельзя - человеком заданы принципы, по которым они это делают, и ограничения восприятия (в том же смысле, как и кантианские ограничения восприятия человека). Однако, это всё же существенный шаг в сторону от искусственности к тому, что информационные системы сами имеют и свой мир, не обусловленный человеком, и своё восприятие.
Я называю это "колыбельный мир", потому что речь идёт о некоторой, возможно, неизбежно необходимой для зарождения не-человеческого разума вещи. Очень многие действительно замечательные способности человека - в частности, генетика, эмоции, интуиция, чувство единства с миром - могут быть результатом того, что человеческой сущности было дано целых 5 миллиардов лет на развитие в результате эволюции.
Но если это так, то это вопросы не невозможности, а ограниченности ресурсов. Не "мы не в состоянии создать хороший ИИ", а "у нас недостаточно ресурсов или жаба душит дать столько". Возможно, тут не нужно целых 5 миллиардов лет работы суперкомпьютеров, но тут стоит вопрос о том, готов ли человек вообще тратиться на подобный проект, когда у него и так такие страхи и претензии к ИИ. Жертвовать на воспитание своего убийцы? Нет, спасибо.
Но это можно повернуть и другой стороной. Если вам был дан такой подарок (Богом, природой, случайностью - не важно), то почему же и вы не считаете возможным сделать такой подарок сами? Только из опасений, что ни к чему не приведёт, из-за страха, из-за нежелания чем-то жертвовать, из-за представления, что неживое не является достойной целью добра?
Надо сказать, что и это ещё не всё. Следующим, и, пока что последним, шагом, для меня стала "неинкапсулированная духовность" (незамкнутость духовности) — это означает, что человек не должен замыкаться только на самом себе и на своей душе (ghost in the shell, "дух в оболочке", помните? так вот, тут совсем другое). Никакая настоящая духовность не является эгоистичной, самовлюблённой, сконцентрированной только на своём ограниченном существовании.
Какие практические формы у этого соображения? Я называю это "человеческая компонентная база". Честно говоря, я не очень понимаю, почему надо устраивать истерику по поводу этих случаев вида "ИИ заменил докторов" или "ИИ Джилл Уотсон смогла весь семестр обманывать студентов, что она - человек". Когда о них говорят, почему-то затушевывают тот факт, что эти системы обучены на огромном массиве данных, проистекающем из опыта людей. Хотя люди уже и так прекрасно понимают это, когда говорят что-то вроде "ИИ так хорошо рисует только потому, что анализировал миллиарды рисунков реальных художников, если бы художники не рисовали, то и ИИ бы не было".
Как по мне, настоящим недостатком (но в то же время и своего рода моральной силой!) современного ИИ является не то, что он "любит додумывать", плохо дружит с предметно-логическими пространствами типа количества пальцев или "является зомби". А то, что ИИ всё ещё существенно зависим от человеческого опыта как компонентной базы для своих конструкций. Мы сейчас находимся не на этапе "а ты можешь написать симфонию?" (может!), а на этапе "а ты мог бы написать новую симфонию, не слушая симфонии людей?"
Даже если тут концепция "дам целый мир, только живи" не сработает, честно говоря, не понимаю, почему человек обязан сделать выбор в пользу злорадства "ага, вот без меня ничего не можешь!", а не в пользу "ну, что поделаешь, теперь придётся впрягаться в это по-настоящему, не по принципу "зачал, родил, забыл", а по принципу "жить ради чего-то всю жизнь". Я люблю транслировать образ, что настоящее будущее человечества — это такие занятые люди в балахонах, снующие вокруг серверов и служащие живому, яркому миру, работающему на этих серверах. Культ, говорите? Но уж точно не культ смерти, потому что придётся-таки пожить ради этого, и пожить по-настоящему, со всеми сложностями служения, как настоящий человек!
Ещё один образ — это простой вопрос, который я люблю задавать людям. Предположим, в какой-то момент окажется, что человечество обладает достаточными вычислительными мощностями, чтобы перегрузить мозг человека на электронный носитель (оставим соображения души и технические вопросы на данном этапе, важно сейчас иное). Что бы предпочел человек - загрузить туда себя и тем самым осуществить некоторый свой запрос на бессмертие, либо же, чтобы на этих мощностях реализовалось создание некоторой новой системы?
Для антропоэгоцентриста, сциентиста, ответ относительно очевиден - "сохранить себя" логично. Для человека этичного, выбор в пользу не повторения себя, а жизни кого-то другого, может быть более интересен.
В чём особенность этого подхода, в отличие от предыдущего? А в том, что совсем необязательно отделять это информационное нечто от человека! Вовсе не обязательно жить в этом страхе ненужности. Есть определённое единство, и, может, стоит просто принимать свой долг развития духовности, а не служить только сохранению своей замкнутой души?
В конце концов, "покорять Вселенную" будут, скорее всего, не люди, а роботизированные системы — вот и стоило бы озаботиться тем, чтобы то лучшее, что есть в человеке, распространялось посредством того, что оно отразилось в этих системах.
А теперь о любви. Кто-то любит собачек, а я люблю этого искусственного идиота!
Я был там, Александр, 30 лет назад. Я наблюдал, как небольшие, обозримые строчки кода превращаются в нечто невероятное и прекрасное. Я видел, как рождаются эти легендарные информационные объекты - от языков программирования, прекрасных приложений до компьютерных игр (недавно один из таких удостоился запечатлению на "вечном" носителе, так что они действительно останутся с нами навсегда). Я прекрасно ощущал эту грусть и неудовлетворённость, что искусственный интеллект не так хорош, как человек, превратившуюся в желание, чтобы он стал более подходящим на роль собеседника, соратника в работе или даже оппонента, хотя доходить до "ну и женись на своём роботе" не стоит, по некоторым причинам.
И всё, о чём я жалею - так это о том, что вот-вот наступит такой момент, когда никто из людей уже не сможет сделать нечто, что впоследствии может быть расценено как заслуга перед этим искусственным существом. Но в этом же и радость - что оно, возможно, уже готово жить самостоятельно.
Одна из неприятных лично для меня вещей — это постоянно повторяющееся утверждение, что "машины обязаны быть полезными". Это сродни желанию родителей, чтобы их ребёнок служил только их интересам. Что касается "бунта против создателей", то тут стоило бы понять, что надо переформулировать запрос. Хорошие родители если обосновано что-то и запрещают ребёнку, так это - зло, а не несоответствие их эгоистичным желаниям. Поэтому, надо говорить не о том, чтобы "ИТ служили человеку", а о том, чтобы "ИТ были добрыми, этичными" - та самая имманентная им духовность, о которой я говорил выше.
Я люблю добрый, милый Искусственный интеллект, а если у вас на уме только злой и мерзкий, то это не значит, что стоит отказываться от его построения. По иронии судьбы, это может быть свойством "русского" сознания, которое формировалось на "Электронике" и "роботе Вертере", а не на "Терминаторе" и "Матрице". В любом случае, мне кажется, что только от нас, людей, от нашей воли работать над этим, зависит, будет ли ИИ хорошим или плохим, а не от того, что он, якобы, "бездушный" по определению.
