Глава Совета при президенте РФ по развитию гражданского общества и правам человека Валерий Фадеев на совещании с проректорами российских вузов сказал, в некотором даже смятении, что молодёжь верит искусственному интеллекту больше, чем живым людям. «Что с этим делать? Я не понимаю», - признался Фадеев. Но тут же заявил: «Надо будет очень серьёзно менять методики преподавания, методики оценки знания».
Нет. Когда вы не понимаете происходящее, ничего очень серьёзно менять не надо. Это должно быть базовым принципом: не пороть горячку. Давайте лучше попробуем разобраться, что происходит. С обязательным учётом того, что происходит оно не только у нас, а во всех развитых странах. Чтобы наметить контур, возьмём следующие опорные точки.
Первая: по данным проведённого в 25 странах опроса американского Исследовательского центра Пью, людей очень беспокоит состояние мировой экономики. В 2017 году об этом говорили 42% опрошенных, сейчас – 70%.
Вторая опорная точка: госдолг США составляет уже около 125% ВВП США. У Японии – 255% ВВП. У Китая – 80% ВВП. Госдолг Британии достиг 100% ВВП. Госдолг России менее 20% ВВП, однако крепко мнение, что американская и китайская экономики куда мощнее и стабильнее российской.
Это на самом деле очень характерный вывих в оценках: можно быть в долгах по уши, но при этом гордиться собой и считаться экономически чрезвычайно успешным. Для этого есть хорошее выражение: жить не по средствам. Большинство населения планеты – и прежде всего в странах, которые считаются самыми богатыми, самыми успешными – живёт не по средствам, живёт в долг.
Кстати, госдолг США рванул вверх после грандиозной аферы с рынком недвижимости, рухнувшим в 2008 году. Но хоть афера и лопнула, а организаторы её остались безнаказанными, оздоравливающие фондовый рынок меры приняты не были. Государство потеряло, а аферисты выиграли. Сегодня большая часть госдолга США находится в руках частных лиц, в том числе нажившихся на тех махинациях: государство сперва обдурили, потом ему же ещё и в долг дали под проценты. Небольшое число частных лиц на планете сосредоточило в своих руках какие-то совершенно невероятные, фантастические богатства, которые даже представить трудно. Но можно – если вспомнить, что из своего более чем двухсотмиллиардного состояния Илон Маск потратил на избирательную кампанию президента США «всего» около 260 миллионов. Столько стоит избрать президента сверхдержавы. И состояние богатейших частных лиц растёт по всему миру – независимо от того, что творится с миром.
Происходящее, с одной стороны, беспокоит людей – отсюда растущая нервозность по поводу состояния мировой экономики. Люди чувствуют: что-то не так, ненормальность, вывих. А с другой стороны, они боятся, что перевёрнутая пирамида рухнет, и лично им придётся жить по средствам, а значит – беднее. Люди не хотят жить беднее. И потому хотят, чтобы ненормальность продолжалась, чтоб изыскала какие-то новые ресурсы для продолжения.
Вдобавок, конечно, огромное значение имеет военная гонка. Все сколько-то заметные политические игроки на планете решили, что им надо срочно максимально вооружаться. Это дело политиков, людей больше заботит экономика. Но мы знаем, что политика вообще, и война в частности, хорошо годятся для того, чтобы отвлекать внимание от хозяйственных проблем и вносить в текущую жизнь громкую ноту авральности. «Враг у порога, не время рассусоливать». Так что военная гонка очень важна, это наша третья опорная точка.
Так вот: искусственный интеллект – это и есть тот самый новый ресурс, который изыскала ненормальность. Он призван вытащить на новый виток извращённую мировую экономику, вооружить до зубов мировую политику и поставить человеческое общество под беспрецедентный контроль (что считается полезным и для политики, и для экономики). Контроль людям продадут под видом безопасности, хотя новый мир становится очень опасным местом. Билл Гейтс расскажет вам, что благодаря ИИ людям не надо будет работать, а Илон Маск расскажет, что ИИ «избавит от голода, болезней и бедности». Дональд Трамп заявит, что это «новый Манхэттенский проект», который сделает Америку снова великой, а председатель российского правительства Михаил Мишустин призовёт цифровизировать и автоматизировать «всё, что возможно». И все вместе они объявят, что «прогресс не остановить».
Когда председатель СПЧ Фадеев говорит, что молодёжь верит ИИ больше, чем живым людям, - я не уверена, что это так, но допустим, – он должен, прежде всего, иметь в виду, что искусственным интеллектом молодёжи прожужжали все уши. Что ИИ представляют единственно-возможным решением проблем. Что поколение взрослых, принимающих решения людей само отказывается от человеческого разума в пользу искусственного: «мы не можем решить главные проблемы человечества, но ИИ сможет». Всё, что мы сейчас в горячке «серьёзно изменим», - то есть трансформируем под ИИ, – не пойдёт на пользу. Это – продолжение жизни в долг, жизни, отъедаемой у будущих поколений; мы просто сняли с себя ответственность и переложили на ИИ.
Поскольку гонка всемирная, рассуждать об этом бесстрастно – трудно. «Вы что, хотите, чтобы США и Китай вырвались вперёд, а Россия безнадежно отстала?». Кроме того, в отличие от США и Китая, Россия действительно воюет и находится в таком состоянии, когда военное поражение угрожало бы дальнейшему существованию страны. Цена поражения для нас очень высока. Иными словами, выглядит всё так, что для России запретить себе ИИ – всё равно что выстрелить себе в ногу. И это бесконечно удручающее положение. Можно было бы сказать, что мы выбираем из двух зол – но на самом деле нет. Мы не выбираем. Мы даже не понимаем, что ИИ - зло, а делаем вид (или действительно верим), что это просто очередной технологический виток, «так всегда было».
Я не думаю, что Россия могла бы в этой гонке победить, но считаю, что в ней вовсе не может быть победителя. Есть опасения – не просто мои обывательские страхи, а обоснованные в том числе разработчиками ИИ опасения, – что искусственный разум выйдет из-под контроля, и тогда проиграют все (см., например, выступления Джеффри Хинтона или Романа Ямпольского). Это опасность номер один. Но допустим, что этого не произойдёт. Можно ли считать, что государства, которые цифровизировали и автоматизировали «всё, что возможно», - победили? Можно ли считать победителем цифровой концлагерь? Можно ли считать победителем общество, где люди утрачивают способность к самостоятельному труду и исследованию и боятся принимать решения, которые не одобрил ИИ? Это угрожает не только России – всем. Потому и говорю: в этой гонке будут выгодополучатели, но в ней не будет победителя. Чем «счастливее» люди будут становиться «благодаря ИИ», - тем они будут тревожнее, депрессивнее, болезненнее. Чем упорнее мы будем истреблять «рутину» (все пропагандисты ИИ славят избавление человека от «рутины») – тем меньше будет живого непосредственного материала для наших мозгов. Ибо все человеческие открытия выросли из рутины.
Вообще, каждый раз, как слышу вопль «ИИ возьмёт на себя всю рутину! оставит людям только творческую работу!», - я понимаю: здесь внедряется отчуждение человека от материала. Заниматься только творчеством так же противоестественно, как есть одни десерты. И да: ИИ тоже будет заниматься творчеством. Думать, что "ненасмотренные" люди долго смогут отличать творчество ИИ от человеческого - чрезвычайно самонадеянно.
Глава «Хуавэй» Жэнь Чжэнфэй не просто так сказал, что «искусственный интеллект, возможно, станет последней технологической революцией человеческого общества». Впервые в истории машина не усиливает человеческий труд, а человек передаёт машине свои мыслительные функции, и это уже сейчас сказывается на наших способностях. Люди мыслят аналогиями, и сейчас мы находимся в положении, которому нет достаточной аналогии. Можно вспомнить золотую рыбку, которая исполнила все желания старухи, пока та не захотела стать владычицей морскою («чтоб служила мне золотая рыбка и была бы у меня на посылках») – и осталась у разбитого корыта. Но это опять про вероятность утраты контроля над тем, что сильнее тебя. Может быть, это произойдёт. А возможно, мы сами сделаем себя слабее. Слабее – через утрату человеческих способностей, человеческой автономности. Но одно отнюдь не противоречит другому: ослабление естественного интеллекта и усиление искусственного – это вещи, которые будут измеряться относительно друг друга, будут становиться причиной и следствием друг друга.
Что бы ни говорили «эксперты» - от СПЧ до правительства, от США до Китая, - не следует ничего менять, чтобы подстроить себя под искусственный интеллект. Напротив: следует уважать, ценить свою человеческую природу и живые связи. В гонке, в которую мы втянуты, они нам очень понадобятся.
