Государство как платформа: Мания контроля встречает цифровые технологии

Часть 1.  Продолжение.

  

Назвав в редакционной колонке доклад ЦСР "Государство как Платформа" хорошим и целостным, мы, конечно, не имели ввиду, что согласны с его целями и содержанием. Скорее, мы сочли, что он является хорошей иллюстрацией того, как не надо мыслить, и уж тем более – не надо делать в части цифровизации государственных функций.

 

В этой части, конечно же, сей фундаментальный труд и хорош и полезен. Например, как иллюстрация того, что, наряду с целом рядом текущих государственных инициатив в сфере тотальной цифровизации экономического оборота, "Государство как Платформа" ставит перед своими потенциальными исполнителями цели, которые, скорее всего, просто не нужны.

 

Не нужны обществу. Не нужны государству как таковому. Внешняя "красивость" идеи для неподготовленного читателя скрывает от него факт отсутствия полезности в целеполагании.

 

Нельзя сказать, что кудринский фонд в этой сфере одинок. В конце концов, последние инициативы государства в части тотального цифрового учёта всех движений товаров, находящихся в сфере розничной торговли, получения Центробанком всех данных о движениях денежных средств по счетам, превентивному запоминанию всех коммуникаций всех граждан системой тотальной прослушки имени депутата Яровой точно так же создают серьёзный вопрос о соразмерности вкладываемых в эти проекты средств официально декларируемым для этих проектов целям.

 

Опыт внедрения автоматизированной системы цензуры Интернет, которой в настоящее время оперирует Роскомнадзор, чётко показал, что конечный результат совершенно не соответствует начальным декларациям. Ну, слова "лицемерие как часть политического процесса" нами уже были произнесены. Однако же, любой думающий и достаточно хорошо знакомый с тематикой, по которой принимаются начальные политические решения, способен осознать их вектор.

 

Впрочем, следует отметить, что определённую роль в формировании этого постоянного расхождения деклараций и реальности играет так же искреннее убеждение многих субъектов законодательного процесса в том, что проблемы решаются путём контроля и информирования. Эти люди борьбу с саранчой на полях страны были бы готовы поставить в такое русло, чтобы лицензировать каждую из насекомых особей, а за существование без лицензии, затем – штрафовать.

 

Мы живём в государстве, которое, положа руку на сердце, управляется тем сортом людей, которых на Западе называют control freak-ами – маньяками контроля. Мания контроля давно и плотно проникла в поры государственного организма и, "по умолчанию" воспринимается как нечто нормальное.

 

Подумаешь, государство решило загнать всю розничную торговлю в единую базу данных? "Ведь надо же налоги посчитать!" Подумаешь, в цепочку ставят уже и производство? "Ведь мы же с незаконной торговлей боремся!" Внешне благие цели, при их последовательной реализации ведут страну к неизбежному экономическому провалу.

 

Электронный Госплан – не сильно лучше обычного.

 

Можно было бы назвать авторов доклада от ЦСР, формально говоря, работающих на реализацию идей либерала из либералов Алексея Кудрина скрытыми сторонниками плановой экономики… Но я не буду раздавать оценок, а, предпочту разобрать их предложения с практической точки зрения, в части реалистичности планов и соответствия их некоторым базовым положениям, на основе которых устроена современная государственная конструкция.

 

В кратком диалоге в Facebook один из авторов доклада – Мария Шклярук гарантировала мне что при реализации доклада "ни одна статья Конституции не пострадает!"

 

Увы, это либо лукавство, либо прямое непонимание практических последствий заявленной в докладе программы. Конечно, выполнима ли эта программа - отдельный вопрос. Но я бы не стал надеяться на то, что "у них всё равно ничего не получится". Уже сейчас правильно задаться правомерностью самой постановки подобных целей в качестве ориентиров для государственного развития. 

 

Вопросы практической реализуемости, а так же реальной необходимости для общества идей доклада ЦСР мне и хотелось бы обсудить в первую очередь. Эти вопросы, при всей их кажущейся разнородности (где разработка софта, а где юриспруденция) на самом деле достаточно тесно увязаны. Такова уж природа предмета.

 

Я не намерен цепляться к каждой фразе достаточно большого, 52-страничного текста, но, всё же, буду его достаточно масштабно цитировать.
Нижеследующие замечания стоит пытаться осмыслить, прочитав доклад в целом и более-менее вникнув в его содержание.

  

Правомерна ли смена парадигмы как самоцель?

  

Упор содержания доклада в том виде, в котором он представлен, сделан на технологические, архитектурные аспекты предлагаемой к реализации затеи. К сожалению, уровень понимания именно этих аспектов авторами доклада на самом деле не высок.

 

Видно, что предмет был объяснён коллективу авторов доклада достаточно грамотными специалистами… но.. увы. Сам его текст,  местами, сбивается на тот неприятный не вполне содержательный стиль, который рядом технических специалистов характеризуется как "marketing bullshit".

 

Начинается краткое объяснение целей проекта со следующего пассажа:

 

Взаимодействие человека и государства изменится. Государство перейдет от предоставления единичных «точечных» сервисов при помощи государственных (ведомственных) информационных систем (ГИС) и баз данных к комплексному решению жизненных ситуаций человека, которое основано на едином массиве данных и алгоритмах работы с ними, совместно разработанными федеральными органами исполнительной власти.

  

Когда такого сорта обороты встречаешь в коммерческих маркетинговых материалах – можно, по крайней мере, с пониманием отнестись к тому, что тебе желают нечто продать. Но взаимоотношения гражданина и государства – это не акт рыночной торговли. Увы, даже язык документа этого не учитывает - достаточно отметить частое и не вполне к месту употребление термина "бизнес-процесс".

 

Но что с предлагаемой нам "услугой"? Не знаю как кто, а я бОльшую часть своих лет прожил в убеждении, что свои жизненные ситуации человек, в принципе, должен решать сам. Постановка вопроса о том, что их решением должно было бы заниматься государство не просто странна.

 

Она является апофеозом того противоестественного патернализма, который пытался превратить общество то ли в класс начальной школы, то ли в группу детского сада в период наивысшего взлёта советской власти. Да так и не смог.

 

Может быть это просто неудачная фраза и авторы имели ввиду что иное, чем то, на что я сходу обратил внимание? Рассыпанные по тексту оговорки и крючки достаточно чётко показывают, что именно это они и имели ввиду.

 

Реализуема ли сия идея впрямую? Конечно же нет, т.к. число потенциально возможных жизненных ситуаций в данном контексте растёт примерно как степенная функция от числа государственных сервисов, к которым мог бы обратиться пользователь для решения своей "жизненной ситуации" самостоятельно.

 

Число официально существующих и документированных у нас в стране государственных услуг превышает три десятка тысяч. Ситуаций, в которых они могут как-то комбинироваться – миллионы и десятки миллионов, если не сотни. Человеку обычно помогают сориентироваться в правильной последовательности действий здравый смысл, понимание происходящего и другие, более компетентные в каком-то конкретном вопросе люди.  Миллионы возможных вариантов - какие справки запросить, в какую инстанцию в какой последовательности обратиться для решения своей конкретной жизненной ситуации он не перебирает.

 

Авторы доклада предлагают разрешать ту же ресурсную проблему… при помощи искусственного интеллекта. Идея, конечно, пионерская, приставить к каждому из нас одну или несколько электронных нянек, которые будут за него планировать его действия.

 

Кажется, речь идёт о творческой переработке старой максимы Антона Семёновича Макаренко про сорок сорокарублёвых воспитателей, способных разложить любой коллектив. Впрочем, этим воспитателям денег не предполагается платить вовсе.

 

Коротко отмечу, что до сих пор человечеству не было продемонстрировано какого-либо действующего образца искусственного интеллекта, который мог бы вести себя в обществе хотя бы сообразно рассудительности и уровню знаний среднего пятилетнего ребёнка.

 

Всё что мы видели – это крайне узко специализированные интеллектуальные системы, способные решать свои задачи в жёстко выделенном целевом сегменте и после тщательной настройки или сложной и глубокой тренировки. Достижимость качественного результата при этом индустрией, в общем случае, сейчас совершенно не гарантирована.

 

По какой причине авторы доклада считают, что, например, неопределённо большое количество крайне узкоспециализированных программ способно, как они утверждают, исполнять большинство функций управления не при помощи органов власти, а на основе платформенных решений по широчайшему спектру вопросов, соответствующему всему масштабу современного госуправления России – мне не известно.

 

Я мог бы предположить, что авторы доклада знают про эти технологии мне неведомое. Но, увы, более реалистичны в этой ситуации иные предположения. Например такие, что обществу и государству здесь пытаются продать несуществующий ещё в природе продукт, получив либо финансовые либо иные (административные, внимания) инвестиции под затею, которую в нынешних условиях даже венчуром не назовёшь.

 

Впрочем, не менее интересным вопросом стал бы вопрос об ответственности за решения, который такой искусственный интеллект принимал бы на месте управленца, если бы вдруг он оказался реализован в железе и софте.

 

Ответственность чиновника за то, что он делает – понятна. Она, как правило, личная.

 

Ответственность автора или эксплуатанта электронного прибора или какой-то иной технической конструкции за её неправильное функционирование – тоже ясна, хотя уже и здесь процесс разбора полётов становится весьма хлопотным. Экспертиза… поиски ошибки в конструкции или нарушения правил эксплуатации, проверка кто принимал или проверял работу… в случае существенно неблагоприятных результатов разбирательства идут годами.

 

Работа искусственного интеллекта, в тех видах, в которых он делается современными разработчиками полностью детерменированной считаться не может. То ли нейронная сетка как-то там обучалась, то ли продукционная система в реальном времени прооперировала с постоянно меняющимся набором входных данных совершенно неочевидным способом… Даже логгирование всего хода действий не позволит в общем случае оценить что и по какой причине/чьей вине пошло не так...

 

Так или иначе, но если мы, вслед за разработчиками доклада говорим не о том, что органам исполнительной власти даётся в руки инструмент в виде искусственного интеллекта для выполнения их задач, а о том, что "Платформа" заменяет собой функции исполнительной власти – то встаёт вопрос о том, кто будет нести ответственность за то, что эта платформа понаделает, если она это понаделает неправомерно.

 

И будет ли вообще у заинтересованных лиц какой-то способ эту неправомерность установить и оспорить…

 

Однако, общей особенностью доклада является концептуальный уход от категорий права в попытке заменить их "данными". Уверен, что это не случайность, а именно продуманная концепция. И она, конечно же, не может быть в таком виде поддержана.

 

Впрочем, авторы доклада на старте заявляют еще более высокую планку. Прямо во введении они обещают нам, что Через 14 лет сервисы автоматически пригласят его [ребёнка] получить паспорт, а также пройти курсы профориентации на основании школьных оценок и психологических тестов.

  

Таким образом, речь идёт о том, что господа из ЦСР хотят залезть к гражданам не только в повседневные "жизненные ситуации", но и в душу.

 

Правомерность и гуманность тотального психологического профилирования, накопления этих данных в некоем "государственном озере данных" и их последующего использования авторами доклада под сомнение не ставится. Не случайно, в редакционной статье была проведена аналогия с известной антиутопией "Мы", прямо предсказавшей подобные идеи, да и показавшей, в художественной форме, последствия их реализации.

 

Работать нормально, впрочем, подобная система тоже не будет. Если уж учёные не смогли создать нормально работающий интеллект искусственный, то уж тем более смехотворна претензия управлять на основе "искусственного интеллекта" и "предиктивных систем" жизнью носителей интеллекта естественного. Не буду даже объяснять тот банальный факт, что общепринятой теории, описывающей человеческую психологию, в природе просто не существует.

 

Но даже если бы и существовала – не зададут ли авторы доклада себе вопрос о том, насколько соответствует общественно выраженному социальному заказу их идея? 

 

К сожалению, складывается впечатление, что их подобные вопросы не особенно волнуют.

 

Но реалистична ли сама затея, объявленная ЦСР в части программной инженерии?

 

 О том, насколько сомнительны прописанные в докладе подходы с организационно-технической точки зрения, я планирую написать в следующей части своего обзора.

 

 

 

 

Материал недели
Главные темы
Рейтинги
АПН в соцсетях
  • Вконтакте
  • Facebook
  • Twitter