Проблемы бесхозной автоматизации

Банкомат, который взял разменять $100, выдал только одну банкноту $50, после чего затих (пример из Jan Dietz, "Enterprise Ontology – Theory and Methodology", Springer, 2006). В этой ситуации клиент обычно не пытается поговорить с неживым банкоматом, а ищет ближайшего ответственного за этот банкомат человека: начинает искать его номер телефона, написанный где-то рядом с банкоматом. Если хозяин банкомата вдруг сразу не найдётся, то поиском займётся полиция и далее будет суд – хозяина банкомата так или иначе обяжут отдать недостающие $50.

Частная собственность – это продолжение тела хозяина. Украсть или повредить банкомат – это всё равно, что украсть или повредить у его хозяина руку или ногу. Если банкомат что-то у кого-то украл или повредил – то это всё равно, что украла или повредила вырвавшаяся из-под контроля хозяина его рука или нога.

Безответственный автоответчик
 
Звонок по телефону о неисправности банкомата помогал в эпоху телефона, но не факт, что поможет сегодня, в эпоху интернета. Когда автоматизировано уже почти всё, то при любом сбое оборудования его людей-хозяев оказывается недостаточно для быстрого исправления ситуации. В информационных системах с сотнями тысяч клиентов сейчас именно так и бывает: от безобидных (но обидных) случаев, когда вдруг ломается сервис любимой социальной сети до проблем со сбоями сервиса твоего провайдера сотовой связи или системы переводов твоего банка. Телефон хозяина есть, но по нему одновременно звонят много тысяч человек, а отвечающие на звонки сотрудники обычно и сами не знают, что происходит и как справиться с проблемой.

При росте масштабов автоматизации возникает «эффект падающих домино» -- сбой одного компьютерного сервиса приводит к совершенно непредсказуемым сбоям многих других сервисов, вдруг останавливаются большие куски какой-то сложно устроенной производственной, да и потребительской жизни. Причины и следствия в длинных цепочках падающих домино удалены в пространстве и времени, системные связи слишком сложны для быстрых разбирательств оставшихся людей, а уж выполнить работу вручную вместо компьютеров уже никто не может. Такой эффект хорошо описан в истории человека, у которого произошёл сбой – отменили авиарейс. Билеты у него были куплены в электронном сервисе, регистрация тоже была электронной, а оповещение об отмене не пришло вовремя. Этот человек сделал ровно то, что было предусмотрено для случая сбоя автоматики в качестве «аварийного варианта»: обратился к ближайшему представителю авиакомпании. Представитель авиакомпании а) оказался оторванным от его непосредственного дела и недовольными оказались уже его собственные клиенты, б) перед ним одним оказались требующие дополнительного внимания каждый несколько сотен пострадавших из-за сбоя человек, в) он оказался вместо выполнения какой-то собственной работы в телефонных переговорах с разными другими сотрудниками авиакомпании, тоже абсолютно не понимавшими в том, что происходит в недрах засбоивших информационных систем, принадлежащих самым разным юридическим лицам. Чем больше уровень автоматизации, тем меньше надежды на то, что живой хозяин своих насквозь автоматизированных средств производства сможет чем-то помочь, даже если захочет.

Сколько из нас слышали «я понимаю, что вы правы, но ничего сделать не могу – компьютер не позволяет/не пускает/не работает»? При этом никаких путей ручного проведения операции мимо «компьютера» нет, так как немногие разбирающиеся в «компьютере» люди заняты его наладкой.

Если автоматизация работает, то работают и службы реагирования на нештатные ситуации. Если автоматизация не работает, то и службы реагирования на эти нештатные ситуации по факту не работают, клиенты остаются без поддержки. Ведь содержательно поговорить там не с кем, разве что выплеснуть автоответчику накопившиеся отрицательные эмоции. Сегодня многочисленные аналоги номера телефона хозяина банкомата оказываются фикцией. Служба техподдержки при массовых сбоях поддерживает только психологически. В пределе речь идёт о службах спасения, у которых нет «штатного режима», а только один нештатный режим. Её нельзя не автоматизировать, но когда её телефоны не отвечают, то к кому обращаться (https://www.facebook.com/nloseva/po sts/10211841207499877)?

Сбои в ковровой автоматизации воспринимаются сегодня как природное бедствие, и даже техногенной катастрофой это не назовёшь: никто не погибает, просто выключается на время какой-то кусочек цивилизации, и то не для всех. Это не разлив нефти, не затопление, не страшной силы взрыв, не отравление целого города, поломка автоматизированных сервисов пока просто существенное неудобство для многих людей. Это неудобство люди терпят, ибо общие выгоды от автоматизации во времена, когда всё работает, превышают издержки во времена, когда ничего не работает.

А ещё есть надежда на суд, который поможет как-то компенсировать неприятности для тех, кто особенно пострадал. Разбирательство по существу может быть долгим и дорогим, но оно принципиально возможно: бесхозных средств автоматизированного производства нет, каждая вредящая кому-то автономная рука или нога, каждый автоматизированный инструмент имеет своего хозяина-собственника.

Умышленная бесхозяйность
 
Публичный блокчейн принёс новую ситуацию, когда автоматизированная система специально изготовлена так, чтобы не принадлежать никому. Если чьи-то руки и ноги, или оборудование, и даже раб (говорящее орудие) или скот (мычащее орудие) нанесут кому-то вред, то суд заставит их хозяина компенсировать этот вред. Но если оборудование принципиально ничьё, то вред останется не компенсирован, а починка сломавшегося становится проблемой всех и никого.

Умышленная бесхозяйность началась с финтеха – автоматизированных сервисов инфраструктуры финансовых рынков. Примеров много, а самые известные среди них – денежная система биткойн и распределённая автономная организация The DAO.

Разработчики «ничьих» финтех-систем стараются предусмотреть все нештатные ситуации до момента запуска. И действительно, в штатных ситуациях их системы работали великолепно, как космические ракеты, которые очень хорошо летят, если только не взрываются или не разбиваются вместе с грузом и пассажирами. Услуги ничьих полностью автоматических финтех-сервисов дешёвы, но когда в этих дешёвых сервисах застревают ваши собственные дорогие $100, а иногда и совсем уж дорогие $100,000,000, вам хочется набрать заветный телефончик хозяина сервиса. Но телефончика принципиально нету. Обратиться в суд? Обвинять некого. Страховать? Тогда очень дешёвый сервис немедленно превращается в очень дорогой, ибо страховая компания не сможет по суду востребовать с кого-то компенсацию своего платежа.

Компенсация вреда – это только половина дела. Вторая половина – это починить поломанное. Но чтобы чинить, нужно поломанным владеть, иметь над ним контроль. А тут собственника нет, контроля тоже нет, даже если вдруг найдётся альтруист-доброволец, готовый тратить свои ресурсы на починку ничейного сервиса.

Инженеры стараются сделать сложные системы такими, чтобы они были ремонтопригодными и легко модифицируемыми. Но пока неизвестно, как это свойство обеспечить для систем, которые специально были спроектированы для полностью безлюдной работы, включая несуществование хозяина.
 
Но зачем же делать системы без хозяев, которые потом непонятно как чинить и модифицировать? Это делается как раз для того, чтобы предотвратить аварии! Люди ведь сами по себе ненадёжны, они самый слабый элемент автоматизированных систем.

Системы с людьми становятся жертвами человеческих ошибок (аспект safety) или даже намеренного вреда (аспект security), или несправедливости (аспект рыночного регулирования, в том числе неправовыми законами). Так что разработчики избавляются от людей в разрабатываемых ими системах: «нет головы, нет проблемы», только без сопутствующих убийств, просто за счёт тотальной автоматизации. Не нравятся законы для какой-то деятельности (например, валютное регулирование, которое многие считают ошибкой регуляторов, а не ценным достижением цивилизации) – вычеркни влияние регуляторов: автоматизируй деятельность так, чтобы игнорировались эти законы, а наказывать было бы некого.

Но лекарство тут стало болезнью: в результате не только некого наказывать за избегание ошибок регуляторов, но и некому прийти на помощь, когда что-то идёт не так. Гильотина оказалась не лучшим средством от головной боли, хотя голова и впрямь перестаёт болеть.

В намеренно бесхозных технических системах регулярно что-то идёт не так. И тогда ищут настоящих хозяев, которые могут хоть что-нибудь сделать – изобретают процедуры достижения «консенсуса», т.е. объявления «ничьего» «чьим-то» на время починки и модернизации, но не на время компенсации вреда и не на любое другое время. Для соблюдения принципа невмешательства людей в работу автоматов первым делом нарушается этот принцип. Так было и с биткойном, когда потребовалось увеличить длину блока его блокчейна, так было и с The DAO, когда потребовалось вернуть украденное. Оды сообществу, которое «решило проблемы, и будет их решать впредь» -- это оды присвоения какой-то группой людей прав собственности на то, что было задумано как «навсегда ничьё».

А дальше всё решит потребитель. Вы положите свои $100 в банкомат, для которого принципиально, «по проекту» не существует ни службы поддержки, ни возможности обратиться в суд для независимого разбирательства, а за ремонт непонятно кто будет платить и даже непонятно, допустят ли ремонтника до починки? А если это не ваши личные $100, а деньги ваших клиентов? Пока объём «ничьих» финансовых сервисов в их мировом объёме мизерный, несмотря на всю многолетнюю историю развития – летом 2017 года он не превышает $100 млрд.

Системы могут быть полностью безлюдными – без операторов и хозяев – только на стадии эксплуатации. Полностью безлюдные системы, которые во всём своём блеске вдруг появляются из ниоткуда – это вредный миф. Весь блеск таких систем уходит в никуда при малейших изменениях, которые в эти системы постоянно нужно вносить в силу непрерывно меняющегося мира. Для внесения изменений нужны и люди-хозяева, и люди-ремонтники. Серьёзно обсуждать безлюдность эксплуатации нужно только после обсуждения того, откуда берутся люди во все остальные моменты жизни автоматизированной системы.
 
====================================================================
 
 
Материал недели
Главные темы
Рейтинги
АПН в соцсетях
  • Вконтакте
  • Facebook
  • Twitter