Ловушка технологий: при нынешней цифровизации нас ждут новые Темные века

Цифровизация в существующем виде уперлась в непреодолимый предел, и это поставило мир на грань экономической, социальной, а возможно, и военной катастрофы Фото: © Владимир Астапкович, РИА «Новости»

Интернет родился в России

— Александр Владимирович, хотелось бы начать с вопроса цифрового суверенитета России. С 2014 года ведутся разговоры, что у нас нет своих операционных систем, баз данных, протоколов транзакций. Что-то изменилось за прошедшие семь лет?

— Проблема до сих пор достаточно острая. Еще в конце 2015 года президент обозначил задачу: создание пространства цифрового экономического взаимодействия стран Азиатско-Тихоокеанского региона (АТР). Но у нас подошли к этой задаче узко, как к созданию цифровой экономики на базе использования лучшего мирового опыта. Мы никак не можем преодолеть негласную концепцию «ресурсы в обмен на технологии». Хотя есть люди, которые предлагают подойти к этому вопросу по-другому, на основании традиций ещё советских школ информатики (computer science). Начиная с 1950-х годов, мы по многим вопросам были впереди планеты всей, и в этом плане у нас очень большой потенциал. Например, в 1996 году был создан наш отечественный сервер «Байконур», который обеспечивал работу Государственной Думы, «Аэрофлота», «Лукойла» и ряда других крупных компаний. Даже в США до 70% трафика в секторе онлайн игр приходилось на эту нашу разработку. Поэтому можно говорить о перспективах российских традиций, чтобы обогнать, не догоняя.

— А насколько уязвимы наши ключевые информационные ресурсы (например, сайт Госуслуг), и можно ли в рамках санкционной политики, которая сейчас ведётся против России, перекрыть нам возможность пользоваться этими сервисами?

— Здесь я бы расширил тему и поговорил про уязвимость мира цифровых технологий в целом, поскольку эти технологии глобальны. В 2020 году общий ущерб от кибератак оценивался в 1,5 триллиона долларов, а в 2021 году это уже 9 триллионов долларов. То есть ущерб увеличился в 6 раз всего за один год. Это огромный рост. Объём ВВП всего мира в 2021 году составлял 94 триллиона долларов. То есть порядка 10% ВВП мира — это прямой и косвенный ущерб от кибератак. При этом надо понимать, что кроме кибератак, большой ущерб для безопасности представляют проблемы, связанные с неработоспособностью систем. В процессе развития интернет-технологий мы получили ситуацию, когда затраты на развитие «съедают» больше средств, чем приносят эффекта. В ближайшее время мы можем прийти к тому, что станет просто не выгодно использовать цифровые системы в экономике.

Если говорить о причинах происходящего, то надо посмотреть, как развивался Интернет. Первые двадцать лет Интернет был узкоспециализированной вещью, о которой мало кто знал. То, что мы привыкли называть Интернетом, — технология web-страниц — появилась только на двадцатом году жизни Интернета. Глобальный www был создан в ЦЕРНе (Европейском центре ядерных исследований, находящемся вблизи Женевы), и изначально создавался как инструмент для свободного обмена научной информацией.

Тогда у многих специалистов были сомнения, зачем он нужен. Но буквально через шесть лет была создана целая индустрия. Произошёл бум Интернета, на американской бирже NASDAQ появилось множество компаний, которые развивали www. Сейчас мы часто путаем, думая, что Интернет и есть web. Но сама идея Интернета появилась у нас в 1950-х годах, как переход от коммутации каналов к коммутации пакетов.

— То есть основы Интернета были разработаны советскими специалистами?

— Да, основополагающая идея была сформулирована в 1950-х годах Анатолием Ивановичем Китовым, выпускником Артиллерийской академии им. Ф. Э. Дзержинского. Первые компьютеры, объединённые в сеть, дали очень мощный результат. Наши компьютерные системы были топовыми в 1950-х годах. Но, по стечению обстоятельств, у нас возобладала политика «ресурсы в обмен на технологии». Не было создано тех условий, которые были на Западе. Тем не менее, наши технологии вызывали удивление и даже недоумение у западных гигантов. Компания Intel признавала их высокий уровень, протестировав в ходе испытаний.

Если вернуться к www, то через какое-то время это стало базовой технологией для цифрового экономического взаимодействия. Но она изначально не была для этого приспособлена. Дело в том, что на Западе есть принцип «time to market» («успеть вовремя»), то есть самое главное — первым выйти на рынок. А дальше эту технологию «закостылили», приспособили для выполнения новых задач, прикручивая к ней новый функционал. И чтобы произвести изменения в этой очень сложной архитектуре, приходится их проводить по разным слоям.

— Одни технологии наслаиваются на другие, и всё это представляет собой некое подобие Франкенштейна? И достаточно найти уязвимость на любом уровне, чтобы обрушить всю систему?

— Да, верно. Поверхность атаки (куда можно зайти, через что можно зайти) — огромная, надёжно защитить это невозможно.

В военном искусстве есть понятие «эшелонированной обороны»: если одна линия обороны падает, есть время перестроиться, перейти на другой рубеж. Проблема цифровых систем в том, что преодоление первого уровня обороны происходит за долю секунды, и не остаётся времени сгруппироваться или что-то поменять, и поэтому столько проблем.

— Правильно ли я понимаю, что развитие IT-технологий представляет собой строительство такой карточной пирамиды, которая при добавлении нового уровня грозит обрушиться?

— Это называется «технический долг», обрастающий «процентами» усложнений. Мы бежали вперёд, жертвуя внутренним качеством, а потом оказывается, что очень дорого развивать это дальше, и возникает вопрос: а не проще ли построить новое? Это очень дерзкая задача, нужно поменять всю индустрию, поменять стандарты, поменять систему. Тем не менее, такой подход просматривается. Можно повысить эффективность серверного оборудования для систем массового обслуживания. Представьте, что нужно не десять дата-центров, каждый из которых стоит сотни миллионов долларов, а один, и он будет справляться с той же задачей даже быстрее. Можно сделать разработку в десять раз дешевле, если использовать более простую, компактную архитектуру. Там меньше поверхность атаки, меньше точек уязвимости и меньше ошибок. Там изменения будут вноситься не в десять мест, а в одно.

Вся надежда на Россию

— Вспоминается, как ещё 25 лет назад я работал на сервере Novell NetWare под управлением 486-го процессора, и он делал выборку из семимиллионной базы данных меньше, чем за секунду. Я, как пользователь, отмечаю, что прошла четверть века, а скорость обработки информации практически не изменилась, несмотря на то, что быстродействие техники выросло.

— На четыре-пять порядков. Да, это результат всё той же концепции «быть первым на рынке». Посмотрите журналы 1990-х годов, там очень много писали о computer science, о базовых архитектурах, а последние 20 лет — это больше маркетинг, нежели наука. Переназывают старые понятия новыми словами, но фактически произошла фиксация базовых подходов. Это логика капитализма — идёт развитие вширь, а качественного развития не получается. Для этого требуется сделать ревизию базовых технологий.

На это могут реально претендовать только три страны. Первая — это США, вторая — Китай, и третья — Россия. Но США не будут этого делать, поскольку они оценивают риски, а они настолько велики, что лучше не трогать систему, пока она работает. Они готовы вкладываться в прикладные проекты, но на такие системные — не пойдут. Там есть инерция мышления, необходимость обеспечения прибыли, корпоративная, монополистическая логика, поэтому они не будут этим заниматься. В Китае свои особенности. У них есть далеко не все компетенции, а по некоторым критическим направлениям просто нет школ. Насколько я знаю, они покупают наших специалистов.

— Значит, вся надежда остаётся только на Россию?

— Да, в этом плане надежды на Россию. И я очень благодарен тому, что делает президент, тому, что делает правительство. Они создают условия, чтобы здесь люди могли заниматься цифровыми технологиями. Да, это трудно, у нас нет своего инвестиционного ресурса, такого мощного, как в западных странах.

— Вы про стартапы, Кремниевую долину?

— У нас такой долины и не может быть. Потому что стартапы у них — это механизм введения новых денег в обращение. А если мы свои деньги не печатаем, то у нас этого механизма нет. У нас «посевная» стадия тоже может быть, но одно дело — развивать стартапы и технологии за счёт эмиссии, и совсем другое дело — за счёт бюджета. Это огромная разница.

То, что сейчас делает наше правительство в плане льгот для IT-предприятий, — это очень правильные шаги. Я это поддерживаю.

Но самое главное в том, что в этой «гонке цифровых вооружений» нас отключают практически от всех базовых инструментальных средств, базовых систем управления. Остаётся «open source», то есть свободное программное обеспечение (СПО). Мы делали ставку на СПО, но оно всё в том же архитектурном ряду, в тех же стандартах, и крупными донорами кода СПО являются транснациональные корпорации в Америке. И возникает вопрос: что они туда вкладывают? Мы говорим — у нас есть операционная система Linux, которая сертифицирована по безопасности, но это очень лукавая безопасность, потому что профессионал в 300 строках кода может заложить уязвимость, которую другой профессионал не найдёт. А Linux сегодня — это ядро, состоящее из 10 миллионов строк. Там могут быть «спящие» уязвимости. Поэтому хорошо, что нас отключили, иначе мы могли бы вляпаться в ещё большую зависимость от этих цифровых базовых систем, а это страшнее, чем нож к горлу.

— Вы сказали, что сейчас у нас, в России, создаются условия для развития IT-компаний. А какие направления являются наиболее перспективными для разработок?

— Могу рассказать, чем занимается наша компания. Мы хотим разработать новые стандарты и новые серверные операционные системы. Для этого надо миллионы строк кода переписать. В конце 1990-х это было бы дорого и неэффективно, поскольку пользователей тогда тоже были миллионы, но сегодня, когда пользователей — миллиарды человек, и ещё десятки миллиардов устройств, которые тоже являются «пользователями» — уже имеет смысл переписывать код, ведь даже добавив 10% эффективности, получим огромную экономическую выгоду.

И здесь нужно поставить им некий перпендикуляр: не повторять то, в чём нам отказали, в тех же самых элементах архитектуры, а развивать альтернативу. Мы можем сделать новые стандарты, на которых мы перепишем потом весь прикладной софт. Это только на первый взгляд кажется нецелесообразным. Если создание софта будет в десять раз эффективнее, то, по сути, переписать прикладной софт будет дешевле, чем продолжать ещё год обслуживать неэффективную большую систему. А дальше, соответственно, экономическая польза будет только расти.

— Действительно, ведь мы платим за обслуживание сайта Госуслуг за рубеж огромные деньги.

— И платим за лицензии, за сопровождение. И опять же, есть вещи нерешаемые. В современных цифровых технологиях идёт комбинаторный рост сложности. С точки зрения затрат, каждый новый сервис может обходиться дороже, чем все предыдущие вместе взятые. Его даже протестировать сложно, не говоря о том, что это нужно поддерживать. И возникает момент, когда затраты на добавление нового сервиса становятся больше выгоды от его внедрения.

— То есть легче переписать все нижележащие слои заново?

— Если поменять подход, то мы можем уйти от комбинаторного роста сложности, есть такая надежда. Мы хотим этого практически добиться, но на это нужны определённые усилия и время.

Пустые иллюзии

— А как вы относитесь к идее «параллельного интернета»? В Китае внедрили Файервол (некая аналогия с «Великой китайской стеной»). Есть предложение создать свой национальный Интернет у нас в стране. Считаете ли вы это оправданным?

— Интернет только в рамках национальных стандартов — это немножко утопия, потому что мы не сможем обеспечить экономическое взаимодействие на нужных скоростях. Нам нужно взаимодействие с другими странами. Взаимодействие обеспечивается Интернетом. В Китае введены ограничения, есть Файервол, но даже если закрыть какие-то сервисы, то IP-пакет всё равно добежит по другому сервису. Например, мы же можем отправить письмо по электронной почте с помощью самых разных сервисов.

Разумеется, ограничения нужны, поскольку в условиях социального напряжения непроверенная информация может вызвать волнения. Это очень сложно контролировать, и это будет ущерб для всех. Разумные ограничения есть всегда, мы же детям не показываем порнографию, например. Вопрос всегда в балансе свобод и ограничений, для этого нужна мудрость.

— А как вы относитесь к тому, что развитие цифровизации сейчас многими воспринимается как некий цифровой концлагерь, где за каждым человеком будет установлен тотальный контроль? Грозит ли нам цифровое рабство?

— Есть риск, что мы можем туда попасть.

Если посмотреть на эту ситуацию сверху, то цифровые технологии сыграли злую шутку. Развитие технологий подразумевало, что это даст возможность управлять экономикой, что мы сможем более точно прогнозировать спрос, вовремя формировать сбалансированную структуру производства.

Однако всё вышло по-другому. Если посмотреть на экономические прогнозы, то мы увидим, что большинство из них не сбываются. Ошибаются даже авторитетные экономисты на Западе. Дело в том, что «цифра» не уменьшила, а увеличила сложность управления. То есть растёт номенклатурный ряд изделий, растёт количество вариантов цепочек разделения труда, растёт влияние разных событий в одной части мира на события в другой части мира. Если раньше производитель в США не переживал за то, что творится в Китае, то сегодня он должен отслеживать всё!

Возникает взрыв сложности, «цифра» увеличила сложность комбинаторно, а комбинаторный рост гораздо быстрее экспоненциального. То есть возможность вычислительной техники по просчёту последствий принципиально отстаёт от роста сложности задач. Это принципиальный момент. Поэтому, даже когда говорят, что мы внедрим искусственный интеллект, то мощности вычисления всё равно не хватит.

Можно пойти другим путём. Есть научная школа Николая Ивановича Ведуты (сейчас его дело продолжает дочь, Елена Николаевна Ведута), которая занимается проблемами кибернетики, там другая модель, которая позволяет решать проблему укрупнённо. Мелкие задачи решать уже проще, главное, чтобы не накапливались крупные ошибки. А сейчас именно это и происходит: накапливаются крупные ошибки. Ошибки балансировки в структуре экономики надо куда-то сбрасывать, и их сбрасывают на слабые звенья, на слабые страны. Там начинаются проблемы. Все «зелёные» зоны развития цивилизации, которые нам показывают, типа Кремниевой долины, могут существовать только в условиях, когда где-то есть «красные» зоны неустроенности и безработицы. Это фрактальный эффект, даже в самих Штатах есть кварталы с нищими и бездомными, а рядом кварталы, где живут хорошо. Это свойство модели, это не потому, что какие-то люди так хотят, они просто не могут по-другому. И сейчас ошибок в системе управления накопилось столько, что в США появились признаки гиперинфляции.

— Как этот вопрос решить? Как увеличить управляемость процессов?

— Есть два пути. Один путь — ограничить свободу. Сделать предсказуемыми все субъекты, чтобы все ходили по струнке, как-то стандартизовать поведение. Тогда мы получаем модель, по которой можем что-то предсказывать и оценивать последствия своих решений. Это тот путь, по которому мы сейчас идём: вводятся ограничения (в том числе воспользовались ковидом), всех загнали в рамки, всех оцифровали.

— Это и есть сваливание в цифровое рабство?

— Да, именно так. Но есть иной путь. Мы можем развернуть другие экономические модели и усилить возможность управления экономикой за счёт «цифры». Но для этого нам нужно создать другую систему цифрового экономического взаимодействия. Эта задача поставлена, она очень правильная: создать единое пространство цифрового экономического взаимодействия. Миллиарды субъектов должны взаимодействовать бесшовно. Но те базовые технологии, которые построены на www, с его «костылями», не позволят это сделать!

— Сейчас много говорят о том, что www уже сменился на следующее поколение — www 2.0, и на подходе очередное поколение технологий www 3.0, не является ли это решением проблемы?

— Это лишь говорит о том, что проблема существует. Есть попытки создания блокчейна (связных списков) в разных проектах. Сколько их там — сотни, тысячи? Но если столько проектов существует, и они не умерли, ещё какие-то новые рождаются, это говорит о том, что проблема не решена. Если бы проблема была решена, мы бы остановились на чём-то одном. Это победило бы, все остальные проекты не нужны. Значит, пока решение не найдено, либо оно, может быть, и найдено, но не воплощено и не внедрено в массовое использование.

Система цифрового экономического взаимодействия должна быть построена за счёт современных возможностей вычислительной техники так, чтобы можно было передать объект, принадлежащий одному субъекту, в управление в бизнес-процесс другого субъекта бесшовно и автоматически. Мы в процессорах очень хорошо шли, а вот вопросы интеграции и коммуникации ещё нужно отработать. Принципиально это можно сделать.

— Этот вопрос, скорее всего, лежит и в юридической плоскости, потребуется принять новые законы?

— Да, конечно, субъектность в новой системе должна кем-то валидироваться, проверяться. Кто-то должен обеспечивать базовый уровень доверия. Это роль государственных структур. Как я узнаю, кто вы, как вас зовут? Вы покажете паспорт. Предъявление паспорта станет процедурой, обеспечивающей базовый уровень доверия.

Мы стоим на пороге кризиса, экономический механизм сломался, и либо мы идём по пути диалектического развития, либо будем деградировать по примеру Римской империи, уходя в Тёмные века. Я надеюсь, что мы сможем найти решение проблем того уровня сложности, которые перед нами стоят.

— Позвольте вернуться к проблеме цифрового рабства. Китай внедряет социальный рейтинг своих граждан, как вы считаете, насколько этот подход можно считать правильным?

— Надо посмотреть — что реально происходит? У страха глаза велики. Технология — это как нож: можно ужин приготовить, а можно кого-то убить. Социальный рейтинг может работать на ограничения, а может работать на фильтрацию. У нас долго проходил отрицательный кадровый отбор. А как ввести положительный отбор? Как отбирать и продвигать людей достойных? Не наглых, беспринципных, которые по головам идут, а хороших и правильных? Нам же, как обществу, хочется, чтобы нами управляли люди с определённым уровнем нравственности. И поэтому у каждого может быть рейтинг, объективная сторона, почему этого человека стоит выдвинуть на должность.

—  Люди могли бы оценивать власть имущих по определённому набору критериев, и, я думаю, это стало бы стимулом для пробуждения интереса к политике.

— Да, они могут ставить оценки тем, кого знают. Сейчас отчасти так и происходит, у губернаторов есть определённая система оценки. Недавно заменили пять губернаторов с низшим рейтингом — это как раз использование технологий во благо, и здесь у нас перспектива гораздо лучше, чем может показаться.

Упрощение

— А какими вы видите в будущем социальные сети? Изменится подход к ним?

— Сегодня очень важен социальный капитал, в основе которого лежит социальный граф — связи с друзьями, коммуникации в социальных сетях. Считается, что без социального капитала очень сложно развивать свою карьеру. Появилась даже такая профессия — блогер, очень популярная и важная, которая обеспечивает захват внимания, продвижения нужных товаров и услуг. Но проблема социальных сетей сегодня в том, что социальный граф принадлежит не людям, а корпорациям.

— То есть, если у кого-то есть, например, аккаунт в «Фейсбуке»*, то вся информация и социальный граф этого человека принадлежит «Фейсбуку»?

— Да. И «Фейсбук» может по каким-то своим внутренним мотивам взять и обнулить весь социальный капитал человека. Самый яркий пример такой «культуры отмены» — это когда действующего президента США Дональда Трампа, у которого было 70 миллионов подписчиков, заблокировали во всех социальных сетях. Представляете, какой у него был социальный капитал, а его просто взяли и обнулили!

Эта проблема рано или поздно будет решена с помощью блокчейн-технологий или какого-то другого подхода, но я вижу решение в том, что можно построить Интернет цифровых двойников или, как мы его называем, торгово-промышленно-финансовый Интернет. Там социальный граф и персональная информация будут принадлежать субъекту, и только он будет давать к ним право доступа. Сама социальная сеть не будет хранителем информации. Меняется принцип доступа к информации, мы называем это «lights out» дата-центры. То есть это дата-центры, владельцы которых не имеют отношения к информации, которая там крутится. Сегодня, допустим, вы во «ВКонтакте», а завтра решили перейти со всем своим графом в «Одноклассники». Можно будет переключиться с одной социальной сети на другую, самостоятельно решать, какой платформе дать доступ к своему графу, то есть соцсети станут просто сервисами.

Сегодня персональные данные защитить невозможно, потому что технология «дырявая», есть огромная поверхность для атаки. Корпорации вкладывают кучу денег в защиту, Роскомнадзор тоже требует затрат на осуществление контроля. Это всё затраты, затраты, затраты. Причём они не связаны с производством реальных каких-то благ, это всё ложится на всех как дополнительная нагрузка.

При росте сложности управления растёт и штат государственного аппарата. Это неизбежность, государство не может этого не делать. Всё это увеличивает налоговую нагрузку. Хотим мы того, или нет, но это объективная реальность. И пока мы не упростим процессы, не сделаем их более дешёвыми и компактными, эти тенденции будут нарастать. В среднем — все будут беднеть, слишком много издержек.

— Может ли этому помочь блокчейн-индустрия?

— В блокчейн-технологии свои недостатки, это далеко не панацея от всех бед. Эта индустрия развивается уже десять лет, наверное, можно было бы показать какие-то универсальные решения. Но там тоже много проблем. Например, биткоин — это провальный проект. Он не может стать альтернативой финансовой системе, его уже вписали в существующую финансовую систему. Это просто механизм абсорбции лишних денег. Платформа криптовалюты Ethereum — тоже провальный проект. Мы не видим широкого применения предусмотренных этой платформой смарт-контрактов: ни один судья их не прочтёт и не поймёт, и ни один генеральный директор не подпишет контракт, написанный на каком-то языке программирования.

— Но всё-таки Ethereum был шагом вперёд по сравнению с биткоином. Они хотя бы платформу под смарт-контракты разработали.

— Это несомненно. Получилось ли у этих проектов что-то? Да, конечно, получилось. Приносит это эффект? Приносит. Но относительно заявленных целей это провальные проекты. Каков был первоначальный замысел разработчиков? Если почитать первые публикации, то представлялось всё по-другому.

Цифровизация приближает катастрофу

— В заключение хотелось бы затронуть тему информационных войн, кибервойн. Как вы считаете, что можно этому противопоставить?

— Нужно делать ревизию базовых цифровых технологий, базовых стандартов. Создатель www Тим Бернерс-Ли говорит, что веб-технология зашла в тупик, и перечисляет три аспекта этого тупика. Во-первых, система стала небезопасной. Во-вторых, она стала неаутентичной: любой фейк проходит, это влияет на массовое сознание. И, в-третьих, информация потеряла связность. Если раньше мы могли осознанно, не спеша переходить от одной странички к другой, то сейчас мы «зависаем» в каких-то сервисах, и они монопольно захватывают наше внимание.

Всё это может использоваться и для управления социальными процессами: можно сделать оранжевую революцию, организовать любую провокацию, а можно просто нанести ущерб. Ущерб от кибератак может быть сопоставим по последствиям с атомной бомбой. «Ответка» может быть и военной, многие доктрины допускают это. А что, если кого-то подставили? Ведь ответственность за кибератаки часто могут возложить на тех, кто к этому не имеет никакого отношения. И проверить это практически невозможно. Это очень шаткая ситуация: мир, на самом деле, приближается к катастрофе.

— А есть хоть какие-то намёки на возможность решения этой проблемы?

— Мы видим пути, как это можно сделать. Есть несколько школ именно у нас, в России, которые на это претендуют. Есть школа, которая занималась первым интерактивным веб-сервером. Ещё у нас есть группа «Гиперграф», тоже претендует на полную ревизию (GGG вместо WWW). Мы занимаемся созданием Интернет-цифровых двойников совместно со школой, которая занималась серверами «Байконур». На самом деле, «Байконур» был сделан на основе системы «Обь», на которой работал весь оборонпром в Советском Союзе. Там были достаточно интересные решения, более мощные, чем у компании IBM, например. То есть, система «Обь» — это аналог IBM CICS, самого успешного продукта компании IBM. За 50 лет IBM на нём заработала больше 60 миллиардов долларов прибыли. Представляете, цифровой продукт, и живёт 50 лет! Обслуживает самые крупные корпорации, госсектор, обеспечивает эффективные транзакции взаимодействия.

Не только мы, но и за рубежом тот же Тим Бернерс-Ли пытается строить новый Интернет, где персональные данные будут принадлежать самому субъекту. Опять же, вся индустрия блокчейн — тоже попытка решения этих проблем. Проблемы многим кому видны, вопрос в том, кто найдёт решение, и есть ли оно, это решение? Но правильно сформулированная проблема — уже половина успеха.

________________________________________________________________

* соцсеть запрещённой в РФ экстремистской организации Meta Platforms Inc.

С Александром Пастуховым беседовал Александр Каныгин

«Завтра», 11.08.2022