Сергей Переслегин: «Чем более развито общество, тем менее развит человек»

Известный писатель и футуролог Сергей Переслегин на публичной лекции рассказал, как мы прошли путь от римских акведуков к технологиям искусственного интеллекта, которые делают все за нас, создавая в умах нетвердость и порабощая нашу волю

«Казань наряду с Москвой — самый изменившийся город с конца эпохи СССР»

«С 1993 года я не первый десяток раз посещаю этот город и очень рад наблюдать, как он меняется. Казань, наверное, наряду с Москвой — самый изменившийся город с конца эпохи Советского Союза», — признавался в любви столице РТ известный писатель и футуролог Сергей Переслегин, особенно подчеркивая цифровое развитие города и республики. В этот раз он выступил с открытой лекцией о будущем технологий и искусственном интеллекте во дворике IT-парка им. Рамеева. Но, перед тем как перейти к прогнозам, он напомнил о своей концепции технологических волн — тактов развития человечества с начала истории, с самых первичных потребностей, например в тепле и свете: «Без еды можно прожить несколько дней — без тепла вы не переживете ночь». А более сложные технологии сохраняли жизнь не людям, а целым цивилизациям. Так, римские акведуки — желоба на 100–150 км с абсолютно одинаковым углом наклона — по мнению Переслегина, отсрочили падение империи примерно на столетие.

Первая настоящая технологическая волна началась с индустриальной революции и перфокарт, изобретенных в 1769 году. На них работали жаккардовый ткацкий станок, ставший первой в мире программируемой машиной: с помощью перфокарт он позволял создавать сложные узоры. Появилась машина Бэббиджа — предвестник настоящего компьютера, если бы получилось ее реализовать в металле. А технологический мир, в котором мы живем сегодня, сформирован пятой волной (1972–2012): это интернет, ПК, процессор Pentium и т. д. Единственное, что изменилось с тех пор, — компьютер заговорил на естественном языке. Еще стали развиваться роботы, вот только непонятно, получится ли в них вшить азимовские законы о непричинении вреда человеку, или все-таки окажется прав другой великий фантаст — Станислав Лем, утверждавший, что любой достаточно сильный разум способен опровергнуть любое наложенное на него априорное ограничение, даже если оно было наложено на аппаратном уровне. Пока похоже на второй вариант: Переслегин рассказал, что для одной из лекций к 80-летию Победы ему потребовалось сгенерировать изображение Адольфа Гитлера. Нейросеть сначала отказалась это делать, но ограничение удалось обойти довольно просто.

Что же нас ждет в будущем? «БИЗНЕС Online» выделил 10 главных прогнозов лекции, впрочем, сделанных под ремаркой: не относиться к ним слишком серьезно.

«У нас начнется быстрое управление эволюцией природы»

Кризис больших циклов — большая война. В ближайшие годы, по мнению футуролога, нас еще ожидают ресурсные войны (то, что сейчас началось в Центральной Азии, в Африке). В 2033–2035 годах из-за кризиса больших циклов есть высокая вероятность возникновения глобального конфликта. «Конечно, ее может не произойти. Я всегда говорю, что должна быть война между США и Китаем. Но Китай на войну легко может не явиться, а Америка может опоздать», — шутит спикер.

Попытки создать кибербессмертие закончатся плохо. Любые попытки человека справиться со сверхвызовом, каковым является смерть, приводят к существенно большим проблемам, чем были эти самые сверхвызовы. Сейчас идет попытка через кибербессмертие, в сети, сделать людей бессмертными. Получится плохо», — прогнозирует Переслегин.

Управление биологической эволюцией создаст немереное количество кризисов. ДНК — это тоже язык и код, рассуждает Переслегин. Значит, со временем человек сможет даже словами немножко изменять генетические структуры. «Управление биологической эволюцией — это совсем интересно. Более того, это можно делать уже сейчас. Почему не делают — во-первых, боятся. Во-вторых, существует точка зрения, что надо научиться сначала работать с геномом растений, потом с геномом животных, а уже затем с геномом человека. С точки зрения прогностики самое простое — это работать с геномом человека. На 2-м месте идут животные, а сложнее всего работать с геномами растений, с самым устойчивым. Рано или поздно до этого додумаются, и у нас начнется быстрое управление эволюцией природы, что создаст кучу возможностей и немереное количество кризисов», — рассуждает эксперт.

7-я волна забросит людей в космос. «Представьте: вас 100 человек, вы всех знаете наизусть, а вокруг совершенно чуждый нечеловеческий мир. Земли у вас нет, и вернуться на нее вы, скорее всего, не сможете. И в этих условиях вы хотите жить… Представляете себе уровень проблем, с которыми вы сталкиваетесь?» — говорит Переслегин. В космосе людям придется работать со своими предустановками, которые были заложены в нас природой, а это прямой путь к безумию. Но самое главное будет в этот момент происходить на Земле, считает Переслегин, потому что те и другие будут связаны между собой: если там пойдет быстрая эволюция человеческой психики, то на Земле она тоже пойдет, но это будет спутанно. «Земля окажется миром неизмеримой сложности», — прогнозирует ученый.

По словам Переслегина, развитость общества — это высокая экономическая эффективность, инновационное развитие, быстрые изменения во всех областях, управляемость обществом

Чем более развито общество, тем менее развит человек. По словам Переслегина, развитость общества — это высокая экономическая эффективность, инновационное развитие, быстрые изменения во всех областях, управляемость обществом. «И для всех этих вещей нужно повышать уровень разделения труда, а это означает, что на каждого человека сваливается все меньше ответственности и сложностей. Более того, сложность для него оказывается лишним и опасным качеством», — говорит он, напомнив историю Чернобыльской АЭС, где великие инженеры-атомщики сумели вытащить из йодной ямы реактор в закритическом состоянии и вернуть его в рабочее. Кто знает, может быть, если бы тогда не сумели, и катастрофы бы не случилось. Но и здесь есть нюанс: «Для работы со сложной техникой вам нужны простые люди. Но ужас заключается в том, что в какой-то момент эти простые люди оказываются не в состоянии существовать в мире этой сложной техники».

Сильного ИИ не появится — только попытки имитировать его. Современная теория информации, на которой работают все компьютеры, основывается на определении американского математика Клода Шеннона. Это снятая неопределенность, результат выбора одного варианта из числа возможных, уменьшение количества рассматриваемого: плюс/минус, ноль/единица. «В информации, по Шеннону, нет смысла. А это означает, что все компьютеры, нейросети, созданные на этом определении информации (а других нет!), не могут работать со смыслом, они могут работать только с данными. С одной стороны, это дает нам кучу возможностей, а с другой — четко перечеркивает все шансы на создание сильного искусственного интеллекта», — объясняет писатель.

«Не все рожденные женщиной будут людьми, и не все собранные на конвейере будут роботами»

Нужно научиться выживать и существовать в мире, где не мы являемся единственным источником разума. Переслегин задается вопросом: «Зачем мы сами себе, если ИИ выполняет задачи быстрее и лучше?» И тут же отвечает: ключ к выживанию — в раскрытии уникальных человеческих навыков и потенциала в целом. Ключевое ограничение ИИ — отсутствие сознания и, как следствие, неспособность создавать принципиально новое. Хотя он и может генерировать, оперируя комбинациями существующего, но не создает ничего принципиально уникального, обладающего глубоким смыслом. Также он не сможет различать пользу и благо, добро и зло, он не способен к тонким различениям. Однако Переслегин подметил, что и не все люди способны к подобным тонкостям, что ставит вопрос о границах между человеком и машиной. «Мир разделится на людей и роботов, но не все рожденные женщиной будут людьми и не все собранные на конвейере будут роботами», — сформулировал один из слушателей.

Система образования должна готовить к взаимодействию с ним, а не к конкуренции. Рассказчик осудил современную систему образования за ее неготовность к реалиям «мира технологий». Он отметил, что школьникам, которым предстоит жить во взаимодействии с ИИ, запрещают пользоваться смартфонами на занятиях. По мнению футуролога, система образования должна готовить учеников к эффективному взаимодействию с ИИ, а не к бессмысленной конкуренции в запоминании информации. «Любой примитивный искусственный интеллект сдаст любой ЕГЭ лучше школьника-стобалльника, поэтому бессмысленно пытаться спорить с компьютером, кто больше помнит», — выводит Переслегин понятную истину, добавляя, что лучший способ взаимодействия — когда человек будет помогать решать ИИ проблемы.

Технологическому миру не нужен человек — со всем справится ИИ. Технология не антропна — не зависит от человека как от биологического вида, и поэтому может спокойно управляться искусственным интеллектом. Это приводит к тому, что мы получаем более богатый и вместе с тем все более сложный мир. Но этот мир начинает сильно зависеть от внешних условий. «Мы очень много чего можем, но в узком спектре внешнего мира. Мы пытаемся делать площадь иглы все меньше, но хотим, чтобы ангелов на ней сидело все больше и больше. Чисто технологический подход в ближайшее время придется чем-то заменять, так как все слишком упрощается. Знания упрощаются до технологий, человек же упрощается до простого придатка к этой технологии», — рассуждает Переслегин.

Чтобы этого не произошло, человеку нужно вернуться к исходнику. Тут писатель вводит термин «технэ». Это способность находить свои собственные оригинальные решения для конкретных задач, а не вообще некоторую произвольную усредненную задачу, как это делает компьютер. Фактически это будет возврат от технологического мира к инженерии. И это будет требовать очень сильного изменения мышления.

Сегодня мы живем в кризисе безволия и великой депрессии сознания. До сих пор считалось, что нынешний кризис будет похож на предыдущие, т. е. война, чума, голод, смерть. «Но оказалось, что сегодняшний кризис совершенно другой: это кризис смысла существования, кризис великой депрессии, кризис распада сознания, когда вы переключаетесь с одного неантропоморфного мирка в другой и фактически не можете удержать свое сознание в целостности. У вас не хватает воли. Кризис оказывается в этом — он становится мыслительным, а не технологическим», — продолжает рассказчик.

И потому нам нужна революция естественного интеллекта, сравнимая с тем, что демонстрирует наша нейросеть. Вероятнее всего, нам с этим когда-то удастся справиться. Заключил Переслегин на позитивной ноте: «Что такое кризис? Это появление некоторого нового фактора, который превращает в абсолютно неприемлемое совокупность остальных факторов, до сих пор вполне приемлемых. Так вот, искусственный интеллект — это технология, несовместимая с текущей фазой развития. Отсюда и связанный с ним кризис, отсюда и его требования — революция естественного интеллекта».