«Создавать электронного священнослужителя, очевидно, ненормально»: заменит ли ИИ муфтиев?

Альбир Крганов (на фото с Владимиром Легойдой (слева): «Сталкиваясь с возможностью цифрового сохранения сознания после физической смерти, мы вступаем в новую эру, где традиционные представления о жизни пересматриваются» Фото: © Виталий Белоусов, РИА «Новости»

«Если будем стремиться к прогрессу ради человека, то от самого человека может ничего не остаться»

«Наша страна обладает большим многонациональной и многоукладной культурой, и это преимущество России, которое позволит преодолеть вызовы, связанные с развитием искусственного интеллекта», — заявил на форуме этики в сфере искусственного интеллекта (ИИ) директор национального центра развития ИИ при правительстве РФ Сергей Наквасин. По его мнению, дальнейшее развитие искусственного интеллекта приведет к еще большей зависимости людей от технологий. Кроме того, оно увеличит неравенство среди людей по уровню доходов и образования.

В центре внимания в этот день были этические вопросы, связанные с развитием технологии ИИ. По мнению главы духовного собрания мусульман России муфтия Альбира Крганова, нельзя забывать о том, что наука должна использоваться во благо. Среди важных вопросов, которые сегодня волнуют представителей ислама, он выделил цифровое бессмертие. «В исламской традиции присутствует глубокое уважение к жизни и восприятию смерти как неотъемлемой части духовного пути человека. Сталкиваясь с возможностью цифрового сохранения сознания после физической смерти, мы вступаем в новую эру, где традиционные представления о жизни пересматриваются», — считает Крганов.

Цифровое бессмертие станет возможным лишь тогда, когда появятся технологии создания оцифрованной копии человека. «На основе информации, полученной от человека при жизни, копия личности будет иметь такой же образ мышления, реакцию поведения, и проблема смерти в биологическом смысле просто исчезнет, — заявил муфтий, — Ислам учит, что смерть — это не только физический процесс, но и часть духовного пути. Сохранение сознания после смерти, как предлагает цифровое бессмертие, может вызвать сомнения в том, что каким-то образом происходит переход души в загробный мир». Именно поэтому развитие идеи цифрового бессмертия приведет к дискредитации традиционных ценностей и изменит понимание смерти как окончания жизни.

Важно учитывать и то, в чьих руках в будущем окажутся технологии цифрового бессмертия, кто будет обладать полной информацией о цифровой личности. Как отметил Крганов, новые технологии также актуализируют проблему приватности, конфиденциальности и безопасности данных. «Эти вопросы требуют от всех нас глубокого размышления, как обеспечить безопасность и соблюсти уважение к памяти умерших», — заключил он, призвав учитывать уважение к умершим, их память и достоинство.

«У нас был запрос от компаний-стартапов на создание цифровых копий-имитаций исторических личностей, например Пушкина. На ваш взгляд, является ли это этичным?» — поспешил спросить еще один модератор дискуссии, управляющий директор – начальник центра регулирования ПАО «Сбербанк» Андрей Незнамов. На это муфтий лишь еще раз заметил, что ислам не против науки во благо человека, но с учетом духовно-этических аспектов.

«Я думаю, что цифровой Пушкин — это не Пушкин», — считает председатель синодального отдела по взаимоотношениям церкви с обществом и СМИ Владимир Легойда. Он напомнил собравшимся сюжет голливудского фильма, главный герой которого имитировал манеру письма знаменитых художников. Однажды он замахнулся на Рембрандта. Эксперты находят работу, двое подтверждают, что это Рембрандт, а третий говорит: «Слишком похоже».

Вслед за Кргановым Легойда тоже заявил о том, что одной из фундаментальных характеристик науки является внеморальность. Однако в момент получения данных и применения результатов науки все же возникают красные линии. «Есть ядерный синтез, а дальше можно сделать атомную электростанцию, снабжать электроэнергией большой город. А можно сделать атомную бомбу и уничтожить два города, как в свое время сделал известно кто», — привел пример Легойда.

С ним согласился и священник РПЦ Александр Волков: «Очень хочется, чтобы все понимали: если мы будем активно стремиться к прогрессу ради человека, то от самого человека может ничего не остаться». Он добавил, что на фоне развития технологий человек уже начинает чувствовать себя в одиночестве. «Именно об этом говорят религии, что все, что делает здесь человек, он должен делать для другого человека. Мы в попытке помочь человеку и упростить его жизнь не должны забыть про самого человека, который должен иметь право на ошибку и право на чувство. Это то, что с привлечением технологий может исчезнуть», — рассказал Волков.

Искусственный интеллект не страшен для тех, кто сегодня продолжает читать Библию и Коран Фото: «БИЗНЕС Online»

«Вероятность, что мы сможем воспроизвести цифровую копию на горизонте 50 лет, мала»

— Попытка очеловечить GBT-модель предпринимается. Например, человек спрашивает интерпретацию событий в Библии или задает вопрос, который нужно задавать священнику, исповедуется. Что делать разработчикам, как программировать GBT-модель? — обратился к священнику РПЦ Незнамов.

— Давайте сначала спросим «Алису», что она думает по этому поводу, — ответил Волков под одобрительную реакцию зала. — Нам необходимы некоторые ограничения. Пока что в наших силах эту проблему сформулировать и наложить рамки, давайте их накладывать.

— В последний раз, когда я разговаривал с «Алисой» и пытался ее спровоцировать мировоззренческим вопросом, мне очень понравился ее ответ. Она сказала: «Я не человек, я искусственный интеллект и на этот вопрос ответить не могу». Мне кажется, это правильный вектор, — вновь подключился к дискуссии Легойда, заметив, что искусственный интеллект не страшен для тех, кто сегодня продолжает читать Библию и Коран. Не страшен он и для священников, поскольку в христианской практике нет алгоритмов.

Директор по развитию технологий искусственного интеллекта «Яндекса» Александр Крайнов предположил, что термин «цифровая копия» сегодня вводит в заблуждение, поскольку в действительности является не копией, а записью ранее случившихся событий. «Вероятность, что мы сможем воспроизвести цифровую копию на горизонте 50 лет, мала», — добавил он. При этом людям, по мнению представителя «Яндекса», свойственно видеть живое во всем. «Я понимаю, что религия на это смотрит неодобрительно, но мы люди, мы такие. Мы периодически с машиной общаемся, когда она не работает. А тут система, которая прямо отвечает, когда ей пишут», — уточнил он. На данный момент возможность эксплуатации подобного очеловечивания системы остается в поле этики. К примеру, не каждый в сложный период жизни готов довериться психологу или религиозному деятелю. Электронный помощник мог бы помочь в подобной ситуации, однако вопрос этичности его создания остается открытым.

«„Яндекс“ — компания, которая начинала с поисковых алгоритмов. Первый алгоритм был сделан по Библии. Это нормально. Но создавать электронного священнослужителя, очевидно, ненормально, никто и не будет», — развивал мысль Крайнов, подчеркнув, что подобных вопросов много. К примеру, можно ли генерировать иконы с помощью ИИ или делать выжимку из священных текстов. «Я обещаю, мы в этом году к вам придем, сядем, послушаем и, как вы решите, так и будем действовать», — обратился к представителям конфессий Крайнов.

Он также затронул тему вечной жизни с помощью современных технологий. Крайнов со своей стороны заявил, что не хотел бы для себя такого исхода. «Мне кажется, мы такие, какие есть, благодаря генетическому алгоритму. Он работает благодаря перебору и постоянному обновлению. Без появления новых копий нас мы бы не стали такими, какими стали, — пояснил спикер. — Мне в целом, несмотря на все наши ошибки, нравится, куда мы пришли. Хотел бы, чтобы оно продолжалось, а смерть для этого — одно из необходимых условий, мы периодически должны обновляться. Наши дети будут лучше нас, и пусть так и продолжается. Но жить хорошо и не болеть — я прямо за».