Муфтий Альбир Крганов: «Испытания посылаются человечеству в разном виде. Сейчас это происходит через ИИ»

Альбир Крганов: «Испытания посылаются человечеству в разном виде. Сейчас это происходит через искусственный интеллект, цифровизацию, роботизацию» Фото: Андрей Берец

«Мы в России не имеем права отставать…»

Вопросы о регулировании искусственного интеллекта, которые с каждым днем становятся все острее, оказались в центре внимания религиозных деятелей. 26 января будет подписано соглашение о создании консультативного совета по этике в сфере ИИ, куда наряду с техническими экспертами и юристами войдут представители трех основных конфессий России, а накануне они дали большую пресс-конференцию, где очертили свое отношение к нейросетям.

В целом религиозные деятели примерно одинаково относятся к теме ИИ, отметил председатель духовного собрания мусульман России (ДСМР) муфтий Альбир Крганов в разговоре с корреспондентом «БИЗНЕС Online». И, судя по выступлению Крганова и его коллег, представляющих другие конфессии, отношение это весьма настороженное. На главный вопрос, что же такое ИИ в конечном итоге — зло или благо, — муфтий дает более глубокий ответ: «Это не зло и не благо. Это испытание».

«Все зависит от того, в каких целях человек будет это использовать. Это касается всего, что нас окружает. Даже можно ремень снять и кого-то задушить. Поэтому важно, насколько ИИ повлияет на мировоззрение человека, насколько человек останется человеком, — объяснил Крганов. — Испытания посылаются человечеству в разном виде. Сейчас это происходит через искусственный интеллект, цифровизацию, роботизацию. В понимании мировых корпораций человеческий фактор — это помеха. И им нужно чтобы на заводах, фабриках, на всем производстве работали безотказные роботы. Но что произойдет с человечеством тогда? Восторжествует идея „золотого миллиарда“ или другие какие-то концепции, где часть людей окажутся просто лишними?»

Несмотря на все опасения, повсеместное внедрение нейросетей — это уже данность. «И мы, понимая, что искусственный интеллект сегодня шагает семимильными шагами, не имеем права в России отставать. И мы должны включить все свои интеллектуальные способности, активно работать», — подчеркнул Крганов.

Дальнейший ход прогресса может предложить еще более интересные конструкты и спекуляции псевдотеологического свойства. Например, сейчас часто обсуждается идея строительства дата-центров в космосе, например на Луне. И эти дискуссии рано или поздно перейдут в практическое русло. «И кто-то будет продавать идею, что „это же с небес вам идет“. То есть получится такое отождествление с религией», — предположил муфтий.

Технологии не сгладят неравенство в обществе, а лишь увеличат дифференциацию Фото: «БИЗНЕС Online»

«Речь о том, как мы сохраним свою человечность…»

Уже выступая на пресс-конференции, председатель ДУМ отметил, что технологическая революция не растянется на столетия, как индустриальная. Ученые прогнозируют, что полная цифровизация мира произойдет всего за 20 лет. ИИ уже способен за короткое время сгенерировать объем научных знаний, неподъемный для человеческого разума, — миллионы статей.

«Речь не о том, что мы отказываемся от всего современного. Речь о том, как мы сохраним свою человечность. Как человечество будет отвечать на эти вызовы и угрозы», — обозначил проблему Крганов.

Более того, технологии не сгладят неравенство в обществе, а лишь увеличат дифференциацию. Например, в мрачной картине, которую рисует муфтий, к врачам смогут ходить богатые, а бедные будут получать все предписания из компьютера. Это снизит эффективность лечения, а также лишит больных возможности снять страхи перед недугом благодаря разговору с врачом.

Но самые глубокие тревоги связаны с тем, как ИИ вторгается в идеологические и духовные основы. Речь уже не о помощниках, а о подмене. Появляются проекты цифровых муфтиев, патриархов, раввинов — любой может создать себе виртуального духовного лидера с желаемым образом и голосом. «А следующий шаг — домашние роботы в образе умерших родственников, которые будут ходить по дому и говорить их голосами. Это все грядет. Может, кажется, что это фантастика, но это будет, это стучится к нам в дверь», — констатировал муфтий.

Церковь подходит к вопросам ИИ через призму биоэтики — дисциплины, в которой, как напоминает священнослужитель, «любые профаны имеют право слова, потому что это касается жизни и смерти» Фото: Андрей Берец

«У искусственного интеллекта нет морали…»

Пока общество размышляет, можно ли доверять ИИ принятие судьбоносных решений, Русская православная церковь ищет системный способ встроиться в этот сложный диалог. Секретарь синодальной комиссии по биоэтике протоиерей Александр Абрамов видит его в сотрудничестве с национальной комиссией по этике ИИ. Это не попытка навязать готовые ответы, а «разумная форма взаимодействия с обществом», где встречаются авторитетные разработчики, ученые и теперь богословы, отметил Абрамов в разговоре с корреспондентом «БИЗНЕС Online».

Церковь подходит к вопросам ИИ через призму биоэтики — дисциплины, в которой, как напоминает священнослужитель, «любые профаны имеют право слова, потому что это касается жизни и смерти». Так и здесь: любой вопрос, заданный «самым простым человеком» — например, «меня уволят с помощью ИИ?», — имеет право на обсуждение, потому что напрямую касается человеческой жизни.

«У искусственного интеллекта нет морального облика. У него нет морали. Его поведение зависит в меньшей степени от того, кто его использует, и в большей от того, кто его разрабатывает», — отметил он. Тем не менее сохраняется проблема неопределенности. Сами создатели нейросетей часто не могут объяснить принимаемые ИИ решения. Протоиерей цитирует создателя водородной бомбы Эдварда Теллера: если что-то может принести вред, не стоит сомневаться, что этот вред будет причинен. Следовательно, задача общества — этот вред предотвращать. «Любой программный продукт нужно тестировать на всех этапах его жизненного цикла и возлагать на разработчика полную ответственность за то, как он может быть применен», — констатировал протоиерей.

Другой вопрос в том, действительно ли внедрение искусственного интеллекта необходимо или просто является следованием моде. По мнению богослова, ИИ сейчас — это просто очередная игрушка, которая таковой и останется. Он не верит в его эффективность. В качестве примера Абрамов рассказал, что однажды готовил материал по высказываниям святых и решил воспользоваться языковой моделью для работы с большими массивами данных. Но нейросеть привела ему несуществующие цитаты несуществующих людей, и, чтобы исключить недостоверную информацию, священник потратил значительно больше времени, чем если бы сразу делал все сам.

Отвечая на вопрос о том, может ли ИИ в какой-то момент выйти из-под контроля человека, Абрамов сказал, что на сегодняшний день такие размышления фантастичны. А если возникнет угроза автономизации ИИ, следует просто «вынуть шнур из розетки».

«Нам нужно не терять здравый смысл, — заключает протоиерей. — Сохранение здравого смысла и достоинства человека — это два главных столпа, ради которых мы считаем нужным заниматься темой искусственного интеллекта», — подытожил он.

Когда человек постоянно использует нейросети, обращаясь к ним за советом по любому поводу, и безоглядно полагается на ответы, он таким образом творит себе кумира, что противоречит священным писаниям Фото: ru.freepik.com

«Не сотвори себе кумира… из ИИ»

«Безусловно, и это подчеркивается практически всеми, темпы развития искусственного интеллекта значительно опережают темпы его осмысления», — указал руководитель департамента федерации еврейских общин России по взаимодействию с правоохранительными учреждениями раввин Аарон Гуревич.

И в этом контексте создание консультативного совета по этике в сфере ИИ с участием разных богословов приобретает дополнительное значение. Религиозные деятели могли бы помочь разобраться с целеполаганием тем, кто занимается нравственным измерением в сфере нейросетей. Их компетенция лежит не в области нравственных рассуждений вообще — ими, как отмечает раввин, может заниматься любой шарлатан. Речь идет о «нравственном измерении» в его глубинных, онтологических основаниях. Богословы работают с категориями смысла, греха, связи человека с Творцом — именно эти категории ИИ ставит под сомнение.

Когда человек постоянно использует нейросети, обращаясь к ним за советом по любому поводу, и безоглядно полагается на ответы, он таким образом творит себе кумира, что противоречит священным писаниям. «Человек творит себе кумира. И всякая страсть, которую человек доводит до абсолюта, в том числе в отношении себя, тоже является его кумиром — то, чему человек поклоняется, что его ведет, сковывает его движения и отдаляет его от Творца ежесекундно. И это и есть грех, проблема грехопадения», — дал определение Гуревич.

По опасности и разрушительности для человеческой морали ИИ может сравниться с ядерным оружием, считает раввин. Более того, если ядерное оружие касалось только двух сфер — военной и энергетической, то ИИ распространяется повсеместно — в повседневных делах, богопознании, формировании мировоззрения.

Андрей Незнамов: «В январе уровень технологий один, а уже в марте совсем другой. Пока закон напишешь и примешь, у тебя уже все устарело» Фото: Андрей Берец

Кодекс этики вместо свода законов

«Искусственный интеллект жестко регулировать законом суперсложно, потому что он очень быстро внедряется. В январе уровень технологий один, а уже в марте совсем другой. Пока закон напишешь и примешь, у тебя уже все устарело», — отметил руководитель национальной комиссии по этике ИИ Андрей Незнамов.

Россия предложила свой ответ на этот вызов — набор этических норм, регулирующих работу отрасли. Вместо того чтобы ждать, пока неповоротливая машина законотворчества нагонит стремительный ИИ, в стране был создан действенный инструмент — Российский национальный кодекс этики ИИ и соответствующая комиссия. Это не жесткий регулятор, а живой механизм, реагирующий на изменения. В нее входят и разработчики, и те, кто внедряет ИИ, и конечные потребители, в том числе представители различных министерств и ведомств. Существует отраслевое разделение. Этику медицинского ИИ разрабатывают врачи, образовательного — педагоги, судебного — юристы.

Одной из самых сложных и чувствительных зон долгое время оставался диалог с традиционными религиями. Влияние ИИ на духовную жизнь человека — вопрос, который не решить техническими экспертами. «В этом смысле диалог, который мы сейчас запускаем, критично важен», — отметил Незнамов.