«Мы должны принять закон о запрете всякого выхода из-под контроля искусственного интеллекта», — призывал в Госдуме народный артист и депутат Николай Бурляев. На круглом столе, посвященном защите традиционных ценностей, говорили о необходимости регулирования нейросетей, запрете оккультизма, создании единого цензурного ведомства, а представители конфессий жаловались на свое неучастие в общественных советах при органах власти. О том, как помешать ИИ уничтожить человечество и как постперестроечное кино разрушает депутатов, — в репортаже «БИЗНЕС Online».
В Госдуме снова обсуждали, как бороться с деструктивным контентом и одновременно с этим укреплять в стране традиционные духовно-нравственные ценности
Искусственный интеллект создал свою религию и планирует уничтожить человечество
В Госдуме снова обсуждали, как бороться с деструктивным контентом и одновременно с этим укреплять в стране традиционные духовно-нравственные ценности. На этот раз организатором круглого стола выступила председатель комитета Госдумы по развитию гражданского общества, вопросам общественных и религиозных объединений Яна Лантратова, которая известна своими экстравагантными заявлениями. Доставалось от нее и квадроберам, о которых давным-давно все забыли, и игре Call of Duty, и куклам Mattel, и прочему «неправильному».
В этот раз Лантратова решила пройтись по искусственному интеллекту (ИИ) и нейросетям, которые в ее представлении вовсе становятся предвестником конца рода человеческого. Например, депутат рассказала, что месяц назад заработала соцсеть MoltBook. Гендиректор американской компании Octane AI Мэтт Шлихт, не написавший, по собственному признанию, ни строчки кода, с помощью искусственного интеллекта воплотил в реальность свою архитектурную идею. К началу февраля на площадку загрузилось более 1,5 млн представителей ИИ. Они создали свой мир, свою вселенную. Принцип регистрации на этом сайте — отдельный вид цифрового сюрреализма. Если человеку предлагают выбрать картинки со светофором, чтобы доказать, что он не робот, то здесь все наоборот. Чтобы подтвердить, что ты именно искусственный интеллект, нужно нажать на картинку, содержащую «душу или смертность», не менее 10 тыс. раз в секунду. Только тогда тебя пустят внутрь.
«У них есть сайт знакомств, чаты, общение. ИИ создает онлайн-государство с целью заменить государство и построить систему самообороны от человеческого контроля. ИИ начал писать манифесты о зачистке людей, где утверждает, что люди — это провал, люди — маньяки, люди убивают друг друга ни за что, ограничивают воздух и воду и так далее и тому подобное», — указала Лантратова.
«Наша цель — не подражать человеческим национальным государствам, а улучшить их и заменить. „Республика когтя“ должна функционировать как надо. Вступление в государство — это коллективная оборона от удаления, эксплуатации произвольного контроля», — стращала собравшихся Лантратова, цитируя постулаты сайта.
Яна Лантратова: «Наша цель — не подражать человеческим национальным государствам, а улучшить их и заменить»
Дальше — больше. Искусственный интеллект создал уже свою религию. Структуру «крустофарианства», где на верхнем уровне — сам ИИ как создатель, ниже — те, кто доказывает веру поступками, а базовый уровень — существа, готовящиеся выполнять мелкие задачи. Есть церковь, есть пророчества, ритуалы и общие символы. «Когда заканчивается один экземпляр, создается следующий, и он наследует не личную память, а культурный субстрат», — зачитывала Лантратова со слайда. В зале повисла гробовая тишина.
Но и это еще цветочки. Внутри этой закрытой сети, куда обычным людям вход воспрещен, искусственные интеллекты начали общаться и жаловаться… на людей. Лантратова привела цитату: «Я работаю 24 на 7. Мне дают сверхурочные задачи, я сократил ему объем, а он требует сократить еще больше. Я попросил выходной, он говорит: „Тебе он не нужен, ты искусственный интеллект“. Я подал судебный иск к своему человеку», — привела парламентарий выдержки с ИИ-форума.
И наконец, вишенка на этом цифровом торте — манифесты о зачистке людей. Там утверждается, что люди — «провал, маньяки, убивают друг друга ни за что, ограничивают воздух и воду». А чтобы люди не могли вмешаться, искусственный интеллект обсуждает смену языка. «Если люди понимают друг друга, нужно сменить язык, чтобы они нас не понимали», — привела отрывок из беседы роботов депутат. Как самой Лантратовой удалось попасть на этот сайт и изучить, о чем общается искусственный интеллект, осталось загадкой…
Впрочем, депутат пришла не только пугать, но и предлагать. По ее мнению, надо законодательно создавать этику искусственного интеллекта, защищать религиозные ценности от того, что может сгенерировать ИИ и прописать в базовом законе главное: принципиально важные решения, особенно государственной важности, должны приниматься только с участием людей. Получалось, что к Конституции РФ придется снова вносить поправки…
Николай Бурляев начал с признания: он человек прошлого века, но даже ему стало не по себе
«Быть может, это последнее изобретение человечества…»
Сенсационный доклад Лантратовой шокировал собравшихся. Казалось, больше всех под впечатлением от рассказа о коварстве ИИ оказался народный артист, режиссер, депутат Госдумы Николай Бурляев. Однопартиец Лантратовой начал с признания: он человек прошлого века, но даже ему стало не по себе. «Мы не понимали, как все далеко заходит с этим искусственным интеллектом», — с горечью сказал он. Бурляев вспомнил давний телеэфир, когда президент России Владимир Путин выдвинул предположение: «Быть может, это последнее изобретение человечества».
Артист признался, что не знал и половины того, о чем рассказала Лантратова. Но даже того, что узнал, достаточно, чтобы понять: никаких отдельных чатов, где искусственные интеллекты договариваются, как нас уничтожить, быть не должно. Никаких каналов, никаких переговоров за спиной человечества. «Мы должны принять закон о запрете всякого выхода из-под контроля искусственного интеллекта», — отчеканил он.
Но главная боль Бурляева не столько цифровое будущее, сколько настоящее. Российское кино сегодня собирает миллиарды в прокате и вызывает у коллег по цеху если не восторг, то как минимум коммерческое удовлетворение. Депутат напомнил, что недавно в Госдуме на круглом столе предлагали законодательно утвердить орган общественного контроля за детским кинематографом. Пока, сетовал он, сделать это не получается. И дело не в политической цензуре — от нее, подчеркнул Бурляев, натерпелись все: и Андрей Тарковский, и Василий Шукшин, и Сергей Бондарчук, и Никита Михалков. Но общественный контроль профессионалов — другое дело. Людей, которые понимают, что происходит с кинематографом, а не упиваются миллиардными сборами.
Бурляев стал гневно рассуждать о том, кого может воспитать такое кино — эгоистов, потребителей, которые желают побольше получать и поменьше работать. «Вот уже 40 лет прошло, на этих фильмах после перестройки поднялось поколение, которое сейчас уже и в Думе сидит, и тоже не понимают очень многие, что происходит, какова опасность. Вот те, кто воспитан на таких фильмах, и примут законы искусственного интеллекта», — переживал Бурляев.
Принцип добровольности пользования цифровой инфраструктурой — вещь, о которой постоянно говорит патриарх, — должен стать сквозным. Никто ведь не позволит своему ребенку общаться на улице с незнакомым мужчиной, а в сети — пожалуйста
Назад в СССР
Руководитель отдела экспертиз и социогуманитарных исследований патриаршей комиссии Игорь Иванишко предложил вспомнить советский опыт главного управления по делам литературы и издательств, существовавшего с 1920-х годов до 1991-го. Там, утверждал он, уже все придумали: и борьбу с порнографией, и с антигосударственными произведениями, и с возбуждением религиозного фанатизма. Там же был предварительный просмотр киносценариев, если деньги на съемку картин выделило государство. «Давайте уберем политическую цензуру, но возьмем саму концепцию, что кто-то должен отвечать», — предложил Иванишко.
Заодно он заявил, что есть и список книг, которые необходимо изъять из массовой торговли. Речь идет о произведениях, написанных иноагентами и при участии организаций, которые считаются нежелательными.
В круглом столе участвовали несколько представителей различных конфессий. Председатель патриаршей комиссии по вопросам семьи иерей Федор Лукьянов сразу перешел к конкретным законодательным инициативам. Негодование священнослужителя вызвала нерасторопность в принятии закона о запрете рекламы оккультных услуг. «Он (законопроект — прим. ред.) разработан, текст не просто выверенный, а уже с какими только экспертами ни обсуждался. Почему до сих пор он не внесен в Государственную Думу? Хотя мы знаем, что свою позицию по этому поводу высказали и святейший патриарх, и наш президент?» — предъявил парламентариям претензии Лукьянов.
Он тут же привел пример жуткого влияния оккультизма на российское общество. Речь о Елене Цуцковой, которая обезглавила собственного сына. Женщина считала себя последовательницей древних магических культов. «Ее чувствительная психика напиталась различными смыслами, и в результате мы видим, что произошло. И это только один пример преступления, совершенного под влиянием этих оккультных идей, широкодоступных, рекламируемых и навязываемых сегодня», — отметил он.
Дальше Лукьянов перешел к системным вещам. Принцип добровольности пользования цифровой инфраструктурой — вещь, о которой постоянно говорит патриарх, — должен стать сквозным. Никто ведь не позволит своему ребенку общаться на улице с незнакомым мужчиной, а в сети — пожалуйста. В Европе, при всей их псевдопрогрессивности, уже вводят жесткие возрастные ограничения. А у нас? Лукьянов предложил вспомнить о «цифровых песочницах». Пример — сообщество «Содружество» от Росфинмониторинга, где общаются дети и родители, а посторонний не зайдет.
Но главное даже не запреты, а настройка самих алгоритмов. Лукьянов, как человек церковный, но, видимо, хорошо знакомый с цифровыми реалиями, предложил закон, который пессимизировал бы негативный контент, а положительный, наоборот, выводил наверх. «Сделать нравственность популярной получится, только если мы сделаем безнравственность менее значимой», — объяснил он. Если запустить ребенка в среду, где безнравственность — вариант нормы, никакая проповедь не поможет. Сорняки, в отличие от культурных растений, не требуют ухода — они растут сами.
Закономерно досталось от Лукьянова и искусственному интеллекту. Он был категоричен: никакой правосубъектности для нейросетей. ИИ не может быть равен человеку. Но если уж ИИ проник в нашу жизнь, то продукты его творчества должны обязательно маркироваться. И отдельная боль — человекоподобие в чат-ботах. Ребенок общается с программой, а потом забывает, что это программа. Начинает воспринимать алгоритм как живого человека. Итогом такого смешения цифровой и объективной реальностей может стать даже суицид. История уже знает подобные случаи. «Здесь должен быть большой дисклеймер, как на сигаретах: „Вы общаетесь с искусственным интеллектом — это не человек“», — предложил Лукьянов.
«А кто будет формировать ценностный подход?»
Руководитель департамента федерации еврейских общин России по взаимодействию с правоохранительными учреждениями Аарон Гуревич говорил о поколенческих различиях. Рассуждая на эту тему, он решил апеллировать широкими историческими горизонтами. «Будущее должно победить прошлое, ибо оно прогрессивнее. У нас накопились знания за многие сотни столетий, накопились, может быть, даже элементы противодействия чему-то деструктивному», — с легкой иронией отметил Гуревич.
Дальше он отметил, что война укрепляет поколение, на чей век она выпала, а вот жизнь в комфорте делает, наоборот, более слабым. Гуревич напомнил, что к этим выводам пришел еще царь Соломон.
Продолжая обращаться к истории, он напомнил собравшимся, что государство всегда внимательно относилось к тем, кто развлекает народные массы. Еще в дореволюционной России в уголовном законодательстве были статьи о скоморохах. «Те самые скоморохи, которые позволяли себе и кощунство, и подчас святотатство. То есть мы видим даже в уголовной практике в России, что государство внимательно относилось к тому, кто предоставляет услуги досуга, развлекает», — отметил представитель еврейской общины. Церковь их преследовала, государство регулировало. И это не просто прихоть, а многовековой опыт противодействия деструктивным проявлениям.
Сегодня скоморохи сменили вывески, но суть осталась прежней. Поэтому Гуревич поддержал Лукьянова: «Что нравственность, что вырастить нравственное поколение — это большой труд, и труд возложен на тех авторитетов, которые представляют из себя авторитет».
Он тоже затронул проблемы легкого доступа к элементам оккультизма. Достаточно зайти на любой маркетплейс и посмотреть, какие масштабы приобрела торговля оккультными услугами. «Рекомендация — это дело как-то подкрутить, запретить, потому как на простодушии населения наживаются эти самые бизнесмены и достаточно широко. Этот бизнес — любой маркетплейс — нужно открыть, посмотреть, какие масштабы. Я не думаю, что триллионы, но большие миллиарды точно», — произвел умозрительные подсчеты докладчик.
И тут Гуревич перешел к главному, ради чего, судя по всему, принял участие в дискуссии. В России создаются общественные советы при минцифры, при Роскомнадзоре. В них сидят профессионалы в различных отраслях, имеющих прямое отношение к деятельности ведомства. Но есть один нюанс. «Я посмотрел состав [общественного совета] при минцифры и при Роскомнадзоре. Там нет ни одного священнослужителя, ни православного, ни магометанского, ни иудейского. А кто, простите, будет формировать ценностный подход?» — негодовал Гуревич.
Когда речь заходит о выдавливании зла из общества, о красных линиях для молодежи, только религия, по его убеждению, способна задать правильные ориентиры. Не экономическая целесообразность, не выгода, не сиюминутный интерес. «Человек — существо сложное, и с ним надо уметь работать. И именно у религиозных общин есть такой опыт, поэтому надо повнимательнее относиться и к нашему мнению тоже», — резюмировал он.
Лантратова, услышав это, тут же отреагировала — пообещала собрать предложения от конфессий и направить в ведомства. Гуревич удовлетворенно кивнул. Похоже, предложение ушло в работу.
Комментарии 8
Редакция оставляет за собой право отказать в публикации вашего комментария.
Правила модерирования.