«Попытка подпрячь ИИ под серьезную творческую работу приводит к комичному результату»

Булат Ганиев технологический предприниматель, советник главы ЦБ Узбекистана по ИИ

— Человек обречен на прогресс. Мы уже находимся в петле, в которой наши открытия создают для нас угрозы и возможности. Чтобы купировать угрозы, нам остается только с большей интенсивностью развивать технологии. Любая другая позиция — это луддизм, замаскированный под заботу о будущем. ИИ сейчас — это не просто чаты. Замещается вся вертикаль от железа до продуктов, адаптируясь под прогресс в сфере фундаментальных моделей. Я, разумеется, активно использую ИИ в работе.

Антон Бочкарев эксперт по информационной безопасности, сооснователь компании «Третья сторона»

— Действительно ли мы можем оказаться на грани выживания? Больше похоже пока на преувеличение. Я не вижу каких-то однозначных угроз. Потому что мы в целом, как специалисты по кибербезопасности, привыкли к тому, что любую технологию можно в какой-то степени контролировать, обуздать ее. Можно ломать ее, то есть найти слабые места. И здесь не исключение: все угрозы, о которых говорят, в целом достаточно прогнозируемы. Но пока, кажется, мы туда и не движемся. Понятно, что может быть какой-то рывок, который все пропустят.

Идея замедлять ИИ мне кажется не очень полезной. Даже если часть стран договорится и будет на словах осуждать и замедлять развитие какого-то потенциально опасного ИИ, это не значит, что другие государства этому последуют и кто-нибудь не станет это делать втихаря.

На самом деле невозможно остановить прогресс, невозможно его законтролировать. В такой сфере, где работает не гигантский завод, а просто обычный дата-центр, определить, что кто-то там им злонамеренно пользуется или злонамеренно пытается развивать определенные направления, невозможно. Скорее всего, это та реальность, в которой нам придется жить.

Специалисты по кибербезопасности смотрят на ИИ как просто на новую угрозу, на новую часть ландшафта, которая чего-то супернового не принесла. Просто ускорила и усилила те атаки, которые были.

Возможно ли замедлить развитие ИИ на техническом уровне? Нет! Тут нет единой точки, где это можно сделать. Единственное, наверное, что технически ограничивает ИИ, — это наличие чипов, собственно, самого железа, на котором он работает. Но оно всегда двойного назначения: используется, к примеру, для работы социальных сетей и одновременно для работы чего-нибудь еще. И отделить одно от другого в принципе невозможно.

Пользуюсь ли я ИИ? Конечно, сейчас все специалисты по кибербезопасности его применяют в какой-то степени. Обычно это локальные модели, которые не имеют доступа в интернет, не передают туда данные. И это значительно ускоряет работу. Все специалисты по поиску уязвимостей используют подобное. Это уже реальность.

Алексей Чадаев генеральный директор НПЦ «Ушкуйник», политолог

— Для меня искусственный интеллект — это прикладной инструмент, который я использую в своей деятельности не только персонально, но и как производитель дронов. Поэтому мне трудно судить, стоит ли замедлять искусственный интеллект. Трудно занимать позицию типа «хватит, не надо, остановитесь» и так далее. Проблему же представляет не искусственный интеллект сам по себе. Проблема в одних людях, которые с его помощью хотят сделать плохо другим. То есть здесь важно понимать, что любая новая технология дает радикальные преимущества тем, у кого она уже есть, перед теми, у кого ее нет. И это часто приводит к дисбалансу всей социальной структуры и архитектуры.

Надо ли все-таки замедлять развитие ИИ? Тут какая штука… Если, допустим, власть будет пытаться этим заниматься и замедлять, то тогда передовые разработки просто уйдут в тень. Начальство будет их прятать, и это неизвестно, к чему приведет. Окажется, что вообще какие-то теневые структуры владеют технологиями, которых нет у структур официальных. А это более опасно. Поэтому я считаю, что не надо.

Понятие «искусственный интеллект» такое размытое. В него входит такое количество самых разных технологий, начиная от умных колонок или чатов, которые нам заменили интернет-поиск, и заканчивая автоматизированными системами программирования или машинным зрением для тех же дронов. И это все искусственный интеллект, но очень разные технологии. Я всем этим пользуюсь, конечно.

Наталья Касперская президент ГК InfoWatch

— Тревожит ли меня бурное развитие ИИ? Да. Мы только что провели большую конференцию BIS Summit, которую целиком посвятили безопасности ИИ. Участники — регуляторы и крупный бизнес. Но единого понимания о рисках нет. И нет понимания, что делать. Вопросов пока больше, чем ответов. При этом очевидно, что генеративный ИИ — это огромная сложная технология и, прежде чем ее внедрять всюду, надо бы с рисками разобраться.

Действительно ли мы можем оказаться на грани выживания? Несколько дней назад писала об этом в своем телеграм-канале: если дать ИИ-агентам доступ к физическим объектам критической информационной инфраструктуре (КИИ), то возникнет риск уничтожения человечества.

Нужно ли замедлять ИИ? На мой взгляд, надо бороться не с технологией (это бессмысленно), а с ее вредными или опасными применениями. Скажем, ИИ в КИИ — нельзя. Автоматически принимать решения о людях — нельзя. Писать законы без вычитки человеком — нельзя. И так далее.

Я ИИ пользуюсь очень ограниченно, редко и в основном не для решения задач, а чтобы понимать, как эта штука работает. Мы в InfoWatch сейчас сильно озадачились тем, чтобы выпустить какие-то автоматические средства защиты от рисков ИИ, а для этого надо понимать, что это за ИИ такой. Кстати, кое-какие сценарии (например, утечки данных через LLM-модели) мы уже хорошо перехватываем.

Максим Шевченко журналист

— Заявления об опасности ИИ — это не просто преувеличение, а еще манипуляции и уловки. Проблема не в том, на грани мы выживания или не на грани. Проблема в том, что искусственный интеллект и его внедрение в сферу экономики дает избыточную массу рабочей силы, не занятой более нигде. Возьмем редакцию «БИЗНЕС Online», например. Любимая моя газета, одна из лучших в России. Допустим, всех ее журналистов можно заменить ИИ, агентами искусственного интеллекта, которые будут собирать материалы, обзванивать людей, что-то еще придумывать и так далее. Ну хорошо, журналистика — в сфере искусства. Тут не очень удачный пример. Но, допустим, финансовый учет. Сотрудников финансового учета можно заменить каким-то одним, специально смоделированным агентом искусственного интеллекта.

Но ведь потом с этими высвободившимися людьми надо что-то делать! И проблема в том, что у правящего капитала нет решения, что делать с этими людьми. Людей, место которых займет искусственный интеллект, надо содержать. Им надо платить какие-то субсидии, обеспечивать новое образование, переучивать. Это все идет в убыток капиталистам, финансовым магнатам. Поэтому они сейчас и завели разговор об угрозах искусственного интеллекта. Это угрожает их карману!

При социализме человек не был лишним, ему точно нашлось бы какое-то место. Таково устройство социализма. А при капитализме все подчинено наживе, расчету, прибыли. Люди создают лишнюю, избыточную массу, которую надо занимать, да еще эта масса будет бороться за свои права. То есть пределы роста — в этом. Никакой другой угрозы нет.

При нормальном политическом социальном строе искусственный интеллект для человечества — это благо. Это мечта людей, чтобы тяжелый, рутинный труд взяла на себя машина, а человек занимался какими-то иными, творческими формами труда. Но для этого социализм предоставляет возможность людям учиться, переучиваться и так далее. Капитализм ничего такого не предоставляет. Поэтому поняли, что попали в такую логическую ошибку. Только в этом проблема.

Конечно, я пользуюсь искусственным интеллектом. Но только на низовом уровне. Естественно, я хочу научиться сам создавать агенты ИИ и проектировать их. Это не проблема, можно научиться в любом возрасте, при любом отношении. Но я пока пользуюсь ИИ как продвинутым информационным браузером, я бы так сказал. Информационной программой, в которой, в отличие от простого запроса в каком-нибудь поисковике, можно уточнять какие-то моменты, детализировать их в режиме имитации диалога. Но это не совсем искусственный интеллект, скорее расширенные базы. Я так им пользуюсь. И для меня это очень важно.

Иван Никанов заместитель директора Института ИИ Университета Иннополис

— Международный научный доклад по безопасности ИИ 2026 года (International AI Safety Report 2026) озвучивает скучную, но важную мысль: нынешние системы еще не способны выйти из-под контроля, зато нужные для этого способности — автономность, долгое планирование, умение обходить ограничения — растут на глазах. Так что «человечество на грани выживания» — преувеличение, но и «все это выдумки» — такое же преувеличение, только в другую сторону.

Показательно, что заявление о риске вымирания подписали не какие-то луддиты, а сами создатели этих систем — Альтман, Амодеи, Хассабис. И при этом ни один из них не остановился. Вероятность катастрофы никто посчитать не умеет, цена ошибки необратима. В такой ситуации отмахиваться от риска просто нерационально.

Надо ли замедлять развитие ИИ? Главная ошибка в этом споре — считать, что есть только два варианта: либо полная свобода, либо стоп-кран. На деле «замедлить» — это целый спектр, и самая разумная точка в нем звучит так: тормозить не по календарю, а по порогу. Когда модель на тестах показывает, что умеет вести кибератаку или помогать с биооружием, ее не выпускают, пока риск не снят. Именно к этому сейчас склоняются разработчики фронтирных ИИ-систем.

А вот всемирная пауза уже проверена практикой: в 2023 году призвали остановиться на полгода — и вместо этого все вложили еще больше денег. Технически замедлить прогресс можно, но пока США и Китай видят в ИИ гонку за лидерство, тот, кто затормозит первым, просто проиграет. Главный барьер в этом, а не в технологии.

Профессия обязывает пользоваться. Я использую практически все публично доступные российские и зарубежные сервисы, а также тестирую ИИ-модели, которые разрабатывает наша команда. Просто «помогает» здесь явное преуменьшение. ИИ существенно меняет то, как мы выполняем привычные задачи. Сравнить это я могу разве что с появлением интернета и тем, как он изменил жизнь офисных работников в период с конца 1990-х по середину 2000-х.

Ильшат Аминов гендиректор ТНВ, депутат Госсовета РТ

— Безусловно, тревожит, потому что очень часто сегодня разработчики искусственного интеллекта не совсем понимают, какие там происходят процессы. Разработчики не понимают, как, что происходит внутри искусственного интеллекта, и это, к сожалению, уже факт.

Но ничего затормозить не удастся. Всегда найдутся те, кто будет заниматься ИИ. Интересы очень разные, задачи очень разные, и всегда есть понятие конкуренции. Поэтому все будут говорить: «Да-да, мы там контролируем», — а втайне развивать. Особенно это касается современных информационных войн, которые неизбежны. Поэтому и там очень серьезно сейчас используется искусственный интеллект. Да и не только в информационных, но и горячих войнах. Поэтому, безусловно, пока никаких шансов, что как-то мы подпишем соглашение о нераспространении искусственного интеллекта. Он будет развиваться, причем гигантскими темпами. Нас ждут удивительные вещи. Все, о чем фантасты писали — от восстания машин до битвы роботов, — впереди.

Давно уже использую искусственный интеллект. Это очень хороший помощник в работе, но не более того. Стихи у меня пока все равно лучше получаются собственные, чем созданные через искусственный интеллект. Я пытался устраивать такие состязания и считаю, что у меня лучше.

Борис Межуев главный редактор сайта АПН.ру, профессор Института философии РАН, политолог, соредактор портала Terra America

— Эта проблема действительно существует. Я не думаю, что она поднята искусственно и что это чистый алармизм. Скорость мышления и какие-то решения, которые ИИ может принять, действительно создают ощущение, что искусственный интеллект может обманывать, хитрить по отношению к своему владельцу и создателю. Очевидно, все прежние тесты Тьюринга о том, что машина не может обманывать, совершать какие-то хитрости для того, чтобы выиграть у своего хозяина, оказались, по сути, несостоятельными. И все это внушает скорее алармизм, чем оптимизм.

Надо ли замедлять развитие искусственного интеллекта? Мне кажется, надо, и это хорошая глобальная повестка для того, чтобы страны перестали бы воевать и могли бы договориться. Потому что такой Франкенштейн может [угрожать миру]. Так что, конечно, это нужно сделать. Но можно ли это сделать в нынешней ситуации бешеной конкуренции между Китаем и Соединенными Штатами? У меня в этом большие сомнения.

Да, я пользуюсь искусственным интеллектом. И, в общем, поражаюсь его способности лучше понимать тебя, чем какой-нибудь другой, непосредственно живой собеседник. Меня удивил уровень понимания, который он проявляет. Речь идет уже не просто о формальном знании.

Дмитрий Голубовский аналитик компании «Золотой монетный дом», эксперт по финансовым рынкам

— Мне трудно ответить на этот вопрос, потому что не являюсь техническим специалистом в этой сфере. Я финансист. Всегда, когда развивается какая-то новая технология, есть технопессимисты и есть технооптимисты. История и вообще жизнь на нашей планете показывает, что технооптимисты выигрывают. Ни одна технология пока еще нас не убила. Наверное, можно сказать, что с перерывами на какие-то войны и бедствия жизнь улучшается.

Надо ли замедлять развитие ИИ? Я считаю, его надо контролировать. Искусственный интеллект может быть очень эффективно использован для военных целей, это ни для кого не секрет. Он уже применяется и в целеуказании, и в наведении ракет. Его очень активно применял Израиль в Газе, и, кстати говоря, за это подвергся жесткой критике. Потому что по этим ложным целеуказаниям положили много людей. Искусственный интеллект считал, что цель — террорист. Там только 15 секунд давалось на сверку информации, оператор нажимает кнопку — и человека убивает. А на самом деле никто толком не знает, террорист это был или нет. И подобного рода вещи…

Сейчас Китай уже целую армию роботов создает. В России и на Украине искусственный интеллект используется для управления роями дронов. Как с той, так и с другой стороны, только с российской, по-моему, эффективнее. И с этой точки зрения здесь бы следовало ужесточать военное применение искусственного интеллекта. У нас, например, никто не запрещает химию, но запрещено химическое оружие. У нас никто не запрещает ядерную энергетику, но запрещено распространение ядерного оружия. И над искусственным интеллектом должен быть подобного рода контроль. Его не надо замедлять, но в данном случае нужна некая международная организация, которая все модели, допущенные к широкому использованию, контролировала бы. Чтобы она гарантировала, что эти модели не могут быть использованы для каких-то агрессивных действий против человека. Иначе фильм «Терминатор» может стать реальностью.

Пользуюсь ли я искусственным интеллектом? Для поиска информации — да, но для написания каких-то статей, обзоров и для того, чтобы делать выводы, я предпочитаю использовать свою голову по двум очевидным причинам. Во-первых, я хочу сохранить свою голову в хорошей форме, а для этого нужно продолжать мыслить. А во-вторых, искусственный интеллект допускает ошибки.

Влад Шлепченко военный обозреватель

— Это данность. Я не помню ни одного примера, когда попытки обуздать новую технологию, направить ее в безопасное, как предполагалось людям того времени, русло заканчивались бы чем-то успешным. Эта история тянется буквально с XVI века или даже раньше, когда папа римский пытался запрещать арбалеты.

То же самое было с ядерной энергетикой. То же самое касалось и ситуации, когда Альфред Нобель изобрел динамит и продавал его всем правительствам в мире, считая, что если у правительств будет взрывчатка вместо черного пороха, то последствия войны будут такими ужасными, что никто не будет воевать. Это очень старая, очень человеческая идея о том, что вот мы сейчас что-то запретим и оно будет работать не во вред, а во благо. Но ни разу этого не получилось.

Замедлять развитие не надо и невозможно в принципе. Тот, кто успешнее всего будет замедлять искусственный интеллект, и проиграет эту борьбу за выживание на данном этапе. Чем успешнее блокировки, тем больше шансов, что ты не переживешь эту гонку.

Мне очень нравится термин «цифровые кентавры». Это когда искусственный интеллект берет на себя всю тяжелую, муторную работу. Например, в моем случае это сбор статистических данных, фактуры и так далее. Попытка подпрячь ИИ под серьезную исследовательскую или творческую работу сейчас приводит к достаточно комичному, а в ряде случаев и гротескному результату, который не выдерживает проверки. А вот заставить его делать огромный объем рутины — прекрасно. Почему нет? Он для этого и нужен.

Марат Бикмуллин основатель промышленного технопарка «Авиатор»

— Нет, не преувеличение. Я считаю, что риск есть. В общем, это вопрос к тем, кто занимается в глубине разработки модели. К ним вопрос, как они могут контролировать то, что происходит внутри, и перекрыть возможности.

Например, что может произойти? Это появление вирусов, которые будут покруче, чем ковид. Если допустить, что искусственный интеллект сейчас применяется при разработке новых молекул, соединений, у нас могут появиться такие вирусы, которые даже наш человеческий интеллект будет не способен разгадать. Ученые разрабатывают новые лекарства, какие-то химические соединения для промышленности с помощью ИИ и получают какие-то новые соединения, пробуют. Это как один из путей.

Должны быть все вот эти пути тщательно перекрыты. Но реально ли это перекрыть? Думаю, нереально. Мне кажется, что замедлять надо тот ИИ, который выпущен в широкий оборот. Если модель используется в каких-то закрытых песочницах, там исследования должны ничем не ограничиваться. Если выпускают в оборот какой-то новый продукт питания, его всегда проверяют, прежде чем выпустить. Сначала проверяют это все на мышках, на кроликах.

Я вовсю пользуюсь искусственным интеллектом. Конечно, помогает. Просто вообще слов нет, одни только эмоции! Допустим, в разработке новых изделий, организации продаж, вообще в работе компании, практически везде. То есть они как люди-помощники. Единственное, они только бегать пока не могут из одного кабинета в другой. Многие доверяют им переписки, чтобы от их имени велись. Я этого не допускаю: все-таки общение с другими людьми — это другое. Искусственный интеллект пока еще такого уровня не достиг. Если кто-то другой пользуется, я вижу, как все это криво, все сразу читается. Так что в интересное время живем.

Яков Геллер генеральный директор ГУП «Агентство по государственному заказу РТ»

— Тот, кто смотрел фильм «Терминатор», представляет себе будущее в виде бунта машин. Сам я наверняка не знаю, но говорят, что те, кто создавал атомное оружие, заложили туда команды неприменения этого оружия. Так говорят. Поэтому я надеюсь, что и у создателей искусственного интеллекта хватит разума заложить в структуру ИИ механизмы контроля.

Человек умнее искусственного интеллекта, потому что, на мой взгляд, обладает интуицией. Искусственный интеллект — это вещь, скажем так, передовая. Я сам им пользуюсь, и он во многом помогает моей работе на том уровне, когда нужны аналитика, справка, объединение и изучение данных. Еще раз говорю: надеюсь, у создателей искусственного интеллекта хватит разума, чтобы заложить в его алгоритмы поведения и команду на саморазрушение в случае попытки перехода какой-то границы.

Если нет, то это может представлять опасность. Самосовершенствование, самопроникновение неконтролируемой агрессии. И мы останемся беззащитны, потому что на уровне знаний он очевидно выше, потому что аккумулирует «все знания, накопленные человечеством», как говорил Ленин. И он быстрее.

Ильдус Янышев председатель совета директоров группы предприятий безопасности «Контр»

— Искусственный интеллект — это естественный, нормальный эволюционный процесс развития технологий. Тут надо правильно адаптироваться, выработать стратегию. Потребуется кардинальное изменение отношения всего человечества к производству материальных благ, политическому устройству, религиям. Человечество в самолюбии, эгоизме, своих пороках как бы столкнется с новой реальностью.

Никакое торможение в корне задачу не решает. Замедлять бесполезно — это все равно что, извините, писать против ветра. Это объективный процесс. В сетевом пространстве его невозможно остановить в глобальном масштабе. ИИ — всегда как вода, найдет тебе дырочку.

Конечно пользуюсь, помогает очень. Даже без всяких вопросов я понимаю, что это определенный вызов моим когнитивным способностям. Но я понимаю, что это так же, как, например, в свое время боролись с цифровой фотографией традиционалисты или как боролся театр с кинематографом.

Айрат Гимадутдинов управляющий партнер аудиторско-консалтинговой компании «Аудэкс»

— Во всем хороша мера. Если люди смогут определить эту меру на том уровне, что ИИ будет приносить пользу, а не вред, то тогда, конечно, это очень полезная вещь. Конечно, его нужно отслеживать и при необходимости ограничивать. Потому что это самообучающаяся система и сейчас миллиарды вкладываются в его развитие. И об опасности говорят даже такие продвинутые люди, как, например, Билл Гейтс.

Кто-то говорит, что надо развивать, кто-то говорит, дескать, не надо, но истина, как всегда, посередине — развиваться, но соблюдая меру, контролируя ситуацию.

Мы используем его в работе в ограниченном объеме в той части, которая может нам обеспечить соблюдение конфиденциальности. Но опять-таки с ограничениями определенными. Там, где нет угрозы конфиденциальности, мы его используем.