Татьяна Черниговская: «Я боюсь, что мы окажемся в мире сплошных фейков»

С появлением ИИ человечество оказалось в совершенно другом мире, которого никогда не было, отмечает Черниговская Фото: «БИЗНЕС Online»

«К черту подробности! Кто мы?»

Открытая лекция главы Института когнитивных исследований СПбГУ доктора биологических и филологических наук Татьяны Черниговской стала одной из самых ярких на двухдневном просветительском марафоне «Знание.Наука». В свои 78 лет профессор продолжает активно и регулярно выступать на различных площадках, размышляя о дивном новом мире, который мы будем делить с машинами, сущности человеческого сознания и, конечно, работе мозга, ведь «у каждого из нас между ушами лежит что-то, по сложности примерно равное вселенной». «БИЗНЕС Online» собрал главные тезисы из выступления.

У человечества появился новый конкурент. На планете существует множество животных, у которых скорость, зрение и обоняние лучше, чем у человека. Однако никогда не существовало того, кто мог сравниться с homo sapiens интеллектуально. С появлением ИИ человечество оказалось в совершенно другом мире, которого никогда не было, отмечает Черниговская. «Вы, конечно, можете мне сказать, что всегда случались научные или цивилизационные прорывы. И ничего, как-то справлялись. Но это всегда было так, что сначала ездили на осле, а потом стали летать на ракетах, то есть просто быстрее. Но то, куда мы попали сейчас, — это совершенно другой мир», — заявила спикер.

В новом мире важно сохранить человечность. «Это совершенно другой мир. И мы все не знаем, как в нем жить», — констатирует Черниговская. Спикер вывела на экран картинку, где два клоуна стоят на берегу океана: один спрашивает: «Где мы?» — второй отвечает: «К черту подробности! Кто мы?» По словам нейробиолога, все, что связано с цифровым миром, ставит перед человечеством вопрос, что вообще оно из себя представляет. «На этой новой планете, где все оказались инопланетянами, мы должны сохранить человечность. Мы не можем играть в игру „состязание с ИИ“. Ее мы проиграли уже», — призывает Черниговская, отмечая, что люди и дальше будут проигрывать нейронным сетям.

Куда заведут сочувствующие роботы и дедушка на флешке. «Вот эта барышня наверху — так выглядят современные антропоморфные роботы. Они ей сделали кожу, прямо как наша. Это лицо владеет мимикой, оно может выражать сочувствие, гнев, страдание, любовь, застенчивость — жуткое дело. Эти новые создания считывают ваши эмоции по голосу, движениям, выражению лица. Опасность близко», — рассказала Черниговская. По ее словам, люди до конца не знают, как устроен мозг. «Получается абсурдная история: мы хотим повторить то, что сами не знаем», — говорит спикер, комментируя вопрос о том, зачем нужен ИИ. Черниговская приводит пример создания идеального человека, сравнивая его с «чудовищем Франкенштейна», а также упоминает о записи человека на электронный носитель: «А еще лучше идея, всерьез обсуждаемая в человечестве, — дедушку запишем на флешку! И он прямо как живой будет, отправится в лучшее пространство, а внучок флешку возьмет, а там дедушка». Также ее интересует тот момент, когда человека будут оцифровывать: «Мне очень интересно по этому поводу. Например, когда собрались записывать? В общем, это безумные вещи все».

Татьяна Черниговская: «Не смотреть плохие фильмы, не читать плохие книги, не общаться с идиотами!»

«Именно человек может пережить момент озарения, тот самый «ага-эффект», когда еще несколько минут назад ты не понимал, а сейчас вдруг понял. И именно здесь кроются возможности творческих прорывов, недоступных для машин» Фото: ru.freepik.com

«Боюсь, что мы окажемся в мире сплошных фейков, где подделки лучше оригиналов»

Удел ИИ — работать с массивами данных, сидеть в шахте и летать на Марс. «А зачем мы вообще ввязались в этот искусственный интеллект?» — задается вопросом ученый. Как она говорит, нет ничего плохого в том, чтобы он выполнял сложную работу. Например, спикер предлагает отправить его в шахту или на Марс. «ИИ стал делать нашу изысканную работу. Он нам конкурент», — заявила Черниговская. Также она сказала о том, что уже сейчас модели искусственного интеллекта помогают сократить сроки вывода на рынок новых лекарств с нескольких лет до нескольких месяцев, позволяя обойти этапы анализа, испытаний на животных, доклинических испытаний и т. д.

«Ага-эффект» как человеческое преимущество. «Техническую часть научной работы неизбежно возьмет на себя ИИ, и пусть — он с этим отлично справится. Но именно человек может пережить момент озарения, тот самый „ага-эффект“, когда еще несколько минут назад ты не понимал, а сейчас вдруг понял. И именно здесь кроются возможности творческих прорывов, недоступных для машин», — объяснила профессор.

ИИ уже «съел» всю литературу человечества, теперь нужно писать новое, чтобы кормить его. Отдельный вопрос — обучение ИИ на существующих массивах информации. «Когда искусственный интеллект работает с этими гигантскими базами данных и выдает вам за одну минуту близкий к идеалу текст, понимает ли он, что делает? ИИ „съел“ всю мировую литературу. Он понял что-нибудь? А как вы собираетесь это выяснить?» — заявила спикер, комментируя процесс обучения искусственного интеллекта, когда моделям «скармливают» петабайты данных. По ее словам, российский предприниматель в сфере информационных технологий, президент группы компаний InfoWatch, сооснователь компании «Лаборатория Касперского» Наталья Касперская в интервью заявила, что ИИ больше не на чем учить, т. к. он все «съел». В ответ на это интервьюер спросил, что теперь придется делать. Касперская ответила, что нужно писать новое. «Для того чтобы эту гадину кормить, мы должны писать начать? Для нее? Для сеток (нейронных сетей — прим. ред.)? Я не понимаю, почему вы не смеетесь», — сокрушалась Черниговская. Сейчас искусственный интеллект учится на визуальных и аудиальных продуктах человеческой культуры.

Когнитивность ИИ и его понимание контекстов и смыслов — виртуозный фейк. Искусственный интеллект уже научился анализировать контекст лучше самого ученого? «Если научится, что нам делать?» — поинтересовались слушатели. «Речь идет об огромной памяти, которой заполнены эти системы, гигантских скоростях. Их ответы будут выглядеть, как будто они умеют то же, что и мы. Это фейк. Это фейк очень большого размера. Виртуозный фейк. Они уже умеют это делать. Они берут много контекстов — и создается впечатление, как будто понимают эти семантические вещи и контексты», — заявила Черниговская. Как она считает, нет способа проверить, имеет ли ИИ когнитивность, ведь он может ее пародировать, а настоящие проблемы начнутся тогда, когда он начнет думать по-настоящему и самостоятельно принимать решения.

«Есть ли у искусственного интеллекта картина мира или там только свалка из всего того, что придумали люди? — задается вопросом лектор. — Боюсь того, что мы окажемся в мире сплошных фейков, где подделки лучше оригиналов».

Спикер подчеркивает, что учиться важно не потому, что нужно знать все, что есть в телефоне, а для хорошей работы головы — совсем необязательно становиться гениальным музыкантом или математиком Фото: ru.freepik.com

«Искусство опережает науку надолго»

Передача интеллектуальных задач нейросетям приводит к ухудшению работы мозга. «Есть уже немало исследований работы мозга с применением как ЭЭГ, так и МРТ, которые наглядно показывают: передача существенной части интеллектуальной активности вовне, тем же нейросетям, приводит к стремительному ухудшению работы мозга и сбросу интеллектуальной активности», — заявила Черниговская. Спикер подчеркивает, что учиться важно не потому, что нужно знать все, что есть в телефоне, а для хорошей работы головы — совсем необязательно становиться гениальным музыкантом или математиком. Она вновь и вновь советует слушать только хорошую музыку, читать сложные книги и не общаться с «дураками».

У ученых всего мира нет ни одной договоренности о том, что такое сознание. Сознание — это причина возникновения нейронных импульсов или это и есть совокупность этих импульсов? Такой вопрос поступил Черниговской из зала. «Это называется „врезал так врезал“, — отреагировала спикер. — Знаю, что вы будете недовольны моим ответом, и могу много чего наврать, но это не входит в мои планы, поэтому я вам говорю честно. Нет никакой договоренности у ученых и философов земли о том, что такое сознание», — объяснила спикер. В мире существует около 200 теорий сознания: «200 теорий — значит, ни одной». По ее словам, одна из способностей сознания — реагировать на какие-то вещи в окружающей среде, тогда можно сказать, что ИИ тоже им обладает, потому что он может реагировать. Мнение профессора по этому вопросу следующее: работая, мозг порождает сознание. А иначе, отмечает она, придется объяснить, где оно находится и что собой представляет.

Искусство — это другой тип мышления, а не добавка к образованию. Сменив тему, Черниговская привела слова советского культуролога и семиотика Юрия Лотмана: «Необходимость искусства очевидна, оно дает возможность человеку пройти непройденной дорогой, пережить непережитое в реальном мире, дает опыт того, что не случилось. То есть искусство — это вторая жизнь». Комментируя его слова, спикер подчеркивает, что Лотман говорил о роли искусства не как добавки к образованию, а как другого типа мышления: «Искусство порождает другие миры, которых нет в природе». По ее словам, в зависимости от того, какие книги читает человек и какие фильмы смотрит, он проживает жизни других. Черниговская также отмечает, что импрессионисты показали, как человек на самом деле видит мир, то, что, как она объясняет, психология и физиология продемонстрировала через несколько десятков лет после них: «Искусство опережает науку надолго».