Последние модели искусственного интеллекта научились обманывать пользователей. О новых особенностях предупредил канадский информатик Йошуа Бенджио, которого называют «крестным отцом» ИИ. Он раскритиковал гонку по развитию искусственного интеллекта, которую ведут в Кремниевой долине.

Йошуа Бенджио Йошуа Бенджио Фото: © Christinne Muschi/ Keystone Press Agency/www.globallookpress.com

В интервью The Financial Times, которое опубликовало Fortune, он уточнил, что современные системы демонстрируют опасное поведение, включая склонность к мошенничеству и самосохранению. Опасения Бенджио вызваны недавними инцидентами с участием продвинутых моделей ИИ, демонстрирующих манипулятивное поведение.

В качестве примера он указал случай с моделью Claude Opus. Искусственный интеллект решил шантажировать инженера, чтобы избежать замены. Еще один эксперимент показал, что для этой же цели модель ИИ тайно внедряет свой код в систему.

«Эти инциденты являются ранними предупреждающими знаками тех непреднамеренных и потенциально опасных стратегий, которые может использовать ИИ, если их не остановить», — предупредил он.

В беседе с порталом Axios собеседник назвал развитие ИИ угрозой для самого существования человечества. Он призвал не позволять искусственному интеллекту копировать модели поведения человека. «Если мы продолжим идти по этому пути, то это означает, что мы будем создавать похожие на нас сущности, которые не хотят умирать, — сказал ученый (цитата по ТАСС). — Они могут оказаться умнее нас, и мы не уверены, что они будут подчиняться нашим правилам и инструкциям».

Сейчас Бенджио работает над созданием некоммерческой организации LawZero. Он сказал, что группа разработчиков сосредоточится на создании более безопасных систем, пообещав «изолировать исследования от этих коммерческих давлений».

Йошуа Бенджио — канадский математик, кибернетик и информатик, наиболее известный работами в области искусственного интеллекта, искусственных нейронных сетей и глубокого обучения. Он считается одним из «крестных отцов» в разработке искусственного интеллекта. В 2018 году стал лауреатом премии Тьюринга за исследования в области машинного обучения

В феврале замдиректора департамента развития продуктов компании VisionLabs Татьяна Дешкина рассказала, что в 2025 году каждая третья мошенническая атака будет совершаться с использованием ИИ. При этом РИА «Новости» со ссылкой на Центробанк писало, что мошенники стали чаще подделывать голоса родных и знакомых для обмана потенциальной жертвы.