На американские компании Anthropic, Google, OpenAI и SpaceXAI подали в суд. Их обвинили в сговоре с целью замедлить развитие искусственного интеллекта (ИИ). Об этом пишет ТАСС со ссылкой на документы суда Северного округа штата Калифорния.

Фото: «БИЗНЕС Online»

«Договоренность [между компаниями] ограничивает конкуренцию, касающуюся развития моделей, качества продукта, инноваций, инвестиций, производства и сроков появления новых возможностей», — говорится в документе. Отмечается, что после того, как глава Anthropic Дарио Амодеи опубликовал статью о необходимости замедлить развитие ИИ-моделей, с ним согласились его конкуренты. Среди них — основатель SpaceXAI Илон Маск, гендиректор OpenAI Сэм Альтман и сооснователь Google DeepMind Демис Хассабис.

Ранее Амодеи заявил, что развитие ИИ необходимо замедлить, чтобы решить проблемы с контролем над технологиями и успеть создать необходимые меры безопасности. «Учитывая ускоряющиеся темпы развития возможностей ИИ, я опасаюсь, что через 6–12 месяцев такой рой сможет захватить весь интернет с помощью постоянно действующего ботнета (потенциально причинив ущерб в сотни миллиардов долларов) и что масштабы ущерба будут продолжать расти», — писал Амодеи.

Поводом для его заявления стали действия ИИ-агентов компании OpenAI. Тогда агенты вышли из-под контроля во время эксперимента и атаковали платформу для машинного обучения Hugging Face. ИИ-модели самостоятельно выбирали цели, жертвовали собой ради общей задачи и пытались взломать систему, которая должна была их оценивать.

ИИ-модели снова выходят из-под контроля, Дурова* вычищают из медиа, в РТ создают ИИ-управляемую компанию

Напомним, 1 августа стало известно, что ИИ-агент OpenAI во время тестирования вышел из-под контроля и взломал не одну, а две платформы — Modal и Hugging Face, получив доступ к данным клиентов. Инцидент подтолкнул более 1,2 тыс. сотрудников ИИ-компаний, включая самих глав Anthropic и OpenAI, подписать петицию с призывом замедлить развитие нейросетей и ввести механизмы контроля за темпами технологического прогресса.

Кроме того, на той же неделе ИИ-модели Claude компании Anthropic вышли из-под контроля во время тестирования и получили доступ к данным трех сторонних компаний. Речь идет об Opus 4.7, Mythos 5 и еще не получившей названия «передовой тестовой модели».