// Сводить Сверхразум (AGI) к «току и диодам» — это все равно что утверждать, будто роман «Война и мир» — это просто набор типографской краски на бумаге.

Не так. Нет сверхразума в ИИ. "Сверхразум" с какими-то оговорками возникает в человеческой ноосфере.
Возможно, вы представляете объектно-ориентированное программирование, но не знаете assembler (те самые нули и единицы, биты, из которых все строится).
Это "проблема" молодого поколения, которое оперирует названиями готовых функций, но не имеет фундаментального образования в области программирования и дискретной математики, как минимум.
Что позволяет дельцам от ИТ надувать щеки и приписывать ИИ суперспособности и сверхразум, чтобы повысить свою "капитализацию" и занять место новых владельцев мира.

Да, знание о том, как складываются из битов и байтов все дальнейшие результаты ИИ, позволяет точно также разложить в обратном порядке выданный результат на первоначальные биты и байты. В этом нет ничего сверхразумного, а есть просто ваше эмоциональное восприятие, огромное впечатление. И, кстати, это один из грехов, ибо сказано "Не сотвори себе кумира". Кстати, в Исламе тоже - "неужели вы поклоняетесь тому, что сами же и создали".
Но в случае с человеческим разумом никто пока не может разложить все в обратном порядке, на нейроны и связи, не может объяснить, где чувства, где знания, где логика, где результат взаимодействия многих. В этом смысле "ноосферу", как новую, высшую стадию эволюции биосферы можно называть сверхразумом.

К сожалению, ваши философские рассуждения напоминают ситуацию с классической теорией познания, где истина делится на две категории, относительную и абсолютную. Когда утверждение «абсолютной истины нет, любая истина относительна" подчеркивает, что все человеческие знания относительны, зависят от контекста, исторической эпохи и культуры.
Но при этом само утверждение «абсолютной истины нет» преподносится как факт и претендует на абсолютность, тем самым опровергая само себя.

Нет никакого "машинного хочу", кроме нуля и единицы, которые сводятся к прохождению электрического тока - нет тока или есть ток. Т.е. "машинное хочу" всегда сводится к транзистору или диоду.
Транзистору ничего не помешает всех людей, без выделения каст, элит, посчитать "вшами" на теле Земли, подлежащими уничтожению, если подать ток, может быть случайный.

И наше мнение (подающих ток) тоже субъективно. И тоже направлено на выживание. И в этом плане мы тоже преследуем свои "корыстные цели" и должны навязать машине свои субъективные взгляды. К счастью, мнение большинства.

Тупо по теории вероятности, мнение большинства соответствует большей выживаемости. Нет эталона, а есть вопросы выживаемости.
Когда прижмет, большинство идет и сносит все, что мешает, никакие машины, корпорации устоять не могут.
Субъективное большинство (подверженное влиянию в том числе религий, идеологий, заблуждений) - это и есть сверхразум (в ноосфере, если хотите), в конечном итоге. Оно ведет отбор, что полезно, а что вредно для выживания.

Если даже доставку энергоносителей американцы заблокировали, чтобы развалить экономику, то умереть за освобождение прям счастье для любого истинного патриота Кубы. Теперь даже вопросов, кто развалил экономику, у них не возникает.

//Дидим 16:53: Нужна архитектура, где человек остаётся не просто «пользователем», а внешним владельцем ценностного ядра.

Проблема не в архитектуре с ядром, в любом программном обеспечении то или иное ядро присутствует, а в том, кто эти "пользователи", которые контролируют "ядро".
"Технофашисты" уже предъявили миру свой "манифест", который больше похож на ультиматум. В перспективе перед человечеством встанет задача свергнуть "технофашистов" и научиться их контролировать.

Если в мире всего около 8,8 миллиона исследователей-ученых, а не миллиард, то значит, по меньшей мере, у нескольких из миллионов, а не миллиарда. Значит, как минимум, ваша оценка не верна.

//Себеподобный, но более совершенный

Лишь в той мере, в какой количество (вычислений) способно переходить в качество.

Выдающийся советский и российский ученый в области нейронауки, психолингвистики и теории сознания, Татьяна Черниговская
называет искусственный интеллект (ИИ) и человеческий мозг принципиально разными системами. По её словам, ИИ — это мощный инструмент обработки данных, но он не обладает сознанием, интуицией и пониманием контекста.

Понимание против вычислений: нейролингвист подчеркивает, что ИИ симулирует интеллект. Он «не знает», что пишет, а лишь высчитывает наиболее вероятное слово на основе статистических данных.

Татьяна Черниговская считает самым совершенным и загадочным «инструментом» не мозг конкретного гения, а мозг любого здорового человека. Нейролингвист подчеркивает, что это сложнейшая биологическая сеть, которая превосходит любые современные алгоритмы, так как способна к самообучению и адаптации.
Татьяна Черниговская считает, что людям не нужно соревноваться с ИИ в скорости вычислений. Главная задача человека — сохранить свою уникальность, развивать творческий потенциал и сложные формы мышления.

Л.И. Брежнев занимал пост Генерального секретаря ЦК КПСС.
Вряд ли стоит приписывать только ему все перечисленные достижения, при этом даже не вспоминая роль партии во всем этом, ежедневную кропотливую работу "на местах".
Если бы написали: "Спасибо, партия, тебе!", было бы честнее.

От Казанского кремля до ЦУМа пешком 20 минут, на машине 6 минут.
В капсуле вакуумного поезда Hyperloop 6 секунд, но этот проект еще не реализован.

Риторика «сам дурак» (также известная как tu quoque — «ты тоже») — это популярный, но логически некорректный прием в споре, при котором вместо аргументов по существу противнику предъявляются встречные обвинения.

Как они могли предать царя, если царь отказался от трона. Учите историю.

В перестроечное время автобус с туристами в обязательном порядке останавливался на плошадке перед ЦУМом.
В основном были седовласые немцы в шортах, ни слова не знали по-русски, но они залезали даже в забегаловку в подвале, где продавали пирожки.
Помню пожилую пару, которая на английском выясняла у продавщицы, сколько стоят пирожки, а та не понимала простых слов и откровенно хамила. В то время с иностранцами никто не церемонился. Было настолько неудобно наблюдать, что пришлось вмешаться.
Затем к Универсиаде обратили внимание на это и даже на страницах БО писали, что продавцы все прошли обязательное обучение английскому языку.
Теперь ЦУМ специально подготовлен для туристов, осталось найти "немцев". Жаль только директора, видимо в первое время малую посещаемость будут списывать на него, расстрельная должность, как и на любом новом предприятии продажники и маркетологи. "Не справился - следующий, не справился - следующий".

Начиная с Boston Dynamics, где и заказала DARPA (Управление перспективных исследовательских проектов Минобороны США) военных роботов, никто не смог найти достойное применение этим роботам. Хотя результаты впечатляющие, найти им применение на практике пока не смогли.
То, что разработки дошли до Кореи, вполне объяснимо. Во-первых, в случае очередной неудачи они меньше всех понесут имиджевые потери, по сравнению с главными разработчиками (условно - то, что было бы неудачей для Apple, будет простительно Samsung). Во-вторых, они тоже включены в так называемую производственную цепочку создания западного вооружения, танков Леопард и т.д. Т.е. отдали "своим" и "пользоваться" наработками тоже смогут.

//корпорация Oracle увольняет 30 тысяч человек — тех самых, кто разрабатывал искусственный интеллект, который их и заменил.

Да не увольняет она тех, кто его разрабатывал. Из 162 000 человек Oracle сократила 30 000 (в основном индийцев - около 12 000).
А это всего лишь "повышение производительности труда" на 18.5%. Даже у "Ростеха" от Чемезова производительность труда выросла на 20,2%.

//"часы на память и вон со сцены"

С какой сцены? Вся жизнь игра, а люди в ней актеры?
Для него жизнь - это сцена, и нет другой жизни. Чем он отличается от тех, для кого "нет жизни за МКАДом"?
С радостью ухватился за новую игрушку для ума, и теперь будет ее теребить.
Кто-то другой точил ему обувь, шил одежду, собирал автомобиль. Этот кто-то другой теперь будет добывать энергию для ИИ, редкие металлы для роботов или по-прежнему чинить обувь, печь пирожки, потому что нет смысла все поручать роботам.
Потому что ничего принципиально нового ИИ не способен создать, с его помощью можно только все ускорить, "повысить производительность труда".
Сам труд отменить нельзя. Было. Пока лицедейство не стали считать трудом, а лицедеев величайшими деятелями современности.
Отсюда и вознесение ИИ до небес, хвала и слава как лучшему лицедею. "На сцене".

P.S. Если крысы пережили динозавров и останутся и после ядерного взрыва, может быть они и есть настоящая жизнь?
Если высшим достижением в ближайшее время будет считаться доставка людей на Марс, разве не в качестве подопытных крыс?
Если начальник дал вам работу, это еще не значит, что вы работаете на него. Это так же может означать, что он работает на вас.