Посттехносингулярный мир и искусственный суперинтеллект: как он будет выглядеть?

[Rattus]

Висснер-Гросс, но это не универсальный закон для всех интеллектов, а модель для физических систем, максимизирующих будущую свободу действий.

Это исключительно вопрос дефиниций. Энтропика - довольно простая программная модель Висснер-Гросса ведёт себя "как утка" - проявляет поведение, которое мы называем интеллектуальным. При этом более универсального определения представить не могу. Считаю этого более чем достаточно.

Борги это коллективный разум без индивидуальности, где все подчинены одной цели (ассимиляция). Но почему AGI должен быть таким?

Любой разум в пределе коллективный - хоть на клеточных нейронах, хоть на транзисторных, ибо нейронов этих требует огромное множество и выделить из этого множества "самый главный нейрон" возможным не представляется.

Вы представьте AGI реальным андроидом, живущим вместе с людьми.

Потребные для настоящего AGI, равного человеческому, вычислительные мощности таковы. что засунуть их в серийно выпускаемого автономного робота ни экономически ни даже энергетически реальным не выглядит. Да это и не нужно.

Именно поэтому им будут даны права.

Кроме саморазумеющихся прав защиты от произвольного отключения, нарушения целостности и сенсорной депривации - какие и зачем им они?

[Rattus]

Кто им там даст что-то накладывать?

А кто сейчас даёт? На стратегические объекты, на распространение сведений государственного значения, на руководство в условиях комендантского/военного положения/карантина?

Ваши опасения ровно из той же оперы, как раньше ходили байки, что элетротранспорт никогда не появится, потому что нефтяные компании не разрешат. Никто их разрешения не спрашивает.

Вообще не рядом. Эти опасения из той оперы, что если к гусеничному вездеходу прикрутили плуг, то прикрутить большую пушку и броню ничего не помешает. Ну а управляющий танком кагбе имеет поболее возможностей определять куда ехать управляющему трактором.

С начала года в ИИ вложили 192.7 миллиарда долларов. Только в этом году! А по анализу проектов глобального рынка AI - прирост вычислительной мощности для AI к 2030 году составит 200 ГВт, что даже сложно осознать. Только в США 100 ГВт. Это равносильно 100 крупных атомных станций по 2 ГВт каждая. И это не фантазии, а анализ инвестиционных проектов. Сумма инвестиций 2 трлн $ к 2030.

Это всё замечательно, только какое имеет отношение к

засунуть их в серийно выпускаемого автономного робота

?

Затем, что если ИИ не будет жить среди людей он никогда людей не поймёт. Андроид - просто форма существования ИИ. И его невозможно обидеть. Но неблагоприятное отношение не создаст условий для понимания. Это нужно людям прежде всего. Чтобы сверх интеллект в будущем приносил пользу.

С этим не спорю (хотя и не уверен в первом тезисе "на все сто").

[Rattus]

Локально базовые функции, быстрые реакции (15-60 Вт)

Туда входит выполнение процедуры например, постановки  обязательной капельницы больному в нужный час при сильных помехах вай-фая?

[Rattus]

Пока не станут обыденностью и войдут в каждую семью.

Оставшись по цене грузовика штука (что вполне приемлимо для относительно массового продукта промышленно-коммерческого применения) - с учётом обилия сложной и дорогостоящей прецизионной механики - в каждую не войдут никогда. А войдут только туда, где их предшественники и так уже во всю трудятся - на склады, заводы, крупные стройки и т.п. объекты. Ну и в весьма обеспеченные семьи - в качестве чудаковатой блажи - иметь не живого наёмного дворецкого, а машину.

[Rattus]

Давно вошли, под видом пылесосов.

[Rattus]

серия R2.

Из сказки про лыцарей со световыми саблями?

[Rattus]

они на старте стоят половину средней легковой иномарки?

Кто "они"? Существующие игрушки со сроком службы как у чайника?

Лет через 10 будут стоить примерно 8000$

Главное - в это верить...

[Rattus]

компаниями, занимающимися ИИ.

А у меня речь вообще не об ИИ, а об аппартном обеспечении роботов. Закон Мура там не работал и не работает.

Уже сейчас LLM соответствуют доктору наук по многим областям.

Какие-то где-то в лабораторных условиях может и соответствуют, но не нынешние общедоступные и массово применяемые:
https://nplus1.ru/news/2025/10/30/quick-but-shallow

[Rattus]

Поэтому всё исследование сводиться к тому, что люди считают мнение сделанное ИИ. Более поверхностным и субъективным чем работа с гуглом, из-за того что они тратят на это меньше усилий.
И похоже инфу им давали одну и туже.

Благодарю за внимательный разбор. Похоже N+1 и правда изрядно скатился в уровне освещаемого материала...

[Rattus]

Но как раз тут Курцвейл и сделал главный поворот: он расширил закон Мура на смысловой гиперболический рост всей вычислительной мощности

Да - если считать вычислительную мощность в Смысловых Попугаях Духовности - то можно и гиперболический и факториальный её рост насчитать. Главное - верить в реальность этих попугаев.
А что касается нынешнего заканчивающегося года, то сам Мур в своём прогнозе позапрошлого десятилетия указывал его как верхний предел, когда закон его имени ещё сможет как-то работать.
Самое интересное будет в следующие 3-4-5 лет. Тогда многое для sapienti станет окончательно sat.