Межзвездная война: как это могло бы быть.

[Rattus]

ИИ не нужен (да и невозможен)

ИИ не запрещён никаким физическим или техническим ограничением по двум очевиднейшим причинам:
1. ЕИ существует.
2. Специализированное устройство как правило ничто не мешает сделать эффективнее универсального.
Если не делать ИИ физически самовоспроизводящимся и независимым от инфраструктуры цивилизации, то ничто не мешает сделать его "умнее" ЕИ.

Будет оцифровка именно человеческого сознания (путем сперва киборгизации нейронов, а потом симбиоза с виртуальной средой) без всяких ИИ.

"Оцифровка" (конвертация) физического устройства на иную архитектуру, в отличие от прямого копирования внутри одной архитектуры требует полного знания ключевых механизмов исходного устройства и исходно по трудозатратам и по факту неотличимо от создания устройства сразу de novo. поэтому:

Переведенное на другой носитель сознание будет уже фактически ИИ. От просто ИИ оно будет отличаться лишь предисторией.....

- совершенно верно.
"Киборгизация нейронов" возможна только в очень ограниченном масштабе. Тогда как полная личность имеет молекулярное разрешение - по количеству и расположению рецепторов в синапсах. А неразрушающее сканирование на таком уровне невозможно - ни технически ни даже физически (поскольку на этом уровне уже в действие вступает квантовая механика - обычная, "тривиально-химическая"). Профессор физхимии, непосредственно занимающийся нанотехнологиями, Ричард Джонс это подробно объясняет:
http://www.softmachines.org/wordpress/wp-content/uploads/2016/01/Against_Transhumanism_1.0.pdf
Хотя он и заявляет о полной невозможности копирования личности, думаю, из простого коннектома достаточно высокого разрешения всё же можно извлечь немало глубоких биографических данных, которые потом можно просто натянуть как ручную куклу на универсальный ИИ. Но это будет именно что "ожившей фотографией", хотя, возможно, и неотличимой для родственников от оригинала. Если она способна воспринимать новые данные и меняться в соответствии с новыми данными, проходя тест Тьюринга, то такую нейросеть, разумеется, следует признать разумной.

Термин "мозг-матрешка" знаком? Вот он (или нечто подобное) и будет носителем оцифрованных сознаний в полностью виртуальной среде.

Разумеется знаком. Но такая мегаломания тут не обязательна (тем более, что её реализуемость тоже под очень большим сомнением) - возможно вычислительных ресурсов большого, но вполне земного ЦОДа для этих целей будет вполне достаточно.

[Рок]

 

Если не делать ИИ физически самовоспроизводящимся и независимым от инфраструктуры цивилизации, то ничто не мешает сделать его "умнее" ЕИ.

Чисто функционально - да. Но личностью  это не будет. Это будет тупой электронный блован с неимоверной скоростью вычислений, но без малейшего признака самосознания. Можно, конечно, программно эмулировать личность, но это будет именно эмуляция, а не личность в прямом смысле.
Поэтому "душой" сверхсложных компьютерных сетей будет именно оцифрованное человеческое сознание, взявшее от человека личность и самосознание, а от компьютера - скорость вычислений, объем памяти и т.д. Причем все эти оцифрованные сознания образуют мегасеть из миллиардов сознаний, пользующихся всеми вычислительными ресурсами Сети и всей информацией. Такой вот хаймвайнд.

"Киборгизация нейронов" возможна только в очень ограниченном масштабе

Поживем увидим.

Но такая мегаломания тут не обязательна

А я и не утверждаю, что должна быть такая мегаломания. Достаточно что б была достаточная скорость вычислений и энергия, ее обеспечивающая. А размер может быть и весьма компактным.

[Rattus]

Но личностью  это не будет.

"Личность" можно натянуть же - как перчатку. Причём, скорее всего, даже не одну.

Это будет тупой электронный блован с неимоверной скоростью вычислений

Для вычислений соответствующие сопроцессоры и так уже есть. Собственно ИИ будет моделироваться на подобных же - больше не на чем.

без малейшего признака самосознания

Самосознание - способность узнавать себя в зеркале и строить сложные высказывания про себя. Других ясных определений этого термина нет.
Что же касается просто способности к самостоятельной постановке задач ("эгоизму"), то это уже есть - с использованием нейросетей глубокого обучения и пр. сопутствующих подходов на простом базисе кибернетики - см. программу "Энтропика" Висснер-Гросса.

Можно, конечно, программно эмулировать личность, но это будет именно эмуляция, а не личность в прямом смысле.

Если что-то выглядит как утка, крякает как утка и плавает как утка, то скорее всего это - утка.
Никакого другого подхода на практике нет и быть не может. Все рассуждения о "реальной сущности" и "на самом деле" - есть пустое фаллософствование.
Прочитайте "Терминус" Станислава Лема, поиграйте в SOMA, чтобы увидеть наглядную модель того, о чём идёт речь.

Поживем увидим.

Для того, чтобы увидеть пределы прогресса в крупном масштабе теперь уже не надо чего-то ждать: известных законов физики (и химии - как её части) для этого вполне достаточно. Книги и статьи Р.Джонса - как раз такая экспертиза и есть. И она действительно очень серьёзная.

Достаточно что б была достаточная скорость вычислений и энергия, ее обеспечивающая.

В известном космосе концентрация свободной энергии гораздо меньше чем тут: там не то, что других источников кроме света толком не найти, там ещё и атмосферы/гидросферы для компактного и эффективного теплоотведения нет. Энергетически автономная машина одинаковой энергоёмкости тут и в космосе будет отличаться на порядки по размерам и, соответственно, количеству потребных материалов.

[noxx77]

Хотя он и заявляет о полной невозможности копирования личности, думаю, из простого коннектома достаточно высокого разрешения всё же можно извлечь немало глубоких биографических данных, которые потом можно просто натянуть как ручную куклу на универсальный ИИ.

Если учитывать, что при воспоминании мы каждый раз перезаписываем с аберрациями и сами меняемся с возрастом, к примеру, то это не критично. Просто запись должна быть длительной, съёмом сигнала. А это предполагает киборгизацию объекта.
Только сама система записи должна быть очень интеллектуальной, чтобы вытащить все вытеснения, причём без разрушения личности.
P.S. Бессмысленная затея. Человек слишком хаотичен и несовершенен. Не проще ли создать идеальный симулякр идеального гражданина? Заменяем обычных детей рободетьми потихоньку, в результате полностью, видом, переходим на другую основу с сохранением цивилизации.

[Рок]

Не проще ли создать идеальный симулякр идеального гражданина?

Зачем? Кому это нужно? Главная задача продлить до бесконечности жизнь сознания конкретного человека, а не плодить никому ненужные синтетические личности (кторые, скорее всего, и личностями -то в полном смысле не будут).

[Rattus]

Если учитывать, что при воспоминании мы каждый раз перезаписываем с аберрациями и сами меняемся с возрастом, к примеру, то это не критично.

Естественно, что на максимально отстраненном сферовакуумном уровне, что мы тут обсуждаем - ничто не критично. Это может быть критично для общественного уклада, который основан на дороговизне индивидуальной высокоразвитой личности.

А это предполагает киборгизацию объекта.

Не такую уж серьёзную.

Заменяем обычных детей рободетьми потихоньку

Как раз-таки не потихоньку, а сразу. И не детьми, а просто готовыми машинами. Что, в принципе, и так уже происходит с момента изобретения колеса и письменности. И, памятуя о вселенском принципе Председателя Шломо: "Нет ничего новго под солнцем" - следует указать, что ровно то же самое происходило 4,5 миллиарда (или даже  больше - если происходило не здесь) лет назад на молекулярном уровне: рибозимы заменялись специализированными, но гораздо более эффективными белковыми энзимами, а матричные РНК - пассивными, но гораздо более надёжными (и ёмкими) ДНК. Письменность и компьютеры - "ДНК" цивилизации, Машины и роботы - "ферменты" цивилизации. А хилые и глупые, но универсальные человеки - "РНК" в ней.
Роль человеков будет сужаться до небольшой прокладки между компутером и машиной, но совсем не исчезнет: даже не смотря на то, что во многих случаях эта прокладка не нужна, всё равно будут места, где использовать их полезнее, чем избавиться - как от симбиотических бактерий в толстом кишечнике.
Изобретение же ИИ окончательно и автоматически закончит эру диктатуры гуманизма в Прекрасном Новом Мире. Может быть он просто выведет расу низкоинтеллектуальных слуг (как субоиды тлейлаксов в "Дюне"), которые не доставят особых проблем и будут тихо делать что нужно. Сейчас же для этого приходится использовать телевизор.
В свиду простых масскульт-игрушках типа Quake 4 роль бледнотиков показана весьма точно на самом деле: не будет никакого "транс-" - только ПОСТгуманизм, известный также под названием "технофашизм".
И это замечательно.

Главная задача продлить до бесконечности жизнь сознания конкретного человека

Нет такой задачи кроме как у небольшой кучки трясущихся от страха смерти более-менее обеспеченных особей.

[noxx77]

Если что-то выглядит как утка, крякает как утка и плавает как утка, то скорее всего это - утка.

Боюсь, оно при этом должно ещё и нести яйца из которых можно вывести утят и быть по вкусу как утка. Иначе это дефектная утка или модель.

[noxx77]

Зачем? Кому это нужно? Главная задача продлить до бесконечности жизнь сознания конкретного человека, а не плодить никому ненужные синтетические личности (кторые, скорее всего, и личностями -то в полном смысле не будут).

Это два вопроса. Идеальный гражданин - "понимающий андроид" нужен изначально как полноценная замена человека в сложных обстоятельствах, вроде опасных для жизни аварий или исследования других миров с задержкой связи. Он будет принимать решения как человек. Или робот-сиделка. На худой конец продвинутый секс-бот. Вам вот никогда не хотелось владеть совершенством?
О личном бессмертии. Нахрена??? Я об этой перспективе с тихим ужасом думаю. Во мне и так слишком много прошлого. В какой-то момент мы становимся чуждыми даже себе прежним, воспринимая память как уже не своё. Примерно так же как "свою" Родину и "свою" футбольную команду. Это вопрос идентичности. Или мы застреваем в прошлом, становясь живым анахронизмом. Мы общаемся как инсайдеры в своей возрастной категории, для детей уже близкие чужаки. Для внуков что-то вроде инопланетян и легенды. Лет 80 активной жизни мне бы за глаза хватило. 120 - норм.

[noxx77]

Это может быть критично для общественного уклада, который основан на дороговизне индивидуальной высокоразвитой личности.

Значит стоит поставить вопрос о повышении производительности воспроизводственного труда, думаю. И труда самой личности, освобождая от издержек на тупость окружающих и уклада.
А так мы сначала производим личность, потом - её техноклона. Непонятный огород городим.

[viesis]

Не "перейдёт", а будет создано в виде ИИ.

ИИ не нужен (да и невозможен). Будет оцифровка именно человеческого сознания (путем сперва киборгизации нейронов, а потом симбиоза с виртуальной средой) без всяких ИИ. А компьютеры будут лишь придатком к человеку, вернее пост-человеку.

А чего там, собственно говоря, оцифровывать? Вся человеческая память, наверно, занимает
порядка Гбит.

[Рок]

Это два вопроса. Идеальный гражданин - "понимающий андроид" нужен изначально как полноценная замена человека в сложных обстоятельствах, вроде опасных для жизни аварий или исследования других миров с задержкой связи.

Зачем? Если можно в сложных ситуациях дистанционно управлять обычным роботом. Сознание оператора как-бы "вселяется" в робота (ага, автара ), подключившись через Сеть.

На худой конец продвинутый секс-бот. Вам вот никогда не хотелось владеть совершенством?

Если есть виртуальная реальность, на  сто процентов имитирующая реальность, можно создать любого виртуального секс-бота, хоть хентайного монстра, хоть кого-то ангелоподобного. Зачем тогда андроиды?

Лет 80 активной жизни мне бы за глаза хватило. 120 - норм.

Ну лично мне и миллионов лет активной жизни было бы мало.
 Но речь не о том. А о том, что когда перекатится размножение (а на стадии киборгизации моза и перехода в виртуальность оно прекратится), уже через несколько столетий все станут Мафусаилами и упомянутая Вами "проблема поколений" просто исчезнет.

Нет такой задачи кроме как у небольшой кучки трясущихся от страха смерти более-менее обеспеченных особей.

Есть. Бессмертия давняя и всеобщая мечта человечества. Потому и навыдумывали религий и загробных миров, а каста всяческих жрецов до сих пор имеет профит с человеческого стремления к бессмертию.

[Рок]

А чего там, собственно говоря, оцифровывать? Вся человеческая память, наверно, занимает
порядка Гбит.

Вопрос не только в памяти, а и  в цифровом моделировании работы конкретного мозга. Память, это еще не личность.

[noxx77]

Не такую уж серьёзную

Пока это недоступно. Не получилось бы как с термоядом.

Как раз-таки не потихоньку, а сразу. И не детьми, а просто готовыми машинами. Что, в принципе, и так уже происходит с момента изобретения колеса и письменности.

Постепенности внедрения машин никто не отменял, да и создаются они для людей. Чтобы впитать корпус знания цивилизации в адекватном понимании, машина должна стать человеком. Пусть немного чужаком, но не больше, чем иностранец или аспергер. Эта притирка друг к другу естественна. Роболюди станут глазами ИР в человеческий мир, поскольку они способны видеть человеческое. Сам же ИР ксенологичен.

Может быть он просто выведет расу низкоинтеллектуальных слуг (как субоиды тлейлаксов в "Дюне"), которые не доставят особых проблем и будут тихо делать что нужно.

Задам любимый сакраментальный вопрос: "зачем огород городить?" Растить дебила лет 10 для выполнения функций, с которыми справится серийный андроид? Не стоит потраченной энергии. Как раз человек выгоден как поставщик сложности. Помещаем в комфортабельный хомопарк с интенсивно развивающей средой, а затеи нанимаем его как преданного гения-специалиста, способного дать немашинный взгляд на проблему в силу своей дикой природной креативности, развитой до максимума. В этом есть хоть какая-то полезность. Я за мягкую технодиктатуру ультрагуманизма. Машина нас просто ассимилирует нам и себе во благо. Разумеется, тех, кто достоин высокой миссии служить ЕЙ. Остальные мирно доживут до естественного конца, выпилившись из истории.

Если есть виртуальная реальность, на  сто процентов имитирующая реальность, можно создать любого виртуального секс-бота, хоть хентайного монстра, хоть кого-то ангелоподобного. Зачем тогда андроиды?

Тоже вариант, но в жизни интереснее. Особенно, если андроид разумный) Хотя, Вы меня озадачили. Представил андроида с тентаклями... Ужас :/

Зачем? Если можно в сложных ситуациях дистанционно управлять обычным роботом. Сознание оператора как-бы "вселяется" в робота (ага, автара  ), подключившись через Сеть.

Ага, с лагами в часы, а то и годы или банальным отсутствием связи аватар Вам не сильно поможет.

[viesis]

А чего там, собственно говоря, оцифровывать? Вся человеческая память, наверно, занимает
порядка Гбит.

Вопрос не только в памяти, а и  в цифровом моделировании работы конкретного мозга. Память, это еще не личность.

А чего моделировать? Несколько запретов и порогов срабатывания.

[Kaiserfrogling]

Ну лично мне и миллионов лет активной жизни было бы мало.

При условии что по мере пополнения вашего разума жизненным опытом соответственно рос ваш RAM и CPU.
Без этого условия потолок развития может наступить очень быстро.

[Rattus]

Боюсь, оно при этом должно ещё и нести яйца из которых можно вывести утят и быть по вкусу как утка. Иначе это дефектная утка или модель.

Эт само собой, но мы о функциях как раз и говорим.

О личном бессмертии. Нахрена??? Я об этой перспективе с тихим ужасом думаю. Во мне и так слишком много прошлого. В какой-то момент мы становимся чуждыми даже себе прежним, воспринимая память как уже не своё. Примерно так же как "свою" Родину и "свою" футбольную команду. Это вопрос идентичности. Или мы застреваем в прошлом, становясь живым анахронизмом. Мы общаемся как инсайдеры в своей возрастной категории, для детей уже близкие чужаки. Для внуков что-то вроде инопланетян и легенды. Лет 80 активной жизни мне бы за глаза хватило. 120 - норм.

Тут можно не беспокоиться - его тоже не будет. И тоже по чисто статфизическим причинам ("no system is safe"), а по остальному тоже изложил в таком же примерно ключе в этой теме:  https://astronomy.ru/forum/index.php/topic,27594.msg3706160.html#msg3706160
https://astronomy.ru/forum/index.php/topic,27594.msg3708155.html#msg3708155

Значит стоит поставить вопрос о повышении производительности воспроизводственного труда, думаю.

Учить-то новый организм по-любому два десятка лет придётся, чтобы он полезнее лошади стал.

А так мы сначала производим личность, потом - её техноклона. Непонятный огород городим.

О том и речь - что "скрипач"(личность), оказывается совершенно "не нужен", когда можно сходу запилить ИИ с нужными настройками: когда опубликована статья, лабораторный журнал с сырыми данными уже вряд ли понадобится. А личность - и есть такой журнал по сути, забитый кучей ненужных даже самому нносителю воспоминаний, которые, тем не менее, и делают его тем, что он есть (ибо "хард" и "софт" в мозге - практически не разделимы).

Вся человеческая память, наверно, занимает
порядка Гбит.

В том виде, в котором она там лежит - гораздо больше.
Хотя полезного для других вряд ли больше терабайта наберётся - и всё это носитель прекрасно может изложить сам - в виде так называемых "текстов", "рисунков" и "изделий".

Если можно в сложных ситуациях дистанционно управлять обычным роботом. Сознание оператора как-бы "вселяется" в робота (ага, автара ), подключившись через Сеть.

Если эти ситуации - не дальше термосферы. Уже до Луны пинг - 2,4 секунды. Ни о каком реалтайме тут и речи быть не может. А уж о межзвездных экспедициях и говорить нечего.

Бессмертия давняя и всеобщая мечта человечества. Потому и навыдумывали религий и загробных миров

Много чего навыдумывали: философские камни, например. Но почему-то ядерные реакторы строят отнюдь не для получения золота.

а каста всяческих жрецов до сих пор имеет профит с человеческого стремления к бессмертию.

С человечьей глупости и необразованности она профит имеет. Те формы религий, который теологи создали для внутреннего употребления (гностицизм,  каббала, суфизм), никакого профита дать неспособны, поскольку массам либо непонятны, либо неприятны - а обычно и то и другое. Либо же порождают настолько деструктивное миропонимание у адептов, что оно быстро объявляется ересью ради вящей социальной стабильности.

Пока это недоступно. Не получилось бы как с термоядом.

Ну, пока достижения нейробиологии обнадёживают, что наш Богатый Унутренний Мiр может оказаться не так уж богатЪ, чтобы его нельзя было смоделировать с приемлемым для нас же разрешением.

да и создаются они для людей

Пока люди воспроизводятся автономно. И во всех абсолютно инфраструктурных производственных циклах они - ключевое звено. Социальную надстройку всегда определяет экономический базис.

Растить дебила лет 10 для выполнения функций, с которыми справится серийный андроид? Не стоит потраченной энергии.

На китайской фабрике Foxconn до последнего времени было ровно наоборот. И если бы человекоособи вдруг не подорожали - так бы и было дальше.

Как раз человек выгоден как поставщик сложности.

Их много не нужно. Информационная революция сократила куда больше среднеквалифицированных специалистов (счетчиц, чертежниц), чем низкоквалифицированных (уборщиц, продавщиц, грузчиков): формализовать труд уборщицы оказалось на порядки сложнее и заменить - дороже, чем труд среднего инженерио.
А с исчерпанием фундаментальной науки, дальнейшей отладкой инженерных систем и прекращением роста населения (и потребности в расширении производства) - ещё меньше понадобится.

При условии что по мере пополнения вашего разума жизненным опытом соответственно рос ваш RAM и CPU.

Ага - до тех пор, пока частота не упрётся в предел Ландауэра, длина межсоединений - в скорость света, интерфейс теплоотведения - в закон Веста-Энквиста-Брауна, а польза от распараллеливания - в предел Амдала. И до них, поверьте, не так уж далеко осталось. Особенно если и принять во внимание ещё и пределы, поставленные теорией химической связи.

[Rattus]

Те, кто занимаются практическим изучением человеческой психики, знают, что в человеке имеется некий "седьмой элемент", который является явной или неявной причиной всех действий человека за исключением физиологических реакций.

Это всё замечательно, но Мы не претендую на столь высокое знание. Нам бы хотя бы узнать: какие остальные шесть?

[noxx77]

Учить-то новый организм по-любому два десятка лет придётся, чтобы он полезнее лошади стал.

Ессно. Но по идее, куда торопиться. ))

Пока люди воспроизводятся автономно. И во всех абсолютно инфраструктурных производственных циклах они - ключевое звено. Социальную надстройку всегда определяет экономический базис.

И ещё долго будут, скорее всего.

Их много не нужно. Информационная революция сократила куда больше среднеквалифицированных специалистов (счетчиц, чертежниц), чем низкоквалифицированных (уборщиц, продавщиц, грузчиков): формализовать труд уборщицы оказалось на порядки сложнее и заменить - дороже, чем труд среднего инженерио.
А с исчерпанием фундаментальной науки, дальнейшей отладкой инженерных систем и прекращением роста населения (и потребности в расширении производства) - ещё меньше понадобится.

Согласен. Именно это и заключено в слове "хомопарк"

На китайской фабрике Foxconn до последнего времени было ровно наоборот. И если бы человекоособи вдруг не подорожали - так бы и было дальше

Это потому, что пока человека получаем за копейки и биоресурс копеечный. Да и инерция сказывается. Плюс асимметрия цен - бизнес-решения на рынке стоят дороже потребительских, как правило. ИРу придётся много роботехники для себя производить.

[Проходящий Кот]

Те, кто занимаются практическим изучением человеческой психики, знают, что в человеке имеется некий "седьмой элемент", который является явной или неявной причиной всех действий человека за исключением физиологических реакций.

И к чему этот элемент?
Ведь это душа?
так бы сразу и писали.

[Инопланетянин]

Это эмоции и чувства. Да-да, так банально, поэтому умниками совершенно не учитывается. Однако практически невозможно вообразить себе ситуацию, в которой человек бы находился без эмоциональной окраски.

А что, эмоции и чувства невозможно эмулировать? Да и с чего вы взяли, что уважаемые специалисты про них забывают? Вы один умный, а у всех остальных неврозы со слабоумием?