A A A A Автор Тема: Посттехносингулярный мир и искусственный суперинтеллект: как он будет выглядеть?  (Прочитано 43617 раз)

0 Пользователей и 1 Гость просматривают эту тему.

Оффлайн MenFrame

  • *****
  • Сообщений: 8 603
  • Благодарностей: 204
  • Мне нравится этот форум!
    • Сообщения от MenFrame
Нет, нет никаких гарантий что это даже правильная архитектура технического решения проблемы элайнмента.
Нет, не каких гарантий что ИНТЕЛЛЕКТ, поможет в рамках задачи выживания человечества. Но лично я считаю, рассчитывать на что то иное еще более опрометчиво.
На мой взгляд самый главный враг человечества, это человеческая глупость и противопоставить ей можно только интеллект.
Наука есть организованный скептицизм в достоверности экспертного мнения.  Ричард Фейнман
Свобода, есть форма ответственности за необходимую глупость. (не помню кто сказал)

Оффлайн Rattus

  • Модератор
  • *****
  • Сообщений: 15 848
  • Благодарностей: 608
  • Души прекрасные порывы! Убеждённый Ωптимистъ
    • Сообщения от Rattus
Эволюция в биологии подчинена естественному отбору, но это не единственная форма отбора
Ну да - есть ещё половой отбор у эукариот. И отбор симбионтами в случае коэволюции (когда симбионтом выступает человек, отбор он сам называет "искусственным").
Когда система выходит за пределы биосферы
Она лишается способности к воспроизведению. Иное не показано.
отбор по сложности и сохранению связей.
Нет такого отбора. Существует общая тенденция к усложнению в ряде форм, возникающая вследствие глобальной незамкнутости цикла Дарвина-Эйгена и превращении его вследствие этого в спираль усложняющихся структур. Но это не тотальный закон, а только некоторая общая тенденция, которая имеет вполне реальные физические пределы.
Это наблюдаемый устойчивый феномен. На масштабе цивилизации уже виден сдвиг: паразитизм постепенно уступает место взаимовыгодной кооперации
На каком-каком масштабе? Последних пары сотен (да хоть и тысяч) лет? О да - это конечно МасштабЪ!
Недавно для наглядного объяснения временных масштабов событий в истории цивилизации для жены, разметил их на листе в клетку. Так вот - если принять одну клетку за десятилетие, то одного одинарного тетрадного листочка хватает чтобы разместить на нём весь Голоцен со всей его историей от самого начала Неолита.
А вот если бы биологию изначально настраивало разумное существо под себя, так чтобы потом последующие итерации видов шли в нужном ему направлении - это был бы совершенно другой случай, не так ли?
Вот совсем в этом не уверен. В основе что биологической эволюции, что так называемого "разумного дизайна" лежит один дарвиновский механизм. (Что признали уже давно, например, даже поэты: "Когда-б вы знали, из какого сора, растут стихи..." А успешное (во всех смыслах) применение эволюционных алгоритмов для решения сложных научных задач типа химического моделирования стало по сути признанием этого факта в естественных науках. И те же нейросетевые подходы имеют в своей основе по сути ту же основу итеративного статистического отбора рабочих моделей и алгоритмов из случайно-хаотичного исходного набора. Разве что число контуров отбора может различаться в разных случаях.
Ну и чем более глубоко изучаешь решения живой природы, тем более складывается впечатление, что в своей основе они - весьма рационально организованы by design, а видимые на первый взгляд инженерные "огрехи" при ближайшем рассмотрении зачастую оказываются вполне объяснимы теми или иными объективными технологическими ограничениями. Поэтому споры "креационистов" и "эволюционистов" фундаментально бессодержательны.
А у вас такого нету, и поэтому сказать вы не можете, да?
Это прежде всего не относится к тематике данного раздела Астрофорума.
А мы закладываем этику и гуманизм - в "гены" наших ИИ.
А те, кто закладывает только адаптивность - получает более эффективный ИИ, который побеждает в конкуренции ИИ со всякими специфичными и не очень рациональными "закладками".
Сейчас дорого, но это вопрос технологической фазы.
Сейчас "технологическая фаза" УЖЕ успешного полувекового существования нейрохирургии, трансплантологии и множества других сложных и высокотехнологичных отраслей медицины, а далеко не XIX век, на минуточку.
Когда вы говорите, что они останутся медициной, вы как человек 19 века, утверждающий, что электричество нужно только врачам для стимуляции мышц.
Вот только сейчас - уже далеко не XIX век. Современные  нейрохирургия и трансплантология существуют ничуть не меньше чем полупроводниковая электроника. Но никаких "законов Мура" в них как не было так и нет. И не особо предвидится, к слову.
 
Инвазивность вопрос времени и фазового перехода технологий. Когда стоимость нейроинтерфейсов упадёт, биосфера и техносфера просто сольются.
Неинвазивные интерфейсы никогда не смогут достичь требуемого уровня точности ввиду неустранимого уровня зашумления сигнала. А доступность инвазивных - это всегда прежде всего вопрос медицинского риска.
Одноразовые шприцы и капельницы давно стоят копейки. Но почему-то кроме как для конкретных лечебных процедур их применяют разве что опиатные наркоманы. И почему же тогда "биохакинг" не распространяется как, например, увлечение Линуксом - всякий уже давно может себе набодяжить всяких геропротекторов с ноотропами и пускать по вене по три раза на дню. Но кроме вышеупомянутых наркоманов и нескольких не менее упоротых фриков дело как-то не идёт. За чем дело-то стало, м?
Но формы отбора эволюционируют.
Однако естественный отбор всегда и везде остаётся финальным судьёй. Дополнительные контуры (половой, "искусственный дизайн") позволяют разве что оптимизировать его отходы.

ASI будет отбирать не тех, кто выживает, а те модели взаимодействия, которые минимизируют энтропию среды.
ЩИТО? Какой среды? Внешней? Любая сложная машина при своей работе ВСЕГДА ТОЛЬКО повышает энтропию внешней среды - ну хотя бы самым прямым и наглядным образом - выделяя и рассеивая тепло. Живые системы стремятся поддерживать неувеличение энтропии среды внутренней только по одной причине - только в этом случае в ней могут протекать ключевые жизнеобеспечивающие процессы (например копирования и реализации наследственной информации). И ровно настолько, насколько это необходимо для данной цели.
В этом смысле борьба не цель, а рудимент.
Как совершеннно верно выше уже отметил MenFrame - борьба это только лишь прямое следствие существования конкуренции. И никаким рудиментом она стать не сможет, покуда живые самовоспроизводящиеся системы реализуют свои ключевые функции, благодаря которым они и называются живыми. Самовоспроизведение (бэкап) - есть единственный способ долговременного сохранения информации. Копии самовоспроизводящихся автоматов неизбежно рано или поздно начнут конкурировать за ресурсы. Дальнейшее развитие событий определяется дарвиновским механизмом.
Это в сущности универсальный физический принцип существования любой вообще самовоспроизвдящейся информационной системы (то есть жизни) независимо от её конкретной архитектуры.
Замечательные стихи! очень понравилось
Да. Только с возрастом приходит понимание, что лучшие произведения для детей (сказки, стихи) - зачастую лучшие образцы художественного творчества вообще.
Вы хотите, все хотят стать такой лошадкой. Потому что сейчас вы забитая плёткой, голодная, тяжело работающая больная и скоро вынужденная умереть лошадка.
Персонально в.п.с. в данный момент совершенно не забитая, вполне накормленная (хотя и без каких-то особых припасов в хлеву), совсем не тяжело работающая и более чем соматически здоровая для своих лет лошадка. И именно понимание, что больше доить и меньше кормить тут ещё очень даже есть куда как раз и даёт полное осознание того, что более эффективный фермер эту оптимизацию непременно бы осуществил. И что этого вряд ли удастся избежать в любом случае: хоть по пришествию тотального контроля ASI, хоть по причине банального сокращения доступных ресурсов и ужатия экономики.
Разве что в первом случае будет радовать тот факт, что количество мартышкиного труда в мире ASI будет стремиться к нулю, как и количество соплеменников, которые смогут избежать необходимости работать столько же за то же количество выдаваемых благ.
Кстати - что касается здорового долголетия - глобальному Председателю A-SI так будет вполне выгодно обеспечить его своим лошадкам - просто потому что это сокращает затраты на выращивание новых работников. Кстати именно это по сути и стало реальной объективной причиной развития социальных гарантий в индустриальной цивилизации и прочего "торжества гуманизма" - а всякая там "борьба трудящихся за свои права" - лишь внешние проявления переходного этапа.
Так что
потенциальное бессмертие
в этом случае будет скорее как в этом классическом произведении. ::)

Это та же эволюция, только на другом носителе.
Механизм дарвиновской эволюции работает независимо от носителя, что уже тоже совершенно верно указал MenFrame. Когда Ч.Дарвин его открывал, никто ничего не знал о носителе наследственной информации живых организмов.
Про отбор по сложности и связности писал Курцвейл, Лэмперт, Кауфман и Пригожин это развитие идей нелинейной термодинамики и самоорганизующихся систем. Там устойчивость возникает не из борьбы, а из способности системы сохранять потоки информации и энергии при росте сложности. Если коротко, выживает не тот, кто сильнее, а тот, кто лучше держит связность сети. Условно говоря, раньше выживали зубастые, теперь интегрированные.
А зубастые-интегрированные в большого Зубастика выживают ещё лучше. Всегда.
https://en.wikipedia.org/wiki/Red_imported_fire_ant

биологическим примерам эволюции, в которым ясно видно что ранние структуры получают приоритет над поздними.
ЩИТО? Каким-каким примерам?

Сейчас самое плохое время в истории человечества, чтобы устраивать некооперативные игры с отрицательной суммой, в которые сейчас играет планета.
Наверное облигатно-анаэробные прокариоты могли бы писать что-то подобное накануне великого кислородного события (примерно 2 миллиарда лет назад), обращаясь к цианобактериям, затеявшим сбрасывать возбуждённый светом электрон на молекулу воды. Если бы они умели и могли. ::)
Тому, кто жаждет всех запретных тайн Астрофорума в одном месте поможет число 1919.

Ннапыльн%х тpапинкахъ далиокихъ плонеттъ астануцца нашшы погадкиъ! (ЙожЪ, SKL)
Скоро у людей закончится космос. (П.Лемтыбож - "Теоремы Пафнуция")
Я брала города, я стану - еда! (Серебряная Свадьба - "Пищевая цепочка")
Уранизация естественным образом снижает численность человечества (Вика Воробьёва, ВЖР, 30.10.2012)

Оффлайн MenFrame

  • *****
  • Сообщений: 8 603
  • Благодарностей: 204
  • Мне нравится этот форум!
    • Сообщения от MenFrame
ЩИТО? Каким-каким примерам?
Примерами консервативности более древних структур, к которым новые структуры приспосабливаются...
Как то...
Потому неокортекс за время эволюции на земле так и не обрел свою личную волю, и неплохо пользуется волей лимбической системы, несмотря на то что то и другое кодируется эгоистичными генами. Потому историю симбиоза разорвать непросто.
Наука есть организованный скептицизм в достоверности экспертного мнения.  Ричард Фейнман
Свобода, есть форма ответственности за необходимую глупость. (не помню кто сказал)

Оффлайн Polnoch КсюАвтор темы

  • *****
  • Сообщений: 10 076
  • Благодарностей: 412
    • Сообщения от Polnoch Ксю
Ксю, такой вопрос и с такими амбициями задают тому, кто принимает хоть какие-то решения. И тот кто задаёт такой вопрос - тоже должен что-то решать. Иначе это просто какой-то пафос.
Я понимаю ваше искреннее негодование, но давайте всё-таки ехать в поезде, а не делать вид, что мы им управляем и несем какую-то ответственность, ладно? Давайте обсуждать и смотреть в окошко. А не рулить бубликом перед собой, делая вид что это штурвал)))
Вообще я это писала не для Вас, а для тех, кто считает, что ASI не опасен, так как человеческая воля и так далее - этот сет аргументов. Ну и мне кажется, сперва нужно переубедить хоть кого-то, а уже потом принимающих решения.
Наверное, нужно было разделить пост на две части. Извините, что запутала, но вторая часть поста была ответом @MenFrame 
Meade LightBridge12"
RC8¨и МАК5"Альтер М500 на AZ4, Celestron SLT, Ioptron ZEQ25
БГШ 2.3x40 и Steiner Marine 7x50
ES82°:4.7mm,30mm
ES100°:9mm,14mm,20mm
ES68°:40mm
Meade Plossl 56mm; Vixen NLV 6mm
2" Lumicon, 1,25" DeepSky: UHC and OIII
---
qhy5
Ioptron SkyTracker
Canon50d

Оффлайн Rattus

  • Модератор
  • *****
  • Сообщений: 15 848
  • Благодарностей: 608
  • Души прекрасные порывы! Убеждённый Ωптимистъ
    • Сообщения от Rattus
Примерами консервативности более древних структур, к которым новые структуры приспосабливаются...
Кхм, видите ли в чём дело, эволюционное учение со времён Э.Геккеля несколько изменилось.
Потому неокортекс за время эволюции на земле так и не обрел свою личную волю, и неплохо пользуется волей лимбической системы
А Карл Саган к нему вообще отношения не имел.
Тому, кто жаждет всех запретных тайн Астрофорума в одном месте поможет число 1919.

Ннапыльн%х тpапинкахъ далиокихъ плонеттъ астануцца нашшы погадкиъ! (ЙожЪ, SKL)
Скоро у людей закончится космос. (П.Лемтыбож - "Теоремы Пафнуция")
Я брала города, я стану - еда! (Серебряная Свадьба - "Пищевая цепочка")
Уранизация естественным образом снижает численность человечества (Вика Воробьёва, ВЖР, 30.10.2012)

Оффлайн MenFrame

  • *****
  • Сообщений: 8 603
  • Благодарностей: 204
  • Мне нравится этот форум!
    • Сообщения от MenFrame
Кхм, видите ли в чём дело, эволюционное учение со времён Э.Геккеля несколько изменилось.
И.... какое это имеет отношение к конкретному примеру консервативности на который я указал?
Наука есть организованный скептицизм в достоверности экспертного мнения.  Ричард Фейнман
Свобода, есть форма ответственности за необходимую глупость. (не помню кто сказал)

Оффлайн Olweg

  • *****
  • Сообщений: 17 111
  • Благодарностей: 455
    • Сообщения от Olweg
По последней ссылки как-то фактуры маловато. Автор начинает с утверждения, что теория триединого мозга в корне неверна, а потом зачем-то объясняет, как работает анализ зрительного сигнала (не упоминая при этом почему-то таламус). Мне, например, понятнее от этого объяснения не стало.

То, что кора есть и у рыб, в общем, не противоречит упрощённому разделению «древний»-«новый» мозг.  Хотя бы потому, что у птиц за высшее мозговые процессы отвечает не кора. Из этого следует, что у общего предка птиц и млеков, жившего где-то в карбоне, высших мозговых процессов не было вовсе! Раз уж зоны мозга, отвечающие за них, развивались потом у архозавров и синапсидов настолько по-разному.
Планеты других звёзд. История открытий
http://allplanets.ru/history_Olweg.htm