Технологическая сингулярность истории и "постсингулярная" цивилизация

[Юрий_К]

   Ведь это же роботы, т.е. обыкновенные компьютеры, заранее запрограммированные. Ну может, более сложные, чем теперешние агрегаты. Однако ни о каких эмоциях или абстрактном мышлении не может быть и речи.

Вы отрицаете саму возможность искуственного разума? Вы ведь понимаете что разум это качественный скачок по сравнению с детерминированной машиной любой сложности. А какова физическая база разума-органическая или нео- дело второе.

[ivanij]

  В такой форме - ДА отрицаю возможность искусственного разума. Но искусственный разум возможен как продукт дальнейшей эволюции живых существ (не только человека). Такой прогноз в давал когда-то Азимов. Такое понятие обыгрывалось НФ-литературе (но не только в беллетристике, но и у Ст.Лема в Сумме Технологии) как СИГОМ или КИБОРГ. НЕ просто гипотетическое чудовище вроде Франкенштейна, но как следующая ступень биологической эволюции, когда инженерные решения сольются с совершенствованием биологической организации живого существа. 

[self-subject]

С середины 20го века человечество едва вступив в научную эру вошло в фазу торможения прогресса.

1. Для непрерывного развития необходимо непрерывное наращивание ресурсов а значит неизбежное распространение в Космосе; альтернатива – стагнация, деградация, гибель.
2. Встреча с другой цивилизацией может привести как к конкуренции за ресурсы, так и к симбиозу на основе объединения информационных ресурсов и разделения направлений исследований.
3. Создание разумных способных к развитию роботов как помощников в исследованиях было бы последней ошибкой человечества, которая неизбежно привела бы к замене человеческой расы расой этих роботов.

Достаточно типично и развёрнуто.
Я пытался углубиться в вашу историю. Заметил - в последние пару тысяч лет вас преследует  призрак апокалипсиса. Точнее, вы сами его себе придумали. Потому что, как только наступал ранее обозначенный час «Ч» - ничего особенно существенного не случалось.  Создаётся впечатление, что вас это угнетает.
Если диагностировать эту проблему,  то она свидетельствует о некой неуверенности вас в собственных взглядах на окружающий мир. С одной стороны,  вы доказываете себе, что возникновение   цивилизации  более закономерно, чем случайно. С другой, - ни кого вокруг себя не обнаруживаете.  С одной стороны, вы видите некую целесообразность в развитии окружающего мира. С другой, - ничем кроме  привлечения некого нематериального (божественного) начала  объяснить происходящее не можете.
Я не собираюсь излагать наши взгляды на происходящее. Путь познания у каждого свой.  Корректировка  ваших взглядов на окружающий мир становится достаточно очевидной. Всё на самом деле гораздо сложнее и запутаннее. И одни вы и не вы первые проходите через это.
По поводу роботов и прочее. Никогда не было такой проблемы. Робототехника у нас в конечном  случае переросла в проблему создания саморазвивающяхся  материальных систем (СМС) (Использую близкую вам терминологию). Основная сложность здесь - создать мощную систему при минимальном размере носителя генотипа. Конкретный пример, - та метагалактика, в которой вы существуете.  Принципиально, ничем не отличается от вашего автомобиля, и чего-то подобного, - также управляема. Только в нашу систему заложен механизм саморазвития.
По поводу встречи с другой цивилизацией. По-моему нет никаких проблем. Я живу нормально, не причиняю вам особых неудобств, по крайней мере стараюсь. Да и вы, в основном, своими проблемами заняты. По поводу конкуренции, - это очень различные масштабы. Вы же всерьёз не конкурируете с племенем на берегах Амазонки. А тут разница ещё большая.  А кого-то другого, вы не встретите. Так заложено в систему. Она должна быть управляемой. Руль у автомобиля должен быть один.
И по последнему третьему выводу. Создание человека (более точно self-subject) заложено в генотип СМС. Также заложен режим поддержания.
Так-что всё разрешимо. Надо не зацикливаясь идти вперёд.

[Юрий_К]

  В такой форме - ДА отрицаю возможность искусственного разума.

А можно спросить почему?  Так как:
1.Ведь разум возможен(мы им обладаем)
2.Никто не  доказал что разум возможен только на химических машинах(в нашем случае живая клетка), и невозможен на неорганических устройствах...
На чем основывается ваша убежденность?

[ivanij]

  В такой форме - ДА отрицаю возможность искусственного разума.

А можно спросить почему?  Так как:
1.Ведь разум возможен(мы им обладаем)
2.Никто не  доказал что разум возможен только на химических машинах(в нашем случае живая клетка), и невозможен на неорганических устройствах...
На чем основывается ваша убежденность?

 Не вполне понимаю, как можно создать искусственно или искусственно приучить робота к абстрактному мышлению. К созданию новой информации на основе уже имеющейся. Ну и к эмоциям.

[Юрий_К]

  В такой форме - ДА отрицаю возможность искусственного разума.

А можно спросить почему?  Так как:
1.Ведь разум возможен(мы им обладаем)
2.Никто не  доказал что разум возможен только на химических машинах(в нашем случае живая клетка), и невозможен на неорганических устройствах...
На чем основывается ваша убежденность?

 Не вполне понимаю, как можно создать искусственно или искусственно приучить робота к абстрактному мышлению. К созданию новой информации на основе уже имеющейся. Ну и к эмоциям.

А из-за чего человек умеет абстрактно думать, или просто думать, понимаете? Если нет, тогда как можно понимать возможность или невозможность создания ИИ? Это тема крайне сложная, возможно сложнее ее просто нет. Почитайте Пенроуза "Новый ум короля" . Он противник ИИ. С другой стороны почитайте Хафштадтера-он сторонник ИИ. У нас(в смысле в инете) есть товарищ изучающий, по мере возможности, возможность создания  ИИ. Это Александр Семенов. Вот его сайт
http://alex-semenov.livejournal.com/

[ivanij]

  А из-за чего человек умеет абстрактно думать, или просто думать, понимаете? Если нет, тогда как можно понимать возможность или невозможность создания ИИ? Это тема крайне сложная, возможно сложнее ее просто нет.

  Конечно, нет! Потому так и пишу. Готов выслушать, как это понимаете вы. По ссылке прошёл и увидел, что речь (кроме всего прочего) идёт о тесте Тьюринга. Вспомнил, что читал об этом у Лема в Сумме технологии. Ст.Лем, помнится, отвечает отрицательно на поставленный вопрос о мышленни машины.

[Юрий_К]

  А из-за чего человек умеет абстрактно думать, или просто думать, понимаете? Если нет, тогда как можно понимать возможность или невозможность создания ИИ? Это тема крайне сложная, возможно сложнее ее просто нет.

  Конечно, нет! Потому так и пишу. Готов выслушать, как это понимаете вы. По ссылке прошёл и увидел, что речь (кроме всего прочего) идёт о тесте Тьюринга. Вспомнил, что читал об этом у Лема в Сумме технологии. Ст.Лем, помнится, отвечает отрицательно на поставленный вопрос о мышленни машины.

Я лично считаю, что наш разум это что-то типа вероятностной,  детерминированной машины работающей на биологическом вычислителе-мозге. Если это верно, то возможно не только создание ИИ, но и перенос сознания человека на неорганический носитель!
Понятно что люди могут верить или нет в создание ИИ. НО! Нет фундаментального запрета на создание такового( в отличии скажем от гипердрайва). Более того, мы имеем "рабочий" образец разума(наш собственный), а повторять то что уже имеется, легче, так как нет сомнения что вещь сама по себе возможна.

[ivanij]

  То-то и оно: перевод на неорганический носитель. Но это возможно только в результате эволюции. А вот эволюция вполне возможно будет впоследствиие управляемой. И управляемой человеком. Как писал Бердяев, если человек существо тварное, т.е. сотворённое по образу и подобию Божию, то нет и запрета на то, что человек и сам способен к творчеству. В это форме искусственный интеллект? Что ж, наверное, возможно.

[КотКот_]

  То-то и оно: перевод на неорганический носитель. Но это возможно только в результате эволюции. А вот эволюция вполне возможно будет впоследствиие управляемой. И управляемой человеком. Как писал Бердяев, если человек существо тварное, т.е. сотворённое по образу и подобию Божию, то нет и запрета на то, что человек и сам способен к творчеству. В это форме искусственный интеллект? Что ж, наверное, возможно.

А без бога можно --- или уже не можете?....

[ivanij]

  А этот вопрос не по моей части. Я же сослался на философа Н.А.Бердяева. Впрочем вы и сами не поставили знак вопроса, стало быть говорите утвердительно. 

[Klapaucius]

К чему мы пришли? К тому, что человек может создать нечто подобное себе, или даже более сложное. Не естественным путём деторождения, а с помощью сознательного усложнения генетического материала или с помощью неких различных альтернатив. Прямых научных запретов таких возможностей не известно.
Однако сразу возникает проблема: всё что сложнее чем мы, не поддаётся прогнозу и с какого-то момента изучению. Можно либо это как можно дольше оттягивать, всё больше пытаясь изучить возможные последствия, либо "броситься в омут". Надеясь на благоприятный исход для того, что нам дорого.
Скорее всего, если такая ситуация настанет, "ящик Пандоры" откроют намного раньше, чем будет проведён какой-либо приемлемый анализ последствий. Да и такой анализ мало что может дать: только какие-то соображения по запрету (основанные только именно на неизучаемости явления, более сложного чем мы!), что только усилит желание у некоторых это осуществить.

[Vladimir2]

К вопросу о разумных компутерах.
Прежде всего надо заметить что современные компьютеры основанные на полупроводниковых кристаллах с электронными токами практически дошли до предела своих возможностей. Т.е. доведено до минимального предела тепловыделение  на единичное переключение единичной ячейки такого кристалла. Дальнейший рост быстродействия и сложности будет связан с увеличением выделения тепла, которое уже сейчас и так велико. А ведь совремнные компьютеры по своим возможностям не достигли даже мозга стрекозы. Так что, хотя электронные компьютеры еще немного побарахтаются на увеличении размеров кристаллов (многоядерные) и усовершенствовании теплоотвода, но серьезный дальнейший прогресс в любом случае будет возможен лишь на молекулярных компьютерах, для которых возможно надежное переключение при на много порядков меньшем тепловыделении. Так что разумные роботы в любом случае могут быть лишь на основе молекулярных/химических процессоров подобных тем что в наших мозгах. Никакой принципиальной разницы с жизнью то есть не будет. Отсюда тезис что их невозможно создать... ну разве что от веры в бога. А для материалиста никакого запрета не видно.

[wandarer]

Биологические системы в процессе естественного отбора продвигают свою ДНК. Но для роботов это не может быть элементной базой, скорее наоборот ценностью заключенной в роботе является накопленная им жизненная информация, которую он может переносить на другую элементную базу. Робот не забудет ничего, (не уничтожит полезную информацию), если она представляет для него ценность. Поэтому, чувства, заложенные в робота могут играть на то, что месть его может быть безграничной. То, что чувства человека имеют частично химическое происхождение, не означает, что их нельзя смоделировать программно, как запуск нескольких программ, активизирующих готовность к выполнению каких-либо действий, и осуществление этих действий когда порог воздействия на систему превышается. Наверняка, инстинкт самосохранения не должен быть единственной зашитой программой не подверженной изменению. В определенных условиях должна быть и программа самопожертвования, способствующая выживанию сообщества роботов. А если это так, то вопрос о цели существования может быть поставлен ИИ самому себе. "Быть или не быть? Вот в чем вопрос." И проблема выбора также встанет перед ИИ. Если человеку хорошо жить и жизнь приносит ему удовольствие, то выбор для человека очевиден. Чтобы машина выбрала жизнь, нужно программировать удовлетворенность жизнью ИИ. Но и переусердствовать на этом направлении нельзя, т.к. машина может впасть в "ленность". Значит нужен баланс между удовлетворенностью и неудовлетворенностью, т.к. последняя побуждает к действию. При этом важен также баланс возможностей, и способность ИИ так себя модифицировать, чтобы создавались возможности к решению задач, поставленных себе ИИ. Но в целом, может быть и предел, за которым ИИ может решить, что дальнейшее существование бессмыслено. Кто его оценит это существование?

[Vladimir2]

Хе, немножко о том, в чем разумный робот может отличаться от разумного человека.
У мозга человека - продукта естественной экволюции отсутствует прямой интерфейс: загрузка информации извне возможна лишь через органы чувств с их изощенными фильтрами т.е. весьма медленно и опосредовано. По сути человеческий мозг очень хорошо защищен от внешнего проникновения, что с одной стороны преимущество, с другой недостаток.
Разумные роботы/компьютеры, даже если и будут построены на основе молекулярных вычислительных ячеек и искуственных нервных клеток, очевидно изначально будут проектироваться с мощным интерфейсом прямого доступа. Так что им не потребуется длительное обучение в яслях, саду и школе, как человеку.
Ну а инстинкт у человека-животных-роботов лишь программа способствующая выбору линии поведения. Программа особого типа, действующая нежестко, через эмоции (удовольствие-неудовольствие), допускающая поливариантность поведения. Задать что-то подобное компьютеру - как два байта переслать. Другое дело что современные компьютеры слишком примитивны чтобы нуждаться в инстинктах. У современных компьютеров все на рефлексах (сигнал-ответ) не допускающих поливариантного ответа. Как у насекомых, причем самых примитивных насекомых.

[Raptar]

Хе, немножко о том, в чем разумный робот может отличаться от разумного человека.
У мозга человека - продукта естественной экволюции отсутствует прямой интерфейс: загрузка информации извне возможна лишь через органы чувств с их изощенными фильтрами т.е. весьма медленно и опосредовано. По сути человеческий мозг очень хорошо защищен от внешнего проникновения, что с одной стороны преимущество, с другой недостаток.
Разумные роботы/компьютеры, даже если и будут построены на основе молекулярных вычислительных ячеек и искуственных нервных клеток, очевидно изначально будут проектироваться с мощным интерфейсом прямого доступа. Так что им не потребуется длительное обучение в яслях, саду и школе, как человеку.
Ну а инстинкт у человека-животных-роботов лишь программа способствующая выбору линии поведения. Программа особого типа, действующая нежестко, через эмоции (удовольствие-неудовольствие), допускающая поливариантность поведения. Задать что-то подобное компьютеру - как два байта переслать. Другое дело что современные компьютеры слишком примитивны чтобы нуждаться в инстинктах. У современных компьютеров все на рефлексах (сигнал-ответ) не допускающих поливариантного ответа. Как у насекомых, причем самых примитивных насекомых.

Не фига не защищен. И Модель Милтона (Эриксоновский гипноз) тому доказательство. Наш мозг как компьютер. В него тоже можно на прямую загружать информацию. Главное кодировку подобрать правильно. Человек очень уязвимое существо. Зачастую мы реагируем на вещи не осознано, не понимая почему мы так или иначе поступили. А делаем мы так потому что на нас влияют различные факторы и раздражители. Главным из которых являются другие люди. Сознательно или бессознательно используя ключи доступа они влияют на наше поведение, заставляя любить, ненавидеть, принимать те или иные решения.
Насчет искуственного сознания. Для начало надо разобраться со своим. На эту тематику написано сотни книг, ученые знают как развивается сознание, его механизмы, дефекты, но на главный вопрос "Что такое "Я"? сказать ни может ни кто. Ведь только у человека есть есть самоосознание и только человек может тыкнуть в себя и сказать "Я!". Ради истины стоит упомянуть и о высших обезьянах (горилах, шимпанзе) у которых тоже имеется самоосознание, но в зачаточном состоянии. Искуственный интелект появится когда мы поймем почему собака смотря в зеркало видит другую собаку, а человек СЕБЯ.

[gans2]

Хе, немножко о том, в чем разумный робот может отличаться от разумного человека.
У мозга человека - продукта естественной экволюции отсутствует прямой интерфейс: загрузка информации извне возможна лишь через органы чувств с их изощенными фильтрами т.е. весьма медленно и опосредовано. По сути человеческий мозг очень хорошо защищен от внешнего проникновения, что с одной стороны преимущество, с другой недостаток.
Разумные роботы/компьютеры, даже если и будут построены на основе молекулярных вычислительных ячеек и искуственных нервных клеток, очевидно изначально будут проектироваться с мощным интерфейсом прямого доступа. Так что им не потребуется длительное обучение в яслях, саду и школе, как человеку.
Ну а инстинкт у человека-животных-роботов лишь программа способствующая выбору линии поведения. Программа особого типа, действующая нежестко, через эмоции (удовольствие-неудовольствие), допускающая поливариантность поведения. Задать что-то подобное компьютеру - как два байта переслать. Другое дело что современные компьютеры слишком примитивны чтобы нуждаться в инстинктах. У современных компьютеров все на рефлексах (сигнал-ответ) не допускающих поливариантного ответа. Как у насекомых, причем самых примитивных насекомых.

Я все время не понимаю людей, старающихся создать ИИ, хотя перенос разума на "вечный" носитель - гораздо более востребованное обществом решение. Это как добровольный отказ от деторождения, путем замены на выращивание собак\кошек. Это заразное-глистозное, как кошколюбие?
Зачем программировать, когда можно скопировать уже работающее? Тем более это работающее само по себе ценнее. И разум уже обучен. И опыт - что уже бесценно.
Разум сам по себе не цифровой. У него нет жесткой программы, как ВНЕШНЕЙ инструкции - он аналогов, и самопрограммируется. И эта самопрограамируемость уже прошла эволюционный отбор на выживаемость и социализацию. Чего о гипотетическом ИИ с прямым доступом к управлению не скажешь.

[КотКот_]

Хе, немножко о том, в чем разумный робот может отличаться от разумного человека.
У мозга человека - продукта естественной экволюции отсутствует прямой интерфейс: загрузка информации извне возможна лишь через органы чувств с их изощенными фильтрами т.е. весьма медленно и опосредовано. По сути человеческий мозг очень хорошо защищен от внешнего проникновения, что с одной стороны преимущество, с другой недостаток.
Разумные роботы/компьютеры, даже если и будут построены на основе молекулярных вычислительных ячеек и искуственных нервных клеток, очевидно изначально будут проектироваться с мощным интерфейсом прямого доступа. Так что им не потребуется длительное обучение в яслях, саду и школе, как человеку.
Ну а инстинкт у человека-животных-роботов лишь программа способствующая выбору линии поведения. Программа особого типа, действующая нежестко, через эмоции (удовольствие-неудовольствие), допускающая поливариантность поведения. Задать что-то подобное компьютеру - как два байта переслать. Другое дело что современные компьютеры слишком примитивны чтобы нуждаться в инстинктах. У современных компьютеров все на рефлексах (сигнал-ответ) не допускающих поливариантного ответа. Как у насекомых, причем самых примитивных насекомых.

Я все время не понимаю людей, старающихся создать ИИ, хотя перенос разума на "вечный" носитель - гораздо более востребованное обществом решение. Это как добровольный отказ от деторождения, путем замены на выращивание собак\кошек. Это заразное-глистозное, как кошколюбие?
Зачем программировать, когда можно скопировать уже работающее? Тем более это работающее само по себе ценнее. И разум уже обучен. И опыт - что уже бесценно.
Разум сам по себе не цифровой. У него нет жесткой программы, как ВНЕШНЕЙ инструкции - он аналогов, и самопрограммируется. И эта самопрограамируемость уже прошла эволюционный отбор на выживаемость и социализацию. Чего о гипотетическом ИИ с прямым доступом к управлению не скажешь.

А.Лазаревич назвал нас , людей, "ГЕНЕРАТОРАМИ ЖЕЛАНИй" --- и это единственная основа от самоубийства человечества ОТ СКУКИ, хотя и других причин хватает....

[gans2]

]
А.Лазаревич назвал нас , людей, "ГЕНЕРАТОРАМИ ЖЕЛАНИй" --- и это единственная основа от самоубийства человечества ОТ СКУКИ, хотя и других причин хватает....

То есть перенос на "вечный" носитель отключит генерацию желаний?

[КотКот_]

]
А.Лазаревич назвал нас , людей, "ГЕНЕРАТОРАМИ ЖЕЛАНИй" --- и это единственная основа от самоубийства человечества ОТ СКУКИ, хотя и других причин хватает....

То есть перенос на "вечный" носитель отключит генерацию желаний?

Я это не говорил --- просто нанотела будущих людей, включающие свой разум, позволят и дальше действовать "ГЕНЕРАТОРАМ ЖЕЛАНИЙ",
хотя проблема Камилла ("Далекая радуга" Стругацких) остается в силе.....