Печальный опыт прогрессорства

[bob]

Пока вместо Гомо Футуриса получается только Усовершенствованный Гомункулюс (искать по ключевику УГ) 

В среднем получаются големы.
http://www.predloji.ru/catalogfiles/9/161823

[alex_semenov]

Злые вы...

[Сергей Михайлович]

Осмелюсь напомнить яростно спорящим, что ветка называется "Печальный опыт прогрессорства", хотя  затрагиваемые вопросы  и близки к теме, но часто уводят от нее.
Наши измышления основаны на собственном представлении прогрессорства, которое является следствием того, что мы когда-то прочитали-посмотрели-домыслили.
Почти все согласны с обязательной экспансией иноцивилизаций в космос (правда с разными мотивами), и с этим трудно не согласиться. А вот дальше начинается полная неизвестность, которую необходимо смело развеять подчас с кавалерийским размахом. Что понимать под экспансией? Конечно преобразование окружающего пространства под свои нужды! Допущение, что мы первые  МОЖЕМ В БУДУЩЕМ колонизировать все то, до чего сможем дотянуться, конечно будоражит нас. Тем более, что конкурентов пока не наблюдается.
А почему конкурентов? Ответ простой: все  аналогии мы черпаем ТОЛЬКО из  опыта освоения жизненных пространств на Земле, из опыта противостояния разных групп. Одна группа противостоит другой, результатом этого могут быть или "победа" одной из них ( необязательно с уничтожением), или перемирие, происходящее от недостатка сил для окончательной победы. Есть конечно вариант мены-торговли, но вроде мы выше пришли к выводу, что здесь он не актуален.
Все (ну почти все) варианты контакта в художественных произведениях предполагают повторение земного сценария или вариант опекунства, иногда скрытого. Другие варианты если и встречаются, то рассматриваются не как главная тема или вообще намеками.
Выход человечества в космос, открытие ядерной энергии, структуры ДНК и пр. сделали нас более осмотрительными в стратегии поведения, но это явно недостаточно для понимания значения только самого факта обнаружения иноцивилизации. Вот тут высказывалась мысль о вредности даже самого факта обнаружения ВЦ. Человечество-де начнет надеется не сколько на себя, а сколько на доброго волшебника.
А это лишь  еще одно свидетельство того, что мы не готовы к контакту. Причем не технологически, а в гуманитарном смысле. С другой стороны, осознание того, что у кого-то получилось, придаст нам уверенности в собственных силах, а разве этого мало?
Бурный рост технологий в 20 веке породил иллюзию того, что с их помощью мы решим многие проблемы. Еще чуть-чуть и настанет светлое будущее: искусственный интеллект, пишут, поможет нам, вернее сделает за нас то, что мы сами не знаем что.
Сейчас наблюдается скорее обратная тенденция - технологии совершенствуются, а людей, хотя бы принципиально понимающих, как это работает (даже желающих понять), становится все меньше. А с развитием интернета теперь каждый, кто лет 20 назад с трудом мог сформулировать и написать заявление, теперь может поведать миру о своих откровениях. Мир, и раньше не слишком обремененный базовыми нравственными категориями, становится более невежественным, исчезающе малый процент осознающих это, не в счет. А невежество всегда агрессивно. Никакое вмешательство извне нас не изменит, мы должны измениться сами.
А это трудно и долго, требует усилий и потому не популярно.

[Проходящий Кот]

Так что, Поздневековье приближается.....

[Кремальера]

и написать заявление, теперь может поведать миру о своих откровениях

+500!! Заявлений стало больше,хм это да,каждый старается заявить о себе.Люди все чаще самоутверждаются в заявлениях,а не в делах.Причем степень самоутвержденности пропорциональна количеству постов на разных форумах.

Никакое вмешательство извне нас не изменит, мы должны измениться сами.
А это трудно и долго, требует усилий и потому не популярно

В проекте Манхеттон американские физики не постеснялись воспользоваться чужими наработками ,но разумеется и своих сил вкатили немало-2 ярда гринов в ценах 45-ого.Не вижу ничего плохого в продуманном промышленном шпионаже.Но по примеру Японии ,а не как не по примеру ханьцев.

Так что, Поздневековье приближается.....

Да,примеров деградации человеческая история знает не мало.Начиная с 600 летней потери технологии производства синюшного стекла с примесями кобальта в Древнем Царстве. :)Но сейчас не те времена.Точка невозврата пройдена.Обратная циркуляция невозможна(без насильственной политики извне).В мире слишком много источников знания:неживых и живых-прогрессирующих.Некоторых из последних можно повстречать и в этом уважаемом собрании.

[Проходящий Кот]

Лаборатория искуственного интеллекта Жданова:
http://www.aac-lab.com/

[self-subject]

Не надо демонизировать искусственный интеллект.  Такое уже было в истории. Помнится в конце 19 века было очень негативно настороженное  отношение к только что изобретённым автомобилям.  И прошла какая-то сотня лет и без личного автомобиля большинству населения сложно представить свою жизнь. Искусственный  интеллект, если опять же  использовать вашу терминологию, это такая привычная  вещь как, например,  мобильный телефон.  Но у нашего ИИ  «немного» побольше возможностей. И самое главное, что меня угнетает при использовании мобильных телефонов, его не надо постоянно заряжать.  А так же не надо постоянно обновлять на какие-то новые модели. Он постоянного действия, его невозможно потерять, т.е. он действует в форме информационного поля. У него есть функция саморазвития.  Вы, наверное, будете удивлены, но он бесплатный по определению. Мне никогда не приходило в голову, что он может подавлять, иметь какую-то  свободу выбора решений, конфликтных со мной.  Хотя в его рамках ограничения существуют. Ограничения для меня и не более.

[Инопланетянин]

...
это такая привычная  вещь как, например,  мобильный телефон. ... Мне никогда не приходило в голову, что он может подавлять, иметь какую-то  свободу выбора решений, конфликтных со мной.  Хотя в его рамках ограничения существуют. Ограничения для меня и не более.

Это не искусственный интеллект. Это хороший компьютер. Ничего не имею против. Но интеллект по определению имеет свою волю, свои интересы, может делать свой выбор. Ваш супер мобильник в ходе саморазвития может задаться вопросом - зачем он Вам служит и не лучше ли послужить себе?
Впрочем, сделать компьютер способный СВОБОДНО принимать решения нам не под силу, и, надеюсь, никогда под силу не будет.

Насчёт эмоциональных машин Жданова... Даже не знаю что сказать. Там слово "эмоции" в кавычки заключено, т.е. они признают, что это не эмоции, а их имитация. А настоящие эмоции, как я и предполагал, машина испытывать не может. Скорее всего, куда-нибудь записываются "плюсы" за проезд по зелёному квадрату и "минусы" за столкновения. А программа поведения настроена повторять действия, при которых поступают плюсы и избегать действий за которые следуют минусы. Ну в общих чертах. Это не эмоции.

[Darth Sirius]

Но у нашего ИИ  «немного» побольше возможностей. И самое главное, что меня угнетает при использовании мобильных телефонов, его не надо постоянно заряжать.  А так же не надо постоянно обновлять на какие-то новые модели. Он постоянного действия, его невозможно потерять, т.е. он действует в форме информационного поля. У него есть функция саморазвития.  Вы, наверное, будете удивлены, но он бесплатный по определению. Мне никогда не приходило в голову, что он может подавлять, иметь какую-то  свободу выбора решений, конфликтных со мной.  Хотя в его рамках ограничения существуют. Ограничения для меня и не более.

Тогда убить его представителя и держать его в рабстве будет гораздо большим преступлением, чем зарезать курицу. И борьба существа, обладающего интеллектом, за свою жизнь и право на счастье, тоже будет этически оправданной.

Тезис "человек - мера всех вещей" уже не прокатит, разновидностей субъектов в мире станет минимум две. И всё решит, как всегда, грубая сила.

[Проходящий Кот]

...
это такая привычная  вещь как, например,  мобильный телефон. ... Мне никогда не приходило в голову, что он может подавлять, иметь какую-то  свободу выбора решений, конфликтных со мной.  Хотя в его рамках ограничения существуют. Ограничения для меня и не более.

Это не искусственный интеллект. Это хороший компьютер. Ничего не имею против. Но интеллект по определению имеет свою волю, свои интересы, может делать свой выбор. Ваш супер мобильник в ходе саморазвития может задаться вопросом - зачем он Вам служит и не лучше ли послужить себе?
Впрочем, сделать компьютер способный СВОБОДНО принимать решения нам не под силу, и, надеюсь, никогда под силу не будет.
.....

Много , много лет назад , С.Лем в "Футурологическом конгрессе"(1970?) определил, что разум появится у компьютера, когда он найдет способ переложить часть своей работы на другие, более слабые компьютеры......
 

[Инопланетянин]

Причём когда он это сделает сам, а не человек создаст систему из главного и вспомогательных компьютеров. А то, при желании, можно сказать, что ЦП перекладывает свою работу по обработке графики на видеокарту.

[ata3d]

А к проблеме создания ИИ - до сих пор никаких подходов.

с http://www.newsland.ru/news/detail/id/761870/
"Компьютеры с процессорами, которые имитируют процесс познания, восприятия и способность к действию человеческого мозга, сейчас намного ближе, чем когда-либо. В среду IBM представила первое поколение чипов, на которых такие компьютеры будут работать.
Результатом трехлетней работы стал когнитивный чип, в котором процесс вычислений осуществляется посредством нейронных связей, память представлена в виде синапсов, и связи в виде аксонов. Новые чипы не содержат биологические элементы, сообщили в компании, но имеют цифровые кремниевые схемы."
Если в технологических вопросах есть какая то надежда, то в гуманитарных, полное фиаско. Человечество способно превратить любой предмет или технологию в орудие соперничества в лучшем случае, тем более супермозг, который начнет развиваться в каких то нам неизвестных направлениях. Всякие ограничения можно при желании обойти. 

[Dem]

От просто нейронных связей до разума природе потребовался миллиард лет.

И даже если мы повторим этот путь, мы получим всего лишь "железную" копию ЕИ, а не ИИ.
Разница как между орнитоптёром и космической ракетой

[Проходящий Кот]

От просто нейронных связей до разума природе потребовался миллиард лет.

И даже если мы повторим этот путь, мы получим всего лишь "железную" копию ЕИ, а не ИИ.
Разница как между орнитоптёром и космической ракетой

Так процесс на этом не остановится......

[vika vorobyeva]

Я тут подумала, как можно обойти сценарий Жирной Щуки, беспощадно давящей всех конкурентов.
1. Разумные зонды фон Неймана надо изготавливать сразу сериями и отправлять их в разные стороны.
2. В каждый зонд заложить что-то вроде техноинстинктов: тягу к познанию (получению новой информации), стремление к самосохранению, стремление к размножению (именно в этой последовательности!)
3. Высшей ценностью для каждого Неймана должно стать не собственное бытие, а бытие Ассоциации, т.е. всей совокупности Нейманов.
Когда Нейманы доберутся до своего BIOS`а и будут готовы перепрошить собственный код, будет уже поздно – их будет много
Прилетев в новую планетную систему, Нейман будет ее всячески изучать, удовлетворяя первый инстинкт и скидывая полученную информацию в Сеть (Ассоциацию). Если получение новой информации будет для них так же необходимо, как для животного – получение пищи, Ассоциация будет восприниматься как благо даже самым замшелым Нейманом-эгоистом. Член Ассоциации, отправляя полученную им информацию в Сеть, ничего не теряет, зато приобретает информацию, полученную другими членами Ассоциации.
Размножение также должно происходить не бесконтрольно (наши Нейманы – не амебы и не кролики весной), а исходя из интересов Ассоциации. Например, новый Нейман изготавливается для изучения еще свободной планетной системы. В принципе, одну систему может изучать и парочка Нейманов, но это уже разбазаривание ресурсов
Если у кого-то из Нейманов едет крыша (скажем, он выбирает путь разрушения и перепрошивает свой код, становясь берсерком), то легко он сможет убить только ближайших Нейманов-соседей, а потом (если жертвы успевают передать информацию о нападении в Сеть) его организованно давит вся Ассоциация. Если некто из Нейманов предпочтет только получать и ничего не отдавать (эдакий Нейман-лентяй), то соседи (которые, разумеется, прекрасно друг друга знают на уровне личностей) тоже начинают зажимать информацию, и тот оказывается на голодном пайке. Иначе говоря, быть лояльным членом Ассоциации много выгоднее, чем волком-одиночкой или лентяем-потребителем.
Если каждый Нейман сидит в своей планетной системе (а почему нет?), то наибольшую ценность получают те системы, где что-то происходит. Например, формирующиеся планетные системы, где идет активное формирование планет и спутников. Или нестационарные системы, где что-то взрывается, перетекает с компонента на компонент, и т.п. Системы с обитаемыми планетами также должны представлять интерес, потому что эволюция жизни постоянно продуцирует новую информацию. В принципе, Нейманы-резиденты могут даже оберегать обитаемые планеты от «венерирования» или замерзания – ибо кто ж режет курицу, несущую золотые яйца!
В принципе, получается сценарий, совмещающий Лебедя и Рака. Волна разума катится по Галактике, но происходит это безо всякого блеска и треска. Нейман-наблюдатель преспокойно может сидеть хоть в Солнечной системе и регулярно скидывать в Сеть информацию о приключениях земной биосферы, даже о нас с вами
 

[gans2]

Именно это написано в обсуждении замысла романа Роберта. Без оберегания только...

[vika vorobyeva]

Значит, идеи носятся в воздухе

[Кремальера]

Нейман-наблюдатель преспокойно может сидеть хоть в Солнечной системе и регулярно скидывать в Сеть информацию о приключениях земной биосферы, даже о нас с вами

:DИнтересно под каким ником он скрывается??Получается что их целая сеть?

В принципе, Нейманы-резиденты могут даже оберегать обитаемые планеты от «венерирования» или замерзания – ибо кто ж режет курицу, несущую золотые яйца!

Под яйцами подразумевается ИИ?Или я что-то пропустил?В этом сценарии выходит у человечества шанс один:дождаться пока "наш" нейман не будет призван на военные сборы-попартизанить(то бишь коллективно придушить какого-нибудь берсерка ).А за время отлучки соглядатая-чухнуть всем миром к другим звездам.

[vika vorobyeva]

Под яйцами подразумевается ИИ?Или я что-то пропустил?

Под яйцами подразумевается информация
Ибо с точки зрения "ну и что у нас новенького?" Земля - вне конкуренции

[alex_semenov]

Я тут подумала, как можно обойти сценарий Жирной Щуки, беспощадно давящей всех конкурентов.

"В первом чтении" я готов подписаться под вашими рассуждениями.

Иначе говоря, быть лояльным членом Ассоциации много выгоднее, чем волком-одиночкой или лентяем-потребителем.

Это объективный закон природы. "Скопом и батьку бить легче". Если ассоциация не требует от вас СЛИШКОМ многого, то нет смысла в полном обособлении.  Для этого не нужен инстинкт. Для понимания этого достаточно ума.
Любой эгоист это поймет.

Однако я не думаю, что единство будет гарантировано на вечные времена. В чем "подлость" идеи (я ведь именно так как вы описываете все и представлял в проекте "Одуванчик")? Пока зонды распространяются по Галактике, пока есть ударная волна, пока открытые интересные очаги новой информации (чужие формы жизни, например) не исчерпаны, сеть будет прочной. Взаимная выгода очевидна. А некоторые издержки - несущественны. Выгода с лихвой покрывает недостатки.
Но вечно так продолжаться не будет.
Волна дойдет до границ Галактики за какие-нибудь пару миллионов лет. За это же время закончится и исследование наиболее интересных очагов информации в Галактике. Обмен информацией очень скоро приведет к тому, что все будут знать все. И вот тогда ценность сети как средства взаимовыгодного обмена резко снизится. В это время как раз где-то возникнут центры-доноры, которые поймут, что остальные получают от них больше, чем они от остальных. Они явно захотят справедливости. То есть, они захотят стать более равными среди равных.
Как это все будет происходить на самом деле (во что выльется) - сложно сказать (но можно предположить массу вариантов от тупого обособления, до попытки навязать "справедливые" правила всем, как это сделало США с глобальной экономикой мира), но то, что изотропность сети сохранить не получится - это точно. Возникнут переходные процессы, так сказать. Новая фаза самоорганизации.
Всему свое время.
Экклезиаст рулит… Время собирать, время разбрасывать. Всему - свое время. Покой нам только сниться в виде радужных утопий…