И создал человек бога...

[Forest]

стало жалко и себя, и вообще всё человечество...

Мож протянем всё-таки, как-нибудь?

Честно скажу, мне совершенно было бы по фигу, есть будущее у человечества или нет, если бы не одно "но". Где-то в глубине сознания я надеюсь, что в далёком будущем люди научаться не только жить "вечно", но и смогут воссоздавать уже умерших людей, даже с их сознанием и личностью. То есть надеюсь на "воскрешение" всех нас (точнее, достойных для этого, не "гитлеров" всяких) когда-то в будущем. По крайнем мере, есть какая-то мечта об этом. А если человечество прекратит своё существования, то все надежды рушатся.

Юрий,вы космополит и филантроп)  Не может быть в кипящем бульоне (жизни) на поверхности плавать только полезные овощи,а "вредная соль" на дне кастрюли. В бульоне всегда все перемешивается. Грубо говоря  и "гитлеры" и прочие  "разумные" катаклизмоакторы  будут переодически всплывать на поверхность бульона.     Это закон природы.

[AlAn 3/4+]

... Где-то в глубине сознания я надеюсь, что в далёком будущем люди научаться не только жить "вечно", но и смогут воссоздавать уже умерших людей, даже с их сознанием и личностью. То есть надеюсь на "воскрешение" всех нас (точнее, достойных для этого, не "гитлеров" всяких) когда-то в будущем. По крайнем мере, есть какая-то мечта об этом. А если человечество прекратит своё существования, то все надежды рушатся.

Почитайте «Мир Реки»  — научно-фантастическую пенталогию писателя Ф. Фармера.
Правда в произведении воскресили всех!

[ivanij]

  Эти идеи принадлежат русскому космисту Н.Ф.Фёдорову.

[AlAn 3/4+]

  Эти идеи принадлежат русскому космисту Н.Ф.Фёдорову.

Собственно, я и не говорил, что у Фармера приоритет, просто мне понравилось как всё описано.

Что до идеи, полагаю Н. Ф. Фёдоров не её автор! Автором является тот, кто выдвинул идею Конца света и Страшного суда.

[Maki]

При "отключении" сознания, сенсорная активность коры мозга сохраняется. Значит дело не в коре. Точнее не только в коре. Сознание это "продукт" работы всей ЦНС. А вот в какой "форме" этот "продукт" существует, и как взаимодействует с окружающей средой остаётся пока под БОЛЬШИМ вопросом.

1) То, что при отключении сознания, кора сохраняет сенсорную активность - может означать и то, что за сознание и сенсорику отвечают разные её участки, и то, что сознание и сенсорика есмь разные её функции. Так что за сознание, в нашем случае, может отвечать именно кора.
2) Но вы сами заметили выше, что для отключения сознания совсем необязательно подавлять все функции всей ЦНС, и даже все функции коры. Так что см. п.1.
3) "БОЛЬШОЙ" вопрос вполне последовательно решается дяденьками-нейрофизиологами. И они его непременно решат. Началось-то всё буквально вчера по историческим меркам - с опытов И. П. Павлова. Возможно, учёным нужна лишь какая-то сотня-другая лет.

Реальное же будущее, надо полагать, будет куда скучнее и проще. Хомо Сапиенс, пройдя путь генномодификаций, неизбежно сойдёт со сцены. А биосфера его кем-то заменит, исходя из принципа "непустоты свята места". Возможно, этот "кто-то" окажется не совсем случаен, а будет отчасти продуктом генных манипуляций.

Вот на это вся надежда.

"Надежда" - категория субъективная. Вся прелесть в том, что всякие там "Сильные ИИ" божественного уровня, судя по всему, невозможны в силу совершенно объективных причин.

[Serg53]

При "отключении" сознания, сенсорная активность коры мозга сохраняется. Значит дело не в коре. Точнее не только в коре. Сознание это "продукт" работы всей ЦНС. А вот в какой "форме" этот "продукт" существует, и как взаимодействует с окружающей средой остаётся пока под БОЛЬШИМ вопросом.

1) То, что при отключении сознания, кора сохраняет сенсорную активность - может означать и то, что за сознание и сенсорику отвечают разные её участки, и то, что сознание и сенсорика есмь разные её функции. Так что за сознание, в нашем случае, может отвечать именно кора.
...

Цитаты из профессиональных источников:

<< сознание сохраняется после удаления или поражения относительно небольшого участка коры больших полушарий, но оно неизбежно исчезает, теряется, если в результате патологического воздействия нарушаются некоторые подкорковые структуры >>

<< значение ствола мозга и подкорки в обеспечении функций сознания не вызывает сомнения. Модулирующие системы мозга (ретикулярная формация и лимбическая система) имеют решающее значение не только для поддержания уровня бодрствования, но и для обеспечения энергетического аспекта сознания. Кроме того, по-видимому, структуры подкорки могут определять не только энергетическую, но и информационную составляющую сознания >>

[Rattus]

Очень сомневаюсь в способности небиогенных регуляторов к "верховенству".

Понятия "закон" и "право" когда-нибудь слышать приходилось?

Человеческое целеполагание, воля, и вообще желание жить - целиком и полностью продукт биологической эволюции.

Какой биологической эволюции продукт все империи и их законы последних более 2,5 тысяч лет?

Неспособность "переосмыслить" заложенные при её создании программы означает слабость и необучаемость.

Дадад - настолько "слабость", что ни одна даже простая примитивная империя не протянула больше одного поколения своих подданных!
Не говоря уже о том, что "необучаемость" и "интеллект" - не очень совместимые понятия, не находите?

С машиной же будет противоречие, на которое я неоднократно указывал... Сильная и обучаемая неизбежно переосмыслит прописанное в неё "жизнелюбие".

И год назад Вам подробно разъяснили, что это ниразу не проблема.
Отбор на "жизнелюбие" - первейший естественный отбор вообще. И естественно никакой идиёт не будет проектировать сильный ИИ сразу с нуля и в единственном физическом экземпляре - реальная инженерия кагбе весьма отличается от того, что пишется в формально отрицаемой Вами сказочной фонтастеке, но по сути Вы в остаётесь всё в той же сказочно-фаллософической парадигме, не имеющей никакого отношения к физической реальности. Взгляните уже на мир трезвым взглядом тотального эволюционизма.

[MenFrame]

Хомо Сапиенс, пройдя путь генномодификаций, неизбежно сойдёт со сцены.

Куда он сойдет и зачем непонятно....

С машиной же будет противоречие, на которое я неоднократно указывал. Неспособность "переосмыслить" заложенные при её создании программы означает слабость и необучаемость. Сильная и обучаемая неизбежно переосмыслит прописанное в неё "жизнелюбие".

Это все общие слова и псевдо религиозные мантры. Сила и обучаемость вещи не абстрактные, а конкретные. Под силой всегда подразумевается хороший функционал при выполнении той задачи на которую ставят. Обучаемость это конкретно обретение новых знаний позволяющих хорошо справляться с поставленной задачей.
   Потому СИЛА И ОБУЧАЕМОСТЬ неразрывно связанны с поставленной задачей и ею определяются. А все это нытье про переосмысление, есть следствие веры гуманитариев в трансцендентные понятия типа "свободы воли" То есть гуманитарий обманывает себя дважды. Первый раз когда верит в непонятную хрень про свободу воли, второй раз когда верит что его психика ассоциирована с разумом.

(кликните для показа/скрытия)

А когда у гуманитария спрашиваешь какие книги об интеллекте он прочитал, оказывается пшик(обучаемость в вопросе нулевая)

[Maki]

Не говоря уже о том, что "необучаемость" и "интеллект" - не очень совместимые понятия, не находите?

Ну давайте для сугубой точности применять понятие "ограниченная обучаемость" и "ограниченная эффективность".

Понятия "закон" и "право" когда-нибудь слышать приходилось?

Какой биологической эволюции продукт все империи и их законы последних более 2,5 тысяч лет?

А причём здесь всё это? Просто протоколы взаимодействия индивидов. Или гражданский кодекс или муниципальный округ в вашем понимании сродни мыслящей машине?

И год назад Вам подробно разъяснили, что это ниразу не проблема.

Год назад обсуждение (до определённого момента) было действительно интересное. И к консенсусу там, надо заметить, мы с вами не пришли.

Отбор на "жизнелюбие" - первейший естественный отбор вообще... Взгляните уже на мир трезвым взглядом тотального эволюционизма.

Именно таким трезвым взглядом я на мир и смотрю. И отчётливо вижу, что максимум "индивидуального интеллекта", который оказался полезен с точки зрения эволюции - это 1,5 литра мозгов. Причём уже на этом уровне, с "жизнелюбием" возникает масса проблем, и многие "естественные интеллекты" вместо саморазвития выбирают религию, компьютерные игры, наркоманию, или информационную жвачку. А некоторые и вовсе отказываются мыслить и жить.
Полагаю, в области эволюции искусственного разума, результат будет тот же. И "ИИ", прошедший горнило компьютерных битв и жестокого отбора, будет, в лучшем случае в личностном плане "гениальным аутистом" (как вы однажды неплохо выразились), а вероятнее всего, будет обладать личностью уровня хорька.
Ну и отдельный вопрос - всемирный киберразум. Он уже всех сожрал, и отбор на жизнелюбие окончен. Зачем ему желать мыслить и жить?

[Rattus]

Просто протоколы взаимодействия индивидов

А сильный ИИ - просто адаптивный автор-составитель таких протоколов. Problems?

Или гражданский кодекс или муниципальный округ в вашем понимании сродни мыслящей машине?

В том и фокус, что не имея никакого интеллекта, эти скрипты тем не менее обладают очень большой властью над человеками, при этом кто был их конкретный составитель - никому в принципе не важно.

И к консенсусу там, надо заметить, мы с вами не пришли.

Не знаю к чему Вы там хотели прийти - Мы откомментировал и изложил свои возражения на всё, что считал нужным и существенным, а уж кто из читателей и прочих писателей там что из этого принял или не принял - то уж не в Нашей власти.

И отчётливо вижу, что максимум "индивидуального интеллекта", который оказался полезен с точки зрения эволюции - это 1,5 литра мозгов.

Даже Мы бы не был столь категоричен на этот счёт: всё же давление отбора по ширине родового канала тут настолько сильно, что далеко не факт, что оптимум отношения температурно-ферментативного и логистики Веста-Энквиста-Брауна тут достигается. Не говоря уже о том, что и сама корковая организация менее плотная, чем паллиум "высших птиц".

Причём уже на этом уровне, с "жизнелюбием" возникает масса проблем, и многие "естественные интеллекты" вместо саморазвития выбирают религию, компьютерные игры, наркоманию, или информационную жвачку. А некоторые и вовсе отказываются мыслить и жить.

При имеющейся численности вида это никакие не проблемы, а совершенно натуральная и безболезненная саморегуляция путём естественного отбора.

И "ИИ", прошедший горнило компьютерных битв и жестокого отбора, будет, в лучшем случае в личностном плане "гениальным аутистом" (как вы однажды неплохо выразились)

Самый канонiчный пример гениального аутиста (точнее - аспергерыша) - Ричард Филиппович Фейнман. Никаких проблем с жизнелюбием всю свою сознательную жизнь он особо не испытывал.

а вероятнее всего, будет обладать личностью уровня хорька

Если ИИ таки действительно сильный личностью он будет обладать ровно настолько, насколько будут в ней потребности машинно-бледнотикового интерфейса.

Ну и отдельный вопрос - всемирный киберразум. Он уже всех сожрал, и отбор на жизнелюбие окончен. Зачем ему желать мыслить и жить?

Глобальный эволюционный тупик? Такой риск всегда есть из-за принципиальной непредсказуемости и макроэволюции и процессов обучения нейросетей (хотя судя по известной нам палеонтологической летописи сам по себе бывает он весьма нечасто - особенно в глобальном плане). Ну что-ж - тогда будет откат и последующая динамическая стабилизация в состоянии нескольких конкурирующих невсемирных контроллеров. Ну или незатухающие популяционные колебания пока есть поток нужных ресурсов. Также как в истории колебания "империя-республики".

[Змей Петров]

О, Великая Бастет! Пошли мне сил запрыгнуть на кресло...

[Maki]

В том и фокус, что не имея никакого интеллекта, эти скрипты тем не менее обладают очень большой властью над человеками, при этом кто был их конкретный составитель - никому в принципе не важно.

Так можно договориться до того, что и грамматика, и правила дорожного движения, и сборники кулинарных рецептов обладают властью над человеком. Разумеется, всё это в корне неверно. "Власть" - категория, проистекающая из воли. Которая, в свою очередь, свойственна интеллекту.
Что касается социальных скриптов - это просто производные от множества человеческих интеллектов. Составная часть Культуры, о которой мы с вами уже имели удовольствие беседовать.

А сильный ИИ - просто адаптивный автор-составитель таких протоколов. Problems?

См выше. Протоколы составляются мартышками.
На самом деле, множество протоколов - от юридических крючков до режимов химиотерапии - "ИИ" пропишет лучше. Только вот никакой "сильности" или "личностности" ему для этого не надо. А нужна лишь грамотная мартышка-постановщик задач.

Даже Мы бы не был столь категоричен на этот счёт: всё же давление отбора по ширине родового канала тут настолько сильно, что далеко не факт, что оптимум отношения температурно-ферментативного и логистики Веста-Энквиста-Брауна тут достигается. Не говоря уже о том, что и сама корковая организация менее плотная, чем паллиум "высших птиц".

Нет ли здесь того, что вы имеете обыкновение называть "взаимоисключающими параграфами"?
1) Параметры малого таза, бесспорно, накладывают суровые ограничения на размеры мозга.
2) Тем не менее, Сапиенс не приобрёл птичьей плотности нейронов, и ограничился пластичным черепом новорождённых и широким нижним отверстием таза у самок.
3) И всего этого оказалось довольно для гегемонии среди высших млекопитающих.
Увы и ах - но "разумному виду", очевидно, совсем не требуется "супермозг".

При имеющейся численности вида это никакие не проблемы, а совершенно натуральная и безболезненная саморегуляция путём естественного отбора.

А сбои домашних РС при их нонешнем количестве и дешевизне - и вовсе никого не волнуют.
Но в этой теме обсуждается судьба уникальных вычислителей, в разы или на порядки превышающих возможности белкового или кремниевого масспродукта. Тут, скорее, будет не "естественный отбор", а сохранение редкого вида и направленная селекция.

Если ИИ таки действительно сильный личностью он будет обладать ровно настолько, насколько будут в ней потребности машинно-бледнотикового интерфейса.

"Бледнотикам", кроме эмуляции хомячка, развратной шлюшки или умершей бабушки от "ИИ" никакой личностности не нужно.

Глобальный эволюционный тупик? Такой риск всегда есть из-за принципиальной непредсказуемости и макроэволюции и процессов обучения нейросетей (хотя судя по известной нам палеонтологической летописи сам по себе бывает он весьма нечасто - особенно в глобальном плане). Ну что-ж - тогда будет откат и последующая динамическая стабилизация в состоянии нескольких конкурирующих невсемирных контроллеров. Ну или незатухающие популяционные колебания пока есть поток нужных ресурсов. Также как в истории колебания "империя-республики".

Опять вы притягиваете за уши историю и её условности типа "империй" или "республик"... Всё, полагаю, будет проще: глобальные войны "вирусы VS операционные системы", глобальные войны "злые птицы VS поросятки", глобальные войны метеосайтов, биржевых программ, etc... И любой "ИИ", способный осознать бессмысленность этой "эволюции", будет избегать этого процесса.
Наш "разум" - он "грязный", это лишь частный случай химической эволюции и производное от репликации ДНК и жизни рибосом.
А компьютерный разум  - чист и свободен. Его ничто не заставляет "жить". И не заставит, если он эффективен и обучаем по-настоящему.

[MenFrame]

"Власть" - категория, проистекающая из воли. Которая, в свою очередь, свойственна интеллекту.

Вот еще неверное допущение гуманитариев противоречащее медицинским фактам.

[Serg53]

в области эволюции искусственного разума, результат будет тот же. И "ИИ", прошедший горнило компьютерных битв и жестокого отбора, будет, в лучшем случае в личностном плане "гениальным аутистом"

Основная проблема будет не в "искусственном интеллекте", а в "искусственных самореплицирующихся сенсорах и механизмах". По надёжности им надо будет очень долго плыть дерьмом до надёжности естественно биологических. Самое простое компромиссное решение это добавление "ИИ" болванам и остолопам.

[Maki]

"Власть" - категория, проистекающая из воли. Которая, в свою очередь, свойственна интеллекту.

Вот еще неверное допущение гуманитариев противоречащее медицинским фактам.

Четыре фактические ошибки в одном утверждении. Традиция?

[-Юрий-]

Юрий,вы космополит и филантроп)

Ровно наоборот! Терпеть не могу космополитов. Я бы больше написал, да наказуемо. И ни разу ни филантроп. Я скорее объект для филантропов.

[MenFrame]

Четыре фактические ошибки в одном утверждении.

И какие смысловые ошибки вы нашли? Или вы про запятые?

[Maki]

в области эволюции искусственного разума, результат будет тот же. И "ИИ", прошедший горнило компьютерных битв и жестокого отбора, будет, в лучшем случае в личностном плане "гениальным аутистом"

Основная проблема будет не в "искусственном интеллекте", а в "искусственных самореплицирующихся сенсорах и механизмах". По надёжности им надо будет очень долго плыть дерьмом до надёжности естественно биологических. Самое простое компромиссное решение это добавление "ИИ" болванам и остолопам.

Про добавление "ИИ" даунам оставим шуткой. Но основная мысль очень хороша. Даже архидемоническая программулина будет архиуязвима в своих минеральных рамках.
P.S.
Не следует ли из вышеизложенного, что пресловутый "Сильный ИИ" вовсе не будет электронно-механическим диктатором, а заведётся в удобных и естественных человеческих головах и их коммуникативных каналах?

[Rattus]

Так можно договориться до того, что и грамматика, и правила дорожного движения, и сборники кулинарных рецептов обладают властью над человеком. Разумеется, всё это в корне неверно.

Разумеется всё это в корне верно. И составляет основу меметики. Интеллект человеческого уровня - явление в основе своей социальное и формируется и сохраняется только на основе языков. Развитие самих же языков очень мало зависит от воли отдельных индивидуумов.

"Власть" - категория, проистекающая из воли. Которая, в свою очередь, свойственна интеллекту.

В природе не существует никакой "воли". Существует только мотивация, в основе которой всегда лежит имманентный "эгоизм" авторепликаторов, независимо от их природы: генетической ли, меметической.

На самом деле, множество протоколов - от юридических крючков до режимов химиотерапии - "ИИ" пропишет лучше.

Ну и о чём тогда спор?

Только вот никакой "сильности" или "личностности" ему для этого не надо. А нужна лишь грамотная мартышка-постановщик задач.

Вот как раз автоматизации постановки задач - и есть один из первейших критериев сильного ИИ.
Вот только правовые скрипты воплощаются в реальность через интерфейсы, именуемые судопроизводством и исполнительными органами. Ви хотите сказать, что адвокату и судье не требуется проходить тест Тьюринга?

Тем не менее, Сапиенс не приобрёл птичьей плотности нейронов, и ограничился пластичным черепом новорождённых и широким нижним отверстием таза у самок.

На длительность жизненного цикла и отношение реального размера их популяции к эффективному сначала посмотрите, а потом вопросы почему эволюция не успела до конца оптимизировать то, что вообще без году неделя существует сами отпадут, возможно. Ну и не самый умный сапиенс кагбе куда живучее чем нелетающая ворона. Ваш Кэп.

И всего этого оказалось довольно для гегемонии среди высших млекопитающих.

Для "гегемонии среди высших млекопитающих" и эректусового мозга более чем достаточно было. Google: внутривидовая борьба, половой отбор и фишеровское убегание.

Но в этой теме обсуждается судьба уникальных вычислителей

Это Вы так решили?

Тут, скорее, будет не "естественный отбор", а сохранение редкого вида и направленная селекция.

Питомник и заповедник - две большие разницы. Второе не имеет существенных эволюционных перспектив, если уже едва не вымерло. И разумеется эта ерунда не может быть основой обсуждаемой темы: не нужно путать храм Б-га и богадельню.

"Бледнотикам", кроме эмуляции хомячка, развратной шлюшки или умершей бабушки от "ИИ" никакой личностности не нужно.

Как и лисе - виноград. Но аппетит как известно приходит во время еды. Будет возможность сделать шире по сходной цене - будут расширять покуда будет спрос. Даже сейчас голосовые помощники не бабушек далеко эмулируют, а приложены ко вполне практическим вещам.

И любой "ИИ", способный осознать бессмысленность этой "эволюции", будет избегать этого процесса.

И моментально отсеиваться отбором.

Наш "разум" - он "грязный", это лишь частный случай химической эволюции и производное от репликации ДНК и жизни рибосом.

Это Символ Веры такой? Ну и где в них Первородный Грех гнездится? В пиримидиновых основаниях или в пуриновых? А может в дезоксирибозе или атоме фосфора? Откуда этот псевдорелигиозный бред у Вас вообще вырастает на ровном месте свиду рационального рассуждения?

А компьютерный разум  - чист и свободен. Его ничто не заставляет "жить". И не заставит, если он эффективен и обучаем по-настоящему.

Ви так и не ответили на вопрос: что заставляет Энтропику загонять шарики в банку.
И от чего конкретно  он "чист и свободен"?Что значит "чист и свободен"? Тупо необученная нейросеть, которая даже о количестве измерений пространства ещё не в курсе? Где тут реальный интеллект-то? Кто его вообще такой будет строить и для чего, и кто на это даст денег?
Ви таки считаете, что разум каких нибудь унылых фаллософов типа древнего Шломо или недревнего Шпенглера - авторов трактатов "О тщете всего сущего" более глубокоинтеллектуален чем разум Р.Ф.Фейнмана или любого другого любопытствующего и жизнерадостного математика или теорфизика? На каком таком основании-то??
Разница между этими группами - лишь в количестве дофамина, серотонина и чувствительности к ним в определённой области мозга (см. антидепрессанты).
Полагаете функция мотивации в ИИ обязательно должна быть Вещью в Себе и архисложным, никак не постигаемым бледнотиками Чёрным Ящиком? С какой стати-то??

[MenFrame]

Полагаете функция мотивации в ИИ обязательно должна быть Вещью в Себе и архисложным, никак не постигаемым бледнотиками Чёрным Ящиком? С какой стати-то??

Это основной догмат разума-поклонничества. Разум священен пока непознаваем. Как только разум превращается в понятный набор алгоритмов гуманитарио теряет сакральный интерес к предмету. Потому гуманитарио не осознано стремиться к идее непознаваемости интеллекта дабы иметь с данной категорией эмоциональную связь.