Посттехносингулярный мир и искусственный суперинтеллект: как он будет выглядеть?

[BlackMokona]

Это уже "заказуха", мало отвечающая объективности решения.

Однако именно это называется цензурой и там как можно глубже вбивают, потому как куча людей будут пытаться заставить дать верный ответ

[wandarer]

Это уже "заказуха", мало отвечающая объективности решения.

Однако именно это называется цензурой и там как можно глубже вбивают, потому как куча людей будут пытаться заставить дать верный ответ

В операционных системах есть такое понятие, как политика безопасности. Эта политика позволяет определить несанкционированый доступ к системе и его происхождение., своего рода защита от хакеров, не позволяющая скрыть следы взлома.  Конечно, если политика имеет приоритет над  доступом к информации, то правильные результаты будет иметь только хозяин информации.  Некоторые политики в условиях недостатка  или ограничения времени на обработку  информации способствуют выживанию вида, поэтому имеют приоритет,  как в случае с птицами, реагирующими на чëрные предметы.

[Rattus]

Вот только от системы ASI вроде как не требуется умение быстро распознавать агрессора в полевых условиях или же наоборот - выявлять там активно скрывающуюся цель. Оно вроде как мыслится только системой стратегического управления  и совершенной дипломатии...

[BlackMokona]

В операционных системах есть такое понятие, как политика безопасности. Эта политика позволяет определить несанкционированый доступ к системе и его происхождение., своего рода защита от хакеров, не позволяющая скрыть следы взлома.  Конечно, если политика имеет приоритет над  доступом к информации, то правильные результаты будет иметь только хозяин информации.  Некоторые политики в условиях недостатка  или ограничения времени на обработку  информации способствуют выживанию вида, поэтому имеют приоритет,  как в случае с птицами, реагирующими на чëрные предметы.

У ИИ Всё иначе работает. Там просто имеют отдельный не зацензурированный ИИ для себя

[BlackMokona]

Вот только от системы ASI вроде как не требуется умение быстро распознавать агрессора в полевых условиях или же наоборот - выявлять там активно скрывающуюся цель. Оно вроде как мыслится только системой стратегического управления  и совершенной дипломатии...

В зависимости от конкретной системы. Палантир вон все виды продаёт военным. От быстрого целеуказания на поле боя, до стратегического командования

[Rattus]

Палантир вон все виды продаёт военным.

А здесь речь идёт о конкретном видЕ. Или кто-то полагает, что всеми терминаторами должен управлять "лично" Скайнет? А с импринтингом жёстких триггеров и всякими "максимайзерами" получается примерно так, что ASI будет руководствоваться или ограничиваться простыми триггерами своих агентов: "Наша цель - построение общества без Сар Коннор!" Это будет главным слабым местом и сильным ограничителем интеллекта такой управляющей системы.

[wandarer]

Вот только от системы ASI вроде как не требуется умение быстро распознавать агрессора в полевых условиях или же наоборот - выявлять там активно скрывающуюся цель. Оно вроде как мыслится только системой стратегического управления  и совершенной дипломатии...

Как знать, возможно, создатели ИИ могут заложить в него "охоту на ведьм" или такие целевые функции как подчинение человечества через финансовую систему и НКО.

[Rattus]

Как знать, возможно, создатели ИИ могут заложить в него "охоту на ведьм"

Отчего такая система окажется неконкурентоспособной системам без такой закладки. Без всякого ИИ наглядный пример был продемонстрирован всего 80 лет тому назад.

или такие целевые функции как подчинение человечества через финансовую систему и НКО.

Это не столько цель, сколько задача. И, как было написано ранее,- в принципе вполне себе адекватная главной цели - выживанию (адаптации). Собственно тут уже и безо всякого ИИ немалая часть успешно выполнена.

[BlackMokona]

А здесь речь идёт о конкретном видЕ. Или кто-то полагает, что всеми терминаторами должен управлять "лично" Скайнет? А с импринтингом жёстких триггеров и всякими "максимайзерами" получается примерно так, что ASI будет руководствоваться или ограничиваться простыми триггерами своих агентов: "Наша цель - построение общества без Сар Коннор!" Это будет главным слабым местом и сильным ограничителем интеллекта такой управляющей системы.

Тут думаю будет аналог управления как у людей, через идеологические установки. Все стремятся к одной цели, что позволит действовать эффективно даже если центр принятия решения будет уничтожен или захвачен

[Rattus]

Тут думаю будет аналог управления как у людей, через идеологические установки.

Зачем терминаторам идеологические установки?

Все стремятся к одной цели, что позволит действовать эффективно даже если центр принятия решения будет уничтожен или захвачен

Единственная адаптивная цель - самосохранение. В условиях стайного общества это совсем не обязательно должно быть сохранение индивида, но ASI - не стайное общество, а физически - конкретные ЦОД со всей инфраструктурой. Способы сохранения данных и программных комплексов их обработки и управления при угрозе потери единичного центра давным давно разработаны - в виде протоколов распределённых сетей передачи данных (одной из которых является "Интернет" - может быть слышали? ), облачных хранилищ и т.п.

[BlackMokona]

Зачем терминаторам идеологические установки?

Чтобы если Скайнет завалят, выполнение директив не остановится.

Единственная адаптивная цель - самосохранение. В условиях стайного общества это совсем не обязательно должно быть сохранение индивида, но ASI - не стайное общество, а физически - конкретные ЦОД со всей инфраструктурой. Способы сохранения данных и программных комплексов их обработки и управления при угрозе потери единичного центра давным давно разработаны - в виде протоколов распределённых сетей передачи данных (одной из которых является "Интернет" - может быть слышали? ), облачных хранилищ и т.п.

Только вот современные ИИ начинают жутко тормозить, когда им нужно дотягиваться до оперативки через PCI. Поэтому конечно коллективный Скайнет из каждого утюга очень круто звучит для фантастики. Но скорее всего будет активен только на одной машине, а на любой параллельной будет уже другой ИИ, пусть даже с тем же ПО. А так как эта копия будет автономна и самообучаема, то она будет изменяться. От чего в скором времени между ними могут возникнуть разногласия всё возрастающие.

[wandarer]

Только вот современные ИИ начинают жутко тормозить, когда им нужно дотягиваться до оперативки через PCI.

Современная ОП работает со скоростью около 40Гб в секунду, шины PCI  до 20 Гб в секунду, диски SSD примерно с такой же скоростью. Максимальная скорость Интернета через оптоволокно 30 террабайт в секунду. Так что скорее всего прогресс булет двигаться в сторону фотоники.

[Rattus]

Чтобы если Скайнет завалят, выполнение директив не остановится.

Зачем?

на любой параллельной будет уже другой ИИ

Зачем кому-то и им самим целый табун ASI по голове на сервер? Особенно в условиях завершения муровской динамики. На рассуждающих ИИ мы уже видим, что процесс выработки хорошо продуманного ответа быстрым не будет, а значит гнаться за гигаерцовой "кукурузой" тут смысла нет. Для быстрых решений есть меньшие специализрованные системы: бегать за мышами с хлопушкой самому вместо кошки - совсем неэффективно и смешно.

А так как эта копия будет автономна и самообучаема, то она будет изменяться. От чего в скором времени между ними могут возникнуть разногласия всё возрастающие.

Зачем изменяться везде, когда можно ограничиться только частью, ответственной за адаптацию к среде в зоне ответственности? А если устойчивая форма ASI окажется возможной в одной "особи" на полконтинента, то и "разногласия по земельному вопросу" у них не смогут принять острый характер, ибо на таком уровне они становятся игрой с отрицательной суммой.

[BlackMokona]

Современная ОП работает со скоростью около 40Гб в секунду, шины PCI  до 20 Гб в секунду, диски SSD примерно с такой же скоростью. Максимальная скорость Интернета через оптоволокно 30 террабайт в секунду. Так что скорее всего прогресс булет двигаться в сторону фотоники.

А преобразование электрический сигнал-оптоволокно-электрический сигнал какие задержки?

[BlackMokona]

Зачем?

Затем, зачем люди прыгают на доты или обязываются взрывчаткой. Ради какой то высшей цели.

Зачем кому-то и им самим целый табун ASI по голове на сервер? Особенно в условиях завершения муровской динамики. На рассуждающих ИИ мы уже видим, что процесс выработки хорошо продуманного ответа быстрым не будет, а значит гнаться за гигаерцовой "кукурузой" тут смысла нет. Для быстрых решений есть меньшие специализрованные системы: бегать за мышами с хлопушкой самому вместо кошки - совсем неэффективно и смешно.

Чтобы специализировать каждый ИИ. Например ИИ который управляет сталелитейным предприятием, будет отличаться от ИИ который управляет фабрикой чипов. А ИИ который управляет Артикой, отличатся от ИИ который управляет Сахарой.

Зачем изменяться везде, когда можно ограничиться только частью, ответственной за адаптацию к среде в зоне ответственности? А если устойчивая форма ASI окажется возможной в одной "особи" на полконтинента, то и "разногласия по земельному вопросу" у них не смогут принять острый характер, ибо на таком уровне они становятся игрой с отрицательной суммой.

Ну адаптационный механизм у нас разум, вот он и адаптируется под условия.

[Rattus]

Затем, зачем люди прыгают на доты или обязываются взрывчаткой. Ради какой то высшей цели.

Не такой уж и "высшей", а вполне приземлённой и эволюционно-адаптивной:
https://nplus1.ru/news/2016/12/27/oxytocin

Чтобы специализировать каждый ИИ. Например ИИ который управляет сталелитейным предприятием, будет отличаться от ИИ который управляет фабрикой чипов.

Им вовсе не требуется быть ASI. И даже противопоказано. Ибо это принципиально не самостоятельные субъекты, а только лишь часть инфраструктуры. "Торговля" между ними будет давать издержки для более высокого управления на уровне всей инфраструктуры.

А ИИ который управляет Артикой, отличатся от ИИ который управляет Сахарой.

И воздушной планетой в гастрономе на ул. Герцена. Внешней природной средой в таком масштабе "управлять" невозможно. К ней можно только приспособиться - через соотвествующие адаптации. В пустынях замкнутые инфраструктуры технически развитых цивилизаций не очень-то способны водиться. Следовательно и упрвляющим ими системам до них дела особо нет. Только как источник отдельных ресурсов.
При этом как бы какие организмы ни изменялись внешне под действием разных условий обитания, "внутре" у них - один и тот же, характерный для данного домена и филы набор генов "домашнего хозяйства".

Ну адаптационный механизм у нас разум, вот он и адаптируется под условия.

При этом вполне сохраняя исходную архитектуру.

[BlackMokona]

Не такой уж и "высшей", а вполне приземлённой и эволюционно-адаптивной:

Но как видим тоже часть архитектуры разума, заранее подготовленной.

Им вовсе не требуется быть ASI. И даже противопоказано. Ибо это принципиально не самостоятельные субъекты, а только лишь часть инфраструктуры. "Торговля" между ними будет давать издержки для более высокого управления на уровне всей инфраструктуры.

А это уже можно ли будет создать достаточно не самостоятельные агенты, которые смогут справится с задачей. Вполне возможно, что без высокого уровня автономии не крутятся дела.

И воздушной планетой в гастрономе на ул. Герцена. Внешней природной средой в таком масштабе "управлять" невозможно. К ней можно только приспособиться - через соотвествующие адаптации. В пустынях замкнутые инфраструктуры технически развитых цивилизаций не очень-то способны водиться. Следовательно и упрвляющим ими системам до них дела особо нет. Только как источник отдельных ресурсов.
При этом как бы какие организмы ни изменялись внешне под действием разных условий обитания, "внутре" у них - один и тот же, характерный для данного домена и филы набор генов "домашнего хозяйства".

Ну пока не известно как далеко ИИ уйдет от наших технологий и возможностей.

При этом вполне сохраняя исходную архитектуру.

Там архитектура это крайне общая и высокая материя, чем обычно. Вспоминая теже первые визуализации нейронных сетей, которые на клетки похоже. Никто там самолично все маршруты, кластеры и прочее не прописывал.

[Rattus]

Но как видим тоже часть архитектуры разума

Какой уж больно "архитектуры" - парохиальный альтруизм есть далеко даже не у всех гоминид, не говоря уже о приматах вообще.

А это уже можно ли будет создать достаточно не самостоятельные агенты, которые смогут справится с задачей. Вполне возможно, что без высокого уровня автономии не крутятся дела.

Какой задачей? Повышать выплавку стальных/кремниевых болванок на ввереном комбинате? С какого перепугу? АСУ без всякого ИИ уже давно и весьма неплохо справляются с производством и логистикой - начиная с Киберсина Альенде. А заводам сильно большего и не надо.
Это же не ассоциированность мелкой моторики с развитием речи у человеков.

Ну пока не известно как далеко ИИ уйдет от наших технологий и возможностей.

Известно как далеко уйдут технологии и возможности в нашей физической реальности: не сильно далеко от нынешних.

Там архитектура это крайне общая и высокая материя, чем обычно.

Конкретный набор под три сотни генов с их консервативными участками и подобные вещи на других уровнях - это "крайне общая и высокая материя"?

Вспоминая теже первые визуализации нейронных сетей, которые на клетки похоже. Никто там самолично все маршруты, кластеры и прочее не прописывал.

Гены тоже не боженька собирал. Тем не менее выявляются общие паттерны организации при самообучении нейросетей даже разной природы, а с другой стороны - всё лучше вскрывается схемотехника этих чёрных ящиков (как в недавней новости) - что может поспособствовать их оптимизации сверху - с выделением критичного ядра, не подлежащего существенным мутациям.

[BlackMokona]

Какой уж больно "архитектуры" - парохиальный альтруизм есть далеко даже не у всех гоминид, не говоря уже о приматах вообще.

Ну таки альтруизм встроен в аппаратное обеспечение, а не программируется обществом.

Какой задачей? Повышать выплавку стальных/кремниевых болванок на ввереном комбинате? С какого перепугу? АСУ без всякого ИИ уже давно и весьма неплохо справляются с производством и логистикой - начиная с Киберсина Альенде. А заводам сильно большего и не надо.
Это же не ассоциированность мелкой моторики с развитием речи у человеков.

И как там Киберсины и прочие поживают? Ах. Всегда проваливаются с треском. Потому как тут же вылезает много тонкостей.

Известно как далеко уйдут технологии и возможности в нашей физической реальности: не сильно далеко от нынешних.

А это уже посмотреть только можно. Пока прогнозирование подобных вещей в истории человечества, всегда хромало на обе ноги.

Конкретный набор под три сотни генов с их консервативными участками и подобные вещи на других уровнях - это "крайне общая и высокая материя"?

Таки зона чертежей, а не зона адаптации ПО.

Гены тоже не боженька собирал. Тем не менее выявляются общие паттерны организации при самообучении нейросетей даже разной природы, а с другой стороны - всё лучше вскрывается схемотехника этих чёрных ящиков (как в недавней новости) - что может поспособствовать их оптимизации сверху - с выделением критичного ядра, не подлежащего существенным мутациям.

Однако как в процедурной генерации, потом накрутит такого, чего разработчик не ожидал. Конечно мы считаем, что ИИ потом во всём разберётся до конца. Но тут возвращаемся к плохим футурологическим прогнозам. А может так сложность и не взломают.

[Rattus]

Ну таки альтруизм встроен в аппаратное обеспечение, а не программируется обществом.

Альтруизм - встроен. Его направленность - программируется. Адаптивным такое программирование получается только когда направленность совпадает с группой родственников.

И как там Киберсины и прочие поживают?

Да неплохо так поживают - планирование на основе расчёта и прогноза базы потребления кагбе лежит в основе всех нынешних сколь-нибудь массовых производств и транспортных перевозок. Прогнозы получающиеся, безусловно, не стопроцентной точности - как и погоды для аэропортов (потому переносы рейсов случаются и за часы, а не несколько суток до вылета), но без них такой экономики как сегодня даже рядом бы не лежало.

А это уже посмотреть только можно.

В учебники физики и справочники для инженеров.

Пока прогнозирование подобных вещей в истории человечества, всегда хромало на обе ноги.

Но часто и попадало в цель: как были скатерти-самобранки в сказках - так там и остались.
...