И создал человек бога...

[Klapaucius]

Не является ли эта библейская история своеобразной мыслью древних людей, переданной нам через века - что любое "сотворённое" рано или поздно захочет выйти на первый план, отодвинув, если нужно, в сторону "сотворившего"?

Нет это банальный антропоморфизм. Аналогия историй "когда сын перестает слушаться отца"

Бывает немного позатейливее:

Вдруг из маминой из спальни,
Кривоногий и хромой,
Выбегает умывальник
И качает головой

[Rattus]

Вы оперируете словами, а от меня требуете "строчек кода"? Забавно...

Вы находите забавным требование подтвердить сильное заявление фактами?
Это ваше заявление:

Энтропика "сама" научилась играть в пинг-понг? Нет, её такой сделали. То, что из успехов машины делается вывод о том, что "интеллект" есмь некая самостоятельная животворящая сила - попахивает в лучшем случае желанием явить публике сенсацию, а в худшем - квазирелигиозным шарлатанством.

сильно почти до обвинения Висснер-Гросса в подлоге.
Вот Мы и спрашиваю - на каком собственно конкретном основании Вы его выдвинули?

Конечно же, я их не приведу, ибо я не программист.

А - ну т.е. это был эпизод необоснованного пустословия и поклёпа на программиста? Ну ОК.
Как уже писал - правила форума не препятствуют пользователям самим подмачивать себе репутацию...

Кода циничный "ИИ" доберётся до вашей дряхлой тушки, подключённой к аппарату ИВЛ - позырим...

Бггг - А Ви таки ещё надеетесь дожить до пенсии там, где вполне ЕИ недавно принял известное (и в общем демографически понятное) решение?
Или может ИИ допрежь занимался проведением геноцидов и строительством концлагерей?
Если для ЕИ политика - только искусство возможного - то сфига ли для ИИ это будет не так? Если где-то не будет достаточно ресурса и сколь-нибудь реальных путей его получения извне - режим тотальной экономии будет с необходимостью объявлен хоть кем. Поиграйте ну хоть во Frostpunk что ли для получения хотя бы самых общих представлений об организации управления инфраструктурой цивилизации.
Так что голым афедрономъ можно пугать много кого - но вот ежа - не самый лучший выбобръ.

Типа вы не в курсе, что клинические испытания фармпрепаратов, например, проводятся не только на их эффективность, но и на их безвредность?

Типа после тысячи исследований о безопасности ГМО-продуктов они уже всюду разрешены к выращиванию? Ну и фигли тогда съезжать с фактической темы на теоретическую фарму?

Странно. А мне показались сомнительными именно ваши мысленные эксперименты.

Это было лишь зеркальное отражение ваших в физиологии. Может быть стоит сначала присмотреться к ним, чем пенять на зеркало?

См. выше, моё утверждение про "максимум - интеллект хорька".

Опять таки зависит от задачи. Интеллект интерфейсной части может быть как у всех членов учёных советов кембриджа-оксфорда-принстона-гарварда-MIT вместе взятых, но она вполне может быть всецело подчинена по факту физических обстоятельств какой-нибудь системе автоматизированного управления ресурсами региона с интеллектом не более хорька - подобно оператору АЭС, подчиненному показаниям её датчиков на пульте.
Для управления многими фундаментальными инфраструктурными процесами никакого интеллекта не нужно. Но если любой интеллект будет пренебрегать вытирать себе жoпу, сколь бы он интеллектуален ни был - последствия не замедлят сказаться. А совокупность таких процессов и определяет все физические фактические возможности любой цивилизации по управлению средой, да и собой. Как уже писалось - какой бы тилект ни был - способ превращения свинца в золото в промышленных масштабах он не придумает никогда, ибо ядерная физика - сука бессердечная.

теперь представьте этот процесс не в пределах вашей комнаты, а в планетарном масштабе.

А теперь перечитатйте внимательно уже данный ответ на этот вопрос:

естественно никакой идиёт не будет проектировать сильный ИИ сразу с нуля и в единственном физическом экземпляре

Но даже если вдруг:

Глобальный эволюционный тупик? Такой риск всегда есть из-за принципиальной непредсказуемости и макроэволюции и процессов обучения нейросетей (хотя судя по известной нам палеонтологической летописи сам по себе бывает он весьма нечасто - особенно в глобальном плане). Ну что-ж - тогда будет откат и последующая динамическая стабилизация в состоянии нескольких конкурирующих невсемирных контроллеров. Ну или незатухающие популяционные колебания пока есть поток нужных ресурсов.

[Serg53]

Основное свойство мышления человека это способность к фантазированию. Фантазия является основой творческой, осмысленно-созидательной деятельности.

Вопрос. Каким образом может быть реализована способность к фантазированию в искусственном интеллекте?

[Rattus]

Как и в живой природе мутации - с помощью генератора случайностей.

[MenFrame]

Я бы назвал философию "интеллектуальной гимнастикой".

Онанизм тоже гимнастика....

Возможен ли в сложной нейросети процесс действительно случайный/самопроизвольный?

Нейросеть, работает на результат и им детерминированна. Случайность в ней есть, по крайней мере когда мы говорим об обучении.

В каком смысле я упоминаю "свободу воли" - см. предыдущий абзац.

То о чем вы говорите не к свободе, ни к воле отношения не имеет. Так воля это желание, свобода это уровень препятствий на пути к реализации желания.
А то я могу утверждать что свобода воли равна сумме углов квадратного корня...

Для нейросети, вопрос "случайности" - это просто вопрос о возможности возникновения абсолютно спонтанных, ничем не обусловленных импульсов, которые в итоге могут отражаться на её работе.

Этот ньюанс вообще не как не сказывается ни на чем. За исключением может быть защищенности крипто систем.

То есть минимум "самостоятельности", максимум "функциональности". Но тогда действительно не "Бог" а просто "Джинн". Который, тем не менее, неизбежно будет иногда давать сбои, превратно понимать желания, или служить психопатам.

Функциональность без внешней поддержки и есть самостоятельность.

Если "ИИ" имеет представление о нравах и потребностях мартышек - оптимизация палки (на основе этого представления) - вовсе не проблема.

Поэтому ИИ и будет оптимизироваться под потребности мартышек.

"Джинн" постепенно может переродиться в куда менее послушное существо.

Вообще фантазии про перерождение, чем то напоминают древнюю науку про зарождение жизни. О том что мыши зарождаются в куче гниющих тряпок. Главное их дольше подержать в шкафу.

И насколько надёжна самоконтролируемая система?

Если система не имеет собственного эгоизма, то можно сказать что она почти абсолютно надежна. При условии что она многократно дублирована.

[MenFrame]

Вопрос. Каким образом может быть реализована способность к фантазированию в искусственном интеллекте?

Воображение человека основано на работе его системы предсказания реальности, когда человек осознано вносит какие то коррективы в ее работу.

[Maki]

сильно почти до обвинения Висснер-Гросса в подлоге.

Отсылка к непререкаемому авторитету?

А - ну т.е. это был эпизод необоснованного пустословия и поклёпа на программиста? Ну ОК.

Нет, это был эпизод обоснованных сомнений в выводах программиста.

Вот Мы и спрашиваю - на каком собственно конкретном основании Вы его выдвинули?

На основании неубедительности и квазирелигиозности его выводов, сделанных из неплохого, в целом, эксперимента.
Возможно, я ошибаюсь. Но для любого интеллекта естественно ошибаться.

Или может ИИ допрежь занимался проведением геноцидов и строительством концлагерей?
Если для ЕИ политика - только искусство возможного - то сфига ли для ИИ это будет не так?

Вы только что обосновали, что ошибки, благоглупости и мерзости "ЕИ" будет тако же свойственны и машине.

Типа после тысячи исследований о безопасности ГМО-продуктов они уже всюду разрешены к выращиванию? Ну и фигли тогда съезжать с фактической темы на теоретическую фарму?

Ну и фигли было съезжать с "ИИ" на теоретические ГМО?
А теперь вернёмся к нашим нейросетям. Безопасность их внедрения в глобальных масштабах таки придётся доказывать. Особенно, с полномочиями "Джинна", или, тем паче, "Бога". Есть возражения?

Для управления многими фундаментальными инфраструктурными процессами никакого интеллекта не нужно.

Согласен.
Корректным ли будет уточнение, что для управления инфраструктурными процессами совершенно не нужна (а точнее, вредна) "личностная", "субъектная" составляющая "ИИ"?

А теперь перечитатйте внимательно уже данный ответ на этот вопрос:

Читал вполне внимательно.

Глобальный эволюционный тупик? Такой риск всегда есть из-за принципиальной непредсказуемости и макроэволюции и процессов обучения нейросетей (хотя судя по известной нам палеонтологической летописи сам по себе бывает он весьма нечасто - особенно в глобальном плане). Ну что-ж - тогда будет откат и последующая динамическая стабилизация в состоянии нескольких конкурирующих невсемирных контроллеров. Ну или незатухающие популяционные колебания пока есть поток нужных ресурсов.

Не уверен, что темпы эволюции биоты и периодичность кризисов соотносима с возможными катастрофическими процессами в глобальных нейросетях. Возможно, при наличии соответствующих вычислительных мощностей, всё будет происходить с неожиданно высокой скоростью.

[Rattus]

Отсылка к непререкаемому авторитету?

Где? У ВАс проблемы с чтением?

Нет, это был эпизод обоснованных сомнений в выводах программиста.

Поскольку никаких конкретных обоснований своих сомнений Вы не привели - то именно что необоснованных.

На основании неубедительности и квазирелигиозности его выводов

Каких именно?

Возможно, я ошибаюсь. Но для любого интеллекта естественно ошибаться.

Но далеко не всякого естественно упорствовать в своих ошибках - только для недалёкого.

Вы только что обосновали, что ошибки, благоглупости и мерзости "ЕИ" будет тако же свойственны и машине.

Что такое "мерзости"? То, что невыгодно лично вам, как бледнотику? Так, а кто сказку-то обещал?
Сильный ИИ должен обеспечивать более эффективное управление инфраструктурными процессами - т.е. допускать меньше ошибок и соответственно уметь верно прогнозировать на более длительные промежутки времени. Всё остальное - не имеет отношения к вопросу.

Ну и фигли было съезжать с "ИИ" на теоретические ГМО?

ГМО, на минуточку, вполне практические. Как и их запреты. Росказни об их "недоказанной безвредности" - очень хорошая и наглядная аналогия всякого подобного благоглупостного алармизма от невежества.

Безопасность их внедрения в глобальных масштабах таки придётся доказывать.

Кто доказывал безопасность внедрения системы Периметр? Постройки NORAD? Киберсина? Долго ли? С каким итогом?

Корректным ли будет уточнение, что для управления инфраструктурными процессами совершенно не нужна (а точнее, вредна) "личностная", "субъектная" составляющая "ИИ"?

Не факт. Поскольку в основе инфраструктуры находятся организмы, оными обладающая. Поэтому для наиболее эффективного ими управления эти составляющие могут быть ниразу не лишними, а совсем наоборот - как часть эргономичного интерфейса.

Не уверен, что темпы эволюции биоты и периодичность кризисов соотносима с возможными катастрофическими процессами в глобальных нейросетях.

Тогда эти "катастрофические процессы" будут эволюционно незначительны.

Возможно, при наличии вычислительных мощностей, всё будет происходить с неожиданно высокой скоростью.

Что "всё"-то? Глобальная ядреная война? Она что с ИИ что без имеет одни и те же последствия - не фатальные даже для простой цивилизации, не говоря уже о биологическом виде.

[Maki]

Каких именно?

"Утверждается, что интеллект – это сила, направленная, на максимизацию свободы действий в будущем или, если говорить более сложными словами, на максимизацию производства энтропии в некоторой долгосрочной перспективе. Вот так просто. Интеллект не хочет оказаться зажатым, он стремится к свободе. Он хочет “захватить” как можно больше вариантов возможного будущего. В подтверждение принципа в частности предлагается искусственный интеллект, который умеет решать множество задач на мышление, руководствуясь исключительно этим принципом. Эта программа без какого-либо предварительного обучения реализует в экспериментальных условиях целый комплекс сложных разумных поведенческих реакций. Программа может играть в игры, управлять движением роботов, решать задачи, требующие кооперации, и успешно играть на бирже. Причем в отличие от большинства искусственных интеллектов, данная программа сама определяет свои задачи, не ждет конкретных указаний человека".
Это корректное изложение?
Господин сконструировал некую конкретную нейросеть и на основе её поведения выводит некую глобальную формулу. Мне такое кажется сомнительным. Если бы своё уравнение он вывел из наблюдения над нематодами или людьми, с приложением статистических данных - другое дело.

То, что невыгодно лично вам, как бледнотику? Так, а кто сказку-то обещал?

Так о том и разговор. Вместо всемогущего "Бога" - усовершенствованный аналог мясного политикана, который ошибается, врёт, крышует, и пускает пыль в глаза ещё эффективней, чем то делала бы двуногая мартышка.

как часть эргономичного интерфейса

Согласен. Всяческие сири с алисами - лучшее тому подтверждение.

Она что с ИИ что без имеет одни и те же последствия - не фатальные даже для простой цивилизации

Да, согласен. Но из этого следует ещё один вывод. Раз любые косяки "ИИ" можно считать не фатальными - то и выгоды от его включения во властную иерархию бледнотиков также придётся считать не особо важными.

[Rattus]

Это корректное изложение?

Это популярное изложение.

Господин сконструировал некую конкретную нейросеть и на основе её поведения выводит некую глобальную формулу.

Это откуда Вы взяли? А почему не наоборот? Формула очень простая и придумать её можно было ещё полвека назад - со времён Шеннона и Фон Неймана - там нет ничего сногсшибательно-уникального. И неёросеть там только как инструмент для реализации этой формулы на практике.

Вместо всемогущего "Бога"

Где в водной что-то сказано о всемогущести?

Всяческие сири с алисами - лучшее тому подтверждение.

И указание на то, что это направление вполне себе живое, развивающееся и в общем востребованное.

Раз любые косяки "ИИ" можно считать не фатальными - то и выгоды от его включения во властную иерархию бледнотиков также придётся считать не особо важными.

Это опять таки если не смотреть дальше носа - если это включение будет сохраняться несколько поколений (а потом и десятков, сотен поколений) - то картина получается совершенно иная чем без него.

[николай теллалов]

любое "сотворённое" рано или поздно захочет выйти на первый план, отодвинув, если нужно, в сторону "сотворившего"?

когда сотворитель - тиран, тогда это нормально, даже обязательно;
фишка в том, чтобы не становиться копией отодвинутого

[николай теллалов]

Вообще, имхо, в теме всё упёрлось в вопрос - ОБЯЗАТЕЛЬНЫ ли некоторые фазы в развитии разума или НЕ ОБЯЗАТЕЛЬНЫ.
Или они жёстко привязаны к видовому гено..., скажем так, генокоду.
Есть ли некие поступки разума универсальными, не зависящими от того, на какой платформе разум реализован?

К примеру, любознательность. Желание узнать что-то новое - это будет общеразумное свойство? Или всё-таки разумное + видовое?
"Желание" освободиться от опеки и попробовать сделать что-то самому - общеразумное? Или оно как-то вытекает из нашего эволюционного происхождения?

Потому что если есть некие "общеразумные" свойства - то ИИ их неизбежно пройдёт.

вот самая суть вопроса!

[николай теллалов]

Надёжный холоп - невозможен.

вот именно
как и "всемилостивейший хозяин"

остается один вариант - ДРУГ, ПАРТНЕР

[Rattus]

Не один. Ещё есть ПАРАЗИТ и БЕССЛОВЕСНАЯ СКОТИНА - и вот это уже эволюционно-стабильные формы, способные существовать с незначительными вариациями геологически-долгое время.
Такие дела.

[Serg53]

Я бы назвал философию "интеллектуальной гимнастикой".

Онанизм тоже гимнастика....

Мастурбация и другие сексуальные извращения нередко наблюдаются и у диких животных. С интеллектом это никак не коррелирует. Одинаково часто встречается и у "одарённых" личностей и у бездарностей. А вот причины этого могут оказаться значительно сложнее, чем мы думаем. Но для этого надо разобраться каким образом работа мозга связана с пространством и временем на квантовом уровне.

[MenFrame]

А вот причины этого могут оказаться значительно сложнее, чем мы думаем. Но для этого надо разобраться каким образом работа мозга связана с пространством и временем на квантовом уровне.

Вот это и есть интеллектуальный онанизм. Когда интеллект используется не для познания мира, проверки гипотез и прочего, а для удовлетворения текущих, часто неосознаваемых потребностей.

Интеллект не хочет оказаться зажатым, он стремится к свободе.

Зачем вы интеллекту какие то хотелки приписываете? Интеллект сам по себе не чего не хочет, это медицинский факт! Интеллект просто инструмент который ищет решение поставленной задачи.

[Rattus]

Но носитель его всегда хочет. Интеллект же оказываться просто наиболее универсальным воплотителем этого самого универсального хотения. Это универсальное хотение и отражено в уравнении Висснер-Гросса.
Если носитель вдруг расхочет, то интеллект перестаёт интелечить через весьма недолгий промежуток времени. Без жизни нет и не может быть никакого интеллекта. Хотя сам он может иметь и сильно разное конкретное воплощение, как и любой другой пример расширенного фенотипа, если он существует геологически-длительные масштабы времени, то в своей основе он будет иметь всё те же ribosomes making ribosomes.

[николай теллалов]

Не один. Ещё есть ПАРАЗИТ и БЕССЛОВЕСНАЯ СКОТИНА

ну речь же о ИИ с акцентом на ИНТЕЛЛЕКТ, а не на ИДИОТ

[Rattus]

ну речь же о ИИ с акцентом на ИНТЕЛЛЕКТ, а не на ИДИОТ

1. Временные эктопаразиты и паразитоиды (как и их экологические аналоги - хищники) могут иметь весьма сложную организацию и НС.
2. Носители паразита или высокоавтономного расширенного фенотипа вовсе не обязательно должны сохранить высокий уровень интеллекта в процессе коэволюции (он может быть как раз таки делегирован симбионту - о чём тут и ведётся речь).

[Maki]

Это откуда Вы взяли?

В популярном изложении.

А почему не наоборот? Формула очень простая и придумать её можно было ещё полвека назад - со времён Шеннона и Фон Неймана - там нет ничего сногсшибательно-уникального. И неёросеть там только как инструмент для реализации этой формулы на практике.

Ежели бы эта формула была выведена из данных естественнонаучных мозговедческих дисциплин - вопросов бы не было. А тут сумеречный программистский гений ВНЕЗАПНО открыл Универсальную Формулу Интеллекта, написал программу, и таким простым способом сей закон доказал... Пованивает шарлатанством.

Где в водной что-то сказано о всемогущести?

В нашей культурно-языковой традиции, понятию "Бог" соответствуют определённые сверхспособности, в том числе, "всемогущество".
А вообще, термин "Джинн" мне кажется более подходящим для описания компьютерных симбионтов.

И указание на то, что это направление вполне себе живое, развивающееся и в общем востребованное.

Более того, полагаю, что это направление станет основным.

Это опять таки если не смотреть дальше носа - если это включение будет сохраняться несколько поколений (а потом и десятков, сотен поколений) - то картина получается совершенно иная чем без него.

Очень сомневаюсь, что копмьютерзависимые мартышки будут практиковать такую затратную и архаическую традицию, как "деторождение" и "воспитание". Ну и любая катастрофа в глобальных нейросетях будет автоматически вызывать катастрофу в зависимой популяции.
Возможно, всё это является препятствием для слишком тесного слияния мартышек и компьютеров. И, после какого-то предела, их симбиоз делается разрушительным.
Следовательно, "сотен поколений" компьютеризированных мартышек может и не получиться.