ИИ: какого понимания нам не хватает?

[николай теллалов]

но не является важным (редко попадает во внимание в процессе размышлений о "природе"  ИИ)

в таком случае понимания нет, ибо "природа" ИИ как раз с этим связана

[гравицап]

набежала масса заинтересованных профанов. Заинтересованных в том что бы ИИ был нереализуем по крайней мере как можно дольше.

вот этот момент для меня ОСОБО интересен

чует (удаляю прилагательное) масса, что ИИ - угроза для их сладкого существования!
(потому и среди прочего толкают мантры "ИИ - угроза для человечества", когда аргументы "ИИ нереализуем" шатаются)
(но то, что для некоторых СОЦИАЛьНыХ ролей ИИ действительно опасен, вовсе не следует его опасность для человечества. Наоборот - ИИ есть новая ступень развития человечества)

вот ЭТОГО понимания многим тут не хватает
(впрочем, им сие понимание без надобности - следовательно не может им его не хватать, им своего мнения предостаточно по уши; всего им хватает...)

Чую я что вы разочаровались в человнчестве и мечтаете бразды правления передать в высшие инстанции. Пусть ии рпспределяет блага и дает наряды кому сколько угля на гора выдавать. И тогда справедливость настанет. Главное и аппелировать некуда , ии решило, значит правильно
 И его, робота то, протестами голодовками заюастовками не проймешь, кому неймется на удобрения или биотопливо.
И будет всем счастье

[гравицап]

(но то, что для некоторых СОЦИАЛьНыХ ролей ИИ действительно опасен, вовсе не следует его опасность для человечества. Наоборот - ИИ есть новая ступень развития человечества)

вот ЭТОГО понимания многим тут не хватает

Это понимание есть у подавляющего большинства, но не является важным (редко попадает во внимание в процессе размышлений о "природе"  ИИ)

У ии одна природа - творческий поиск человека.
А это такая природа которая мало того, что может включать человеческие как добродетели так и пороки, но еще и незастрахована от ошибок с непредсказуемыми последствиями

[EmperioAf]

в таком случае понимания нет, ибо "природа" ИИ как раз с этим связана

неочевидно как понимание того факта, что ИИ - новая ступень эволюции, может помочь реализации улучшения алгоритмов ИИ.

[Вайт]

в таком случае понимания нет, ибо "природа" ИИ как раз с этим связана

Вам известна «природа ИИ»? Вы знаете, что такое ИИ, как он будет работать, по каким принципам? Нет, этого вы не знаете. Вы не знаете, как работает мозг — в тех подробностях, чтобы его повторить, и не знаете, как добиться того, чтобы искусственные нейронные сети или любые другие искусственные системы можно было бы усложнить до «ИИ».

При этом вам, наоборот, были приведены аргументы, что ИИ невозможен, что усложнение любых создаваемых человеком систем столкнётся с непреодолимыми проблемами по мере их приближения к его собственной сложности. Вы эти аргументы опровергли? Тоже нет. Может быть, у вас есть основания считать их слабыми? Нет. Потому что вы их просто не понимаете, а в ИИ веруете. Но это же научный форум, тут веровать не полагается.

потому что эволюция - слепой процесс, а не инженер-конструктор с осознанной целью и планирующий свои действия

«Инженер-конструктор с осознанной целью и планирующий свои действия» — это физический процесс, при этом эволюция и мышление по своим физическим принципам процессы одинаковые. Поэтому или никто ничего не планирует, или эволюция не такой уж «слепой процесс», как те процессы, которые действительно можно назвать «слепыми».

Выход с нейрона ---- либо он есть , либо нет.

«Выход с нейрона — это ещё не всё, есть ещё взаимодействие нейронов через межклеточное пространство (spillover). Часть медиатора выбрасывается за пределы синаптической щели и растекается по пространству, образованному телами нейронов и телами окружающих их глиальных клеток. Именно эта часть мышления (и вообще взаимодействие нейронов между собой или с глией через межклеточное пространство) обычно называется «аналоговой» (хотя описание работы мозга как цифровой, аналоговой или смешанной — это всё околонаучно). Об этом известная популярная статья — Другая часть мозга. И вообще, даже если нервный импульс считать проявлением «цифровых» принципов работы мозга, то он всё равно имеет в основании континуум химических реакций в теле нейрона.

Вы фразу сейчас составили согласно четко сработавшим у вас в голове нейронам или она получилась случайно?

В чём, по-вашему, разница между «чётко сработавшими нейронами» и «получилась случайно»? Вопрос не риторический. Потому что «случайно» с научной точки зрения — это когда принципиально непредсказуемо сколько-нибудь точно. При этом «составление фраз» в мозге именно такой процесс, так как работа мозга связана с бифуркациями, а поведение системы в точке бифуркации непредсказуемо. О бифуркациях в мозге и в организме в целом написано здесь в первом и втором абзаце: Неравновесные фазовые переходы — Физическая энциклопедия. Надеюсь, физическая энциклопедия в качестве АИ вас устраивает?

И обратите внимание, и мозг, и организм в целом возникают в ходе морфогенеза (развития целого организма из одной клетки) — и этот процесс, как написано в ссылке выше, связан с неравновесными фазовыми переходами и, соответственно, с бифуркациями. При этом мышление, как упорядочение (синхронизация) хаотической активности нейронов — это тоже неравновесные фазовые переходы и потому тоже бифуркации, о чём тоже написано в ссылке выше. Таким образом, общий уровень — это морфогенез, развитие организма, более частный — это, мышление, синхронизация нейронов. В итоге мышление — это «непредсказуемость над непредсказуемостью».

на сегодняшний момент -- это самая экспериментально проверенная теория.

Верно. Как и общая теория относительности. Вот только объединить эти две самые проверенные теории не получается. Вкратце суть проблемы:

«Однако проблема в том, что представление о пространстве и времени ОТО является существенно макроскопическим, то есть пространство-время в ОТО «гладкое», и не может быть описано с точки зрения квантовой теории.»

«…усиливающиеся с уменьшением пространственно-временного масштаба флуктуации энергии приводят к тому, что на ультрамикроскопических масштабах порядка планковского 1,6⋅10-35 м пространство-время должно представлять так называемую квантовую пену (также называемую пространственно-временной пеной), а понятие направления в пространстве и времени теряют смысл. Например, по этой причине современные описания развития Вселенной начинаются, только когда Вселенная была размером 1,6⋅10-35 м. Малость этой величины можно проиллюстрировать следующим примером: соотношение планковской длины и размера ядра атома приблизительно такое же, как соотношение размеров человека и диаметра нашей галактики.»

Откуда берётся эта пена и что с ней делать, написано здесь: Пределы сложности искусственного интеллекта, глава 5.4. Сознание и квантовая механика.

В целом же нет и в принципе не может быть окончательных теорий. Все теории не точны и не полны, а те, которые точны и полны, — не имеют смысла.

нуда. а не осознаётся всё, что вне второй сигнальной.
а вне второй сигнальной -- практически всё, что было до неё. полмиллиарда лет эволюции

Вторая сигнальная — это что? Новый принцип мышления? Нет. Мозг всё та же нейронная сеть. Поэтому ничего принципиально нового в осознаваемое/неосознаваемое речь сама по себе не привнесла.

Представьте нейронную сеть. Чем сложнее сеть, то есть, упрощённо, чем больше в ней слоёв, тем более сложные признаки в данных она сможет выявить. Признаки — это некие абстрактные зависимости в данных. Другим словами, от слоя к слою уровень выявляемых сетью абстракций растёт.

Применительно к мозгу, уровень абстракций — это сложность образов. От форм, поверхностей, ускорений и т. д. к образам сложных объектов. Например, от отдельных поверхностей и границ к целостному образу дерева. И слово — это фактически тот же образ, который мозг распознаёт в условиях — например, от отдельных деревьев к лесу и далее к флоре, фауне, экологии и т. д. и т. п.. И объём таких не наблюдаемых непосредственно образов доступен человеку в максимальной из всех животных степени, ввиду сложности его мозга. Определяя в том числе и качественно иной уровень взаимодействия людей между собой, и возможность накапливать знания из поколения в поколения, создав письменность. В итоге, имея возможность к обобщениям много более высокого уровня, и поведение человека строится на масштабах много более глобальных, чем поведение животных более простых.

А вот сложность проходящих в мозге человека процессов как раз и может быть причиной наличия у него более «яркого» сознания. В котором кроме эмоций и образов есть ещё и выраженная речь, слова.

[Вайт]

Жалуйтесь в СПОРТЛОТО администрацию.

Успеется. Мне важнее, чтобы вы поняли, а не просто настоять на своём. Те вещи, о которых я пишу, малоизвестны, потому что сложны для понимания, их сложно мысленно представить, несмотря на вроде бы простоту слов. Марков не зря писал: «К сожалению, человеческий разум так устроен, что ему ужасно трудно понять подобные процессы. Когда мы сталкиваемся с примерами самоорганизации, нам всегда это кажется каким-то необъяснимым чудом.» И вот многие, вместо того, чтобы понять, или будучи неспособными на это, пытаются всяческими способами оправдать своё непонимание, в том числе игнорируя давно известные факты и научные теории.

Надо уметь отказываться от своих идей, если они неверны. В данном случае я имею в виду статью, судя по всему вашу, ссылку на которую вы время от времени приводите на форуме. Где написано, что без предварительных знаний в работе компьютера тоже будет очень сложно разобраться, поэтому нет ничего странного, что нам так сложно понять биологические системы. Только это недостаточный аргумент за то, что биологические системы находятся на том же уровне сложности, что и компьютеры. Они качественно сложнее, о чём ниже.

Мы просто пользуюсь общепринятыми определениями терминов, а не пытаюсь нести никому не понятную отсебятину.

Во-первых, ваш «активный нагреватель» — это общепринятый термин? Во-вторых, вам ранее была приведена цитата из АИ, что все системы диссипативные. Поэтому незачем путать Проходящего Кота.

В-третьих же, тот факт, что все системы диссипативные, на самом деле тривиален. Поэтому Пригожин назвал диссипативными системами совершенно особенные системы, на определение которых вам тоже была приведена ссылка (причём за последний год уже неоднократно). За что ему и дали Нобелевскую премию. И «активные нагреватели», к которым вы, как я понимаю, относите в том числе холодильники, — это не диссипативные системы, так как под определение диссипативной системы из второй ссылки холодильники не подпадают.
***

Теперь о сложности. Цитата: «Грань хаоса — критическая точка системы, в которой незначительное изменение может либо вызвать хаотическое поведение системы, либо замкнуть систему в статическом состоянии. Эта точка аналогична фазовому переходу в термодинамике. В этой точке сложность (количество информации, требуемое для описания системы) максимальна.» Другими словами, грань хаоса — это точка бифуркации, а максимальное количество информации о системе — это полное понимание системы на всех уровнях её материи. Но такого понимания материи нет и оно невозможно.

Например, согласно определению бифуркации, в точке бифуркации на смену поведения системы может повлиять бесконечно малое изменение условий. Однако описание системы на уровне «бесконечно малого изменения условий» равносильно абсолютной точности описания — но абсолютная точность недостижима и не имеет смысла. В результате сложность описания системы, поведение которой связано с постоянными бифуркациями — а это и организм в целом, и мозг в частности (в посте выше об этом тоже написано), будет попросту несравнимо выше, чем любого компьютера.

Иначе говоря, отличие в сложности качественное. Компьютеры (бифуркация в которых суть кранты компьютеру) и живое (где они основа развития и существования) — это принципиально разные по сложности и принципу работы системы. (Подробно об этом всём написано в первой части книги, ссылка на которую в посте выше).

[Проходящий Кот]

Расширение зоны употребления какого-либо термина допустимо, хотя лучше этого все-же не делать.
А вот суженое понимание какого-то термина недопустимо.
Что , в языке мало слов?
Именно поэтому текст описывающий физические процессы (в широком смысле) не может быть воспринят как описание разума.

[николай теллалов]

Чую я что вы разочаровались в человнчестве и мечтаете бразды правления передать в высшие инстанции

трудно более нелепо и ошибочно истолковать мои слова

У ии одна природа - творческий поиск человека

непонятный мне афоризм

неочевидно как понимание того факта, что ИИ - новая ступень эволюции, может помочь реализации улучшения алгоритмов ИИ.

самоусовершенствование, которое как процесс ИскИнту дается (ожидаемо что так) намного легче, нежели человеку

«Инженер-конструктор с осознанной целью и планирующий свои действия» — это физический процесс, при этом эволюция и мышление по своим физическим принципам процессы одинаковые.

на телеологию смахивает

Вам известна «природа ИИ»?

при всех моих недостатках, я не столь нагл

но считаю, что имею понятие чем ИИ НЕ является

При этом вам, наоборот, были приведены аргументы, что ИИ невозможен

сии аргументы:
- слабы
- невнятны
- априорны, т.е. по сути своей являются идеологемами

это же научный форум, тут веровать не полагается

хороший совет, вам же им следует воспользоваться, ибо постулат об уникальности, непостижимости и невозпроизводимости человеческого интеллекта - как раз религиозный

[гравицап]

Поиски природы ИИ очень увлекательное занятие. Загадка века - откуда ети ИИ берутся? Может быть панспермия? Может быть зародыши микросхем заносятся на землю кометами и здесь совершенствуются. Или залежи микоросхем в океанских впадинах в результате тектонических движений извергаются на поверхность и самосовершенствуются в айфоны.

[гравицап]

Нашествие роботов

[otu K.]

Загадка века - откуда ети ИИ берутся?

всё просто (да простит Николай за примитивизм). концентрация информации сначала была в основном в геноме, затем переместилась в энциклопедии, теперь перемещается в ИИ. его необходимость из этого уже доказана )))

[гравицап]

А а, вот так значит. Но в энциклопедиях и вобще в книгах человеческие добродетели и пороки присутствуют? Почему ж их в ИИ не будет? И ошибки тоже

[николай теллалов]

да простит Николай за примитивизм

11110001000010000100010

[otu K.]

Почему ж их в ИИ не будет?

возможно будут. скорей всего он первым поймёт причину дуальности информации, как идеи и как материальное воплощение

[MenFrame]

Обычно задаю этот вопрос кому то конкретно, но попробую его задать всем...
Какую книгу об интеллекте вы читали последней и когда?

[otu K.]

Вы намекаете, что мы упускаем существенное из последних исследований? просветите, если не затруднит

[otu K.]

  многие здесь в состоянии сами писать книги, это ничего не меняет и не доказывает

зы. это намёк уважаемому Вайту излагать мысли лаконичнее и прозрачнее. если для понимания Вашей мысли нужно перелопатить семь тонн макулатуры, Вы явно не стремитесь к пониманию. с уважением примитив

[гравицап]

Почему ж их в ИИ не будет?

возможно будут. скорей всего он первым поймёт причину дуальности информации, как идеи и как материальное воплощение

Вы сами то эту причину понимаете? Дуальности информации.
Но меня больше другое интересует - раз уж ИИ будет самосовершенствоваться, какое у него будет понимание совершенства? Откуда оно возьмется? И какое место в его совершенстве будет занимать человек.

[otu K.]

Вы сами то эту причину понимаете? Дуальности информации.

нет, конечно. иначе полагал бы что какой-то более умный человек это понимает. таки нет))) поэтому и оставляю эту проблему более высокому уровню разума

какое место в его совершенстве будет занимать человек.

примерно как для нас сейчас ДНК )))

[гравицап]

Вы сами то эту причину понимаете? Дуальности информации.

нет, конечно. иначе полагал бы что какой-то более умный человек это понимает. таки нет))) поэтому и оставляю эту проблему более высокому уровню разума

какое место в его совершенстве будет занимать человек.

примерно как для нас сейчас ДНК )))

А может ее и нет? Дуальности ? Че это вообще такое ?
Примерно как сейчас днк челлвек не только для ии, но и для мебели и для технологий любых. И что эта аналогия дает окромя разминки остроумия?