Психика, сознание, разум - определения и возможность моделирования

[Серый Страж]

Отсюда можно прийти к выводу, что элементы, из которых сформирована система, должны способствовать (или не препятствовать) реализации самосохранения самой системы.

Деонтология не распространяется на неразумные/несоциальные системы. Скажем так, некоторые живые организмы эволюционно приобрели механизмы обеспечивающие саморегуляцию их экосистем. При том многие экосистемы открытые и замкнуты на массу приходящей и уходящей материи. Например, на громадную массу кислородной атмосферы. При замыкании система быстро отравится, а так потихоньку "травит" атмосферу, благо, что для кого-то этот яд кормом и т.д. Тем не менее, это не какой-то долг, а просто устойчивая адаптация к сложившемуся положению.

Здесь слово "должны" используется как необходимое условие (как констатация необходимости), а не в некоем юридическом смысле. То есть, если данное условие не будет соблюдаться, то это приведёт к разрушению системы. И в процессе эволюции этот принцип неуклонно соблюдается.

Тем не менее, Rattus выше упоминал и глобальные нарушения такого равновесия - Кислородную катастрофу, можно указать и локальные - цветение пруда, когда деятельность отдельных организмов приводит к качественному изменению системы, причём во втором случае к деградации - тотальному упрощению. Обратный процесс - зарастание пустошей вначале бурьяном, потом несколькими сменяющимися поколениями лесов со сменой видового состава. Это тоже далеко от сохранения системы.

Поэтому я и говорю, что при сохранении чего-либо следует указывать конкретную систему:

Система более высокого уровня имеет приоритет в плане реализации самосохранения перед системами более низкого уровня – то есть, своими элементами. В данном случае, различие в уровнях определяется взаимоотношениями система – её элемент (подсистема системы).

Отсюда можно прийти к выводу, что элементы, из которых сформирована система, должны способствовать (или не препятствовать) реализации самосохранения самой системы. Свойства, качества, способности, функционал и т.д. элементов должны изменяться в процессе эволюции системы именно в эту сторону – в противном случае система станет нежизнеспособной и деградирует, распадётся, будет поглощена другими системами и т.д.

Любая система будет сохраняться за счёт изменений структуры своих подсистем и элементов и связей между ними.

Например, в случае глобального нарушения такого равновесия, глобальная система (биосфера) вполне себе осталась (сохранилась) путём кардинальной перестройки своих составных частей (различного уровня - начиная от биоценозов и заканчивая видами/популяциями (сюда же и микробные сообщества)).

Цветение пруда и зарастание пустошей бурьяном - это примеры сохранения уровня биоценоза, примерно. То есть, биоценоз сохранился (выжил) путём изменения своих частей. Да, при этом какие-то части погибли, где-то между частями упростились связи, какие-то части, наоборот разрослись, где-то связи усложнились. Типа, в пруду рыбки сдохли, а водоросли размножились, но биоценоз (жизнь в локальном пруде) остался.   

И я речь не веду об усложнении или упрощении - эволюция системы может протекать и в том, и в другом направлениях (лишь бы этот процесс приводил к сохранению). Мало того, в системе отдельные части могут усложняться, а другие упрощаться.

[николай теллалов]

дополнение в скобках к п.3.1.в (троллинг) из-за неформализуемости одно позволяет банить чуть ли не любого неугодного.

Раздел науки изучающих работу мозга как целого называется НЕЙРОФИЗИОЛОГИЯ.

пожалуй это надо включить в список "базовые понятия, нужные форумчанину, чтобы его не банили за глупые высказывания"

особенно забавны попытки разъяснить обывателям, что нынешние речевые помошники "никакой не ИИ"

у обывателя (если принять это за некий типаж) в его роли экзаменатора по Тюрингу довольно заниженные критерии

таки лакмусом на "сильность" ИИ тест Тюринга не может надежно служить

будто интеллект уровня человеческого может быть реализован машиной того же порядка энергоэффективности, что и живой мозг

никто из создателей ИИ не ставит себе условия соблюсти энергоэффективность живого мозга

[Rattus]

Да - и в.п.с. уже пару раз обращал внимание Администрации на эту печальную дыру в правилах, через которую они легко выворачиваются в орудие произвола.
Тем страньше видеть как сюда приходят цыплята-новореги и начинают учить повара-модера правильному подходу к наукам и модерированию, не замечая, что висят над уже кипящей кастрюлей.

пожалуй это надо включить в список "базовые понятия, нужные форумчанину, чтобы его не банили за глупые высказывания"

Эдак придётся все определения из учебников для начальной школы (предмет "окружающий мир") сюда вносить. Уж это-то настолько вроде общепонятная и притом конкретная вещь... Надеюсь, достаточно будет ограничиться базовыми, но плохоопределёнными понятими, типа информации, жизни, организма, возможно биологческого вида, эволюции, интеллекта, разума и т.п...

у обывателя (если принять это за некий типаж) в его роли экзаменатора по Тюрингу довольно заниженные критерии

Безусловно. Но отсюда-то и открывается вся неоднозначность определения интеллекта!
Если критерий претендует на объективность, то он должен работать в обе стороны, так? Тогда те, кто считает обывателя некомпетентным в экспертизе разумности у машины, на самом деле просто отказывают в наличии такового у них самих! Фактически они утверждают, что только они - истинные носители разума.
Если машина проходит тест Тьюринга у обывателя, значит придётся признать, что искусственный интеллект уровня "человек-обыватель" успешно создан и работает. И из этого заключения должна вытекать масса пренеприятных для современного декларативно-гуманистического общественного устройства следствий.
Но на сегодняшний день, к счастью, не всё так страшно: на деле в тестах Тьюринга есть один очень важный неопределённый параметр - время тестирования. При достаточно длительном сеансе общения и обыватель раскусит машину. Главное - аккуратно задать критерии тестирования.
Но это пока. Что будет лет через десять-пятнадцать - никто не предскажет. Потому и интересно посмотреть - что и как будет тогда...

[николай теллалов]

Если критерий претендует на объективность

то этот критерий должен исключить субъективность

не?

Если машина проходит тест Тьюринга у обывателя, значит придётся признать, что искусственный интеллект уровня "человек-обыватель" успешно создан и работает. И из этого заключения должна вытекать масса пренеприятных для современного декларативно-гуманистического общественного устройства следствий.

все так, все так...

Эдак придётся все определения из учебников для начальной школы (предмет "окружающий мир") сюда вносить.

к сожалению - да

[Вайт]

И не переиначить, а выбрать одну, наилучшим образом применимую для тематики этого раздела Форума с целью исключения неконструктивных споров об определениях,

То есть наука к какому-то определённому мнению ещё не пришла, так как фактов не хватает, а вы уже пришли? И его здесь постановили? И это «образовательно-просветительский раздел»? По-моему, вы что-то путаете с разделом.

Всё остальное у вас в том же духе. Вы только «на днях» хаосом озаботились, причём о чувствительности к начальным условиям не слышали, то есть важнейшее свойство хаоса упустили (которое как раз прямо влияет на точность моделей и предсказаний). Но уже рассуждаете, что «физический подход к мозгу не применим», «диссипации и самоорганизации, хотя и имеют место и очень даже выраженно там проявляются, ничего не объясняют по сути». И это при том, что активность каждого нейрона хаотическая, во взаимодействии нейронов она синхронизируется, то есть упорядоченная работа мозга и, соответственно, наше организованное поведение как раз и возникает из хаоса в этой самой «диссипации и самоорганизации». Которая у вас «ничего не объясняет по сути», то есть суть у вас не объясняет сути. Здорово. Переключение внимания — это неравновесный фазовый переход, любое изменение ритмов, смена синхронизированных ансамблей — всё это неравновесные фазовые переходы. Старый порядок разрушается и через короткий этап хаоса как переход через точку бифуркации возникает новый порядок. И кстати, какие ещё «диссипации»? Откуда этот кривой слог? Из леса, вестимо?

Больше того, морфогенез — это тоже «диссипации и самоорганизации». О Тьюринге слышали? Морфогенез тоже происходит в результате неравновесных фазовых переходов. То есть на всех уровнях организма «диссипации и самоорганизации», но это у вас ничего не объясняет. Так вы разберитесь поточнее и всё начнёт объяснятся, вначале общее, потом частное. Ссылки на АИ почитайте, мои объяснения в книге — и всё заработает. Приблизьтесь к науке. Ещё раз вот этот пост проштудируйте — что там про гомеостаз написано, стремления — и начинайте приближаться. В полемическом запале вы в нём ничего не поняли и АИ не заметили, а надо было.

Пока больше не о чем говорить. Знаний у вас нет, и даже науку как таковую вы не понимаете. В том числе об этом говорит идея, что физика не рассматривает бесконечности (простейший пример — идея вечных циклов сжатия и расширения Вселенной) или совершенно неадекватное противопоставление физики и наук с приставками био-, нейро- или инфо-. Вы его мне приписываете, но на самом деле просто не понимаете, что есть разные уровни рассмотрения исследуемого явления, и физический уровень самый глубокий. Поэтому если в какой-то области знания появляется физика (и математика) и её там всё больше, то в той же степени это говорит о точности и полноте понимания явления. Проблема только в том, что в случае неравновесных систем все науки ограничены.
***

Говорящий ИИ — это не сильный ИИ даже близко. И далеко от нынешнего полубезумного болтания говорение таких систем не продвинется. Потому что интеллект — это не только речь. Чтобы стала возможна сложная осмысленная речь, нужны не только обучающие тексты, но весь остальной опыт человека, то есть вся сложность его мозга. Потому что любое поведение является итогом работы всего мозга, всей его сложности, даже рефлексы (за счёт постоянного тормозного или возбуждающего влияния вышележащих отделов). Ну а когда вы возразите, что ничего не мешает нам сколько угодно усложнять искусственную нейронную сеть, приделывая ей и рецепторы и что угодно, то на это я вам ещё раз посоветую всё-таки наконец прочитать то, что вы так энергично комментируете. Например, статью Гёделевский аргумент и вычислимость интеллекта, начиная со стр. 14, со абзаца «Итак, …». Это просто адаптированная к самостоятельной статье первая глава известной вам книги.

Ну, а вообще интеллект — это способность ставить задачи и решать их. Уметь болтать для этого мало. Это, кстати, заметно, по некоторым людям. Трёп есть — лунные трактора и всё такое — интеллекта нет.

[noxx77]

По умолчанию же применятся тест Тьюринга - если для пользователя интеллектуальность системы достаточная, чтобы считать её "сильным ИИ" - значит его таковым и следует считать.
В этом свете особенно забавны попытки разъяснить обывателям, что нынешние речевые помошники "никакой не ИИ" и на самом деле они часто дают ненадлежащие ответы. Обыватели же зачастую совершенно справедливо все эти объяснения отвергают как пустое занудство и продолжают пользоваться системой, называть её "искусственным интеллектом" и радоваться жизни.
Вы тут как раз являете наглядный до карикатурности пример такого занудства - чем и раздражаете читателей. Но ещё более раздражаете постоянным неуместным и необщепринятым применением физических терминов.

Ну, на самом деле речь о "машине общения", моделирующей какие-то его механизмы в ограниченных ситуациях. По сути дела тот же примитивный слабый ИИ. Видите, здесь очень зыбко, потому что ЕИ тоже по большей части навык, алгоритм, пусть и нечёткий, но на принципах если-то (набор стимулов-ответ), причём алгоритм, фиксированный в поведенческой и знаковой культуре - явлении объективном и внешнем к отдельному человеку, как программа к конкретной машине. ИИ, независимо от материальных принципов реализации встроен в ту же систему - общество - что и конкретный человек. По сути интеллектуальный амплификатор, это уже по определению ИИ - исходя из его функции. Именно поэтому определения размыты: их создатели интуитивно ощущают эту непрерывность и внешнюю соотнесенность понятия с чем-то большим и общим, что можно ограничить лишь произвольно.

Если машина проходит тест Тьюринга у обывателя, значит придётся признать, что искусственный интеллект уровня "человек-обыватель" успешно создан и работает.

Хах! Недавно пришёл к выводу, что для понимания сильного ИИ просто необходимы метафоры "механического идиота" и "механической посредственности": 1) идиоту мы не отказываем в человечности, несмотря на неудовлетворительный уровень социальных навыков. По идее, даже если машинные решения окажутся идиотскими, но вполне человеческими, то уже можно говорить о "попадании" в собственно человеческое: машина действует как один из людей, хотя он и идиот. 2) для полноценности машине не надо быть гением - ей достаточно решать человеческие задачи на уровне скучной посредственности. Если же такой социально-ограниченный интеллект имеет отдельный талант, то он уже похож на большинство людей. По сути сильному ИИ в данном случае не надо быть таким уж сильным. Он реально обыватель.

[noxx77]

Говорящий ИИ — это не сильный ИИ даже близко.

Верно!

Чтобы стала возможна сложная осмысленная речь, нужны не только обучающие тексты, но весь остальной опыт человека

Верно

то есть вся сложность его мозга.

Неверно. Опыт - пройденный путь, зафиксированный в сознании. На какой материальной базе реализовано это сознание не так важно. Для этого машине важно иметь достаточную сложность, но нигде строго не доказано, что "достаточно" сопоставимо человеческим ГМ.

[Вайт]

По сути сильному ИИ в данном случае не надо быть таким уж сильным. Он реально обыватель.

Обыватель бы народу пригодился. Но дело обстоит хуже.

Что такое — ставить задачи и решать их? Задачи могут быть глобальные, повседневные, сиюминутные. Некоторые человек решает годами, отвлекаясь на повседневное и сиюминутное, но возвращаясь к ним обратно снова и снова. Что из этого есть у говорящего ИИ, который много проще человека? Только способность скомпилировать ответ из набора обучающих текстов.

Человек, который очень много знает, но болван, что он будет говорить? Ничего интересного. Малосодержательные диалоги — но на любые темы, тривиальные или малоосмысленные идеи — но во всех областях знания. И даже что-то умное иногда может выдать, на хорошую идею натолкнуть. Только развить её всё равно не сможет, это придётся делать кому-то поумнее, хоть и не знающему так много. Как начитанный, но глуповатый помощник такой человек-болван, может быть, и пригодится.   

Но это в случае человека-болвана, а в случае ИИ дело обстоит гораздо хуже. Потому что никогда неизвестно, что у ИИ «на уме». Попросите билеты заказать, а его что-то с толку собьёт — и вот вы уже никуда не летите и на карте ничего нет, потому что он все деньги в Фонд мира перечислил. Это же не программа, где всё заранее просчитано человеком, а обученная система. Чему она там научилась, точно проверить невозможно, и чем сложнее система, тем больше будет непонятного. Её даже спросить ни о чём нельзя. Потому что она вам или ответ из Википедии прочитает, но для этого ИИ не нужен, или сама что-то компилировать начнёт — и чего она накомпилирует, заранее неизвестно. Но выглядеть это может очень правдоподобно. Поэтому каждый ответ придётся на всякий случай проверять.

ИИ нельзя поставить на ответственное производство, так как опять же непонятно, на чём его переклинит. Всё нужно будет очень хорошо проверять и новизну лучше исключить. Но в этом случае лучше программа, а не ИИ. Программа меньше может, но она делает только то, что задано. И её ничто с толку не собьёт. Она просто сломается, а не сойдёт с ума, да ещё и незаметно и неожиданно. А если это не обученная система, а обучающаяся уже у пользователя, то проблемы увеличиваются на порядок. Так ИИ можно хоть как-то на заводе проверить — стандартное обучение, тесты и т. д.. В итоге — стр. 14. Чем больше сложность, тем стремительнее будет расти время, требующееся на усложнение систем.

У человека всё понятнее. Всё живое — это диссипативные системы, общая суть их поведения гомеостаз, то есть активное стремление к самосохранению и размножению «вшито» в живое уже элементарном физическом уровне, начиная с клетки и заканчивая целым организмом и даже всей биосферой, как глобальной самоорганизующейся системой. Без всяких программ и алгоритмов, без управляющих центров, без всего, так как гомеостаз поддерживает вся система как целое. Поэтому все животные более или менее предсказуемые. А мозг только позволяет уточнять это стремление под конкретные обстоятельства — выделяя в этом общем контексте самосохранения и размножения конкретные задачи (за счёт особенностей архитектуры нейронной сети распознавая условия и строя последовательности действий). И чем более сложный мозг, тем более сложные задачи он способен поставить и решить. Причём и сам мозг тоже обладает гомеостазом (уровень нервной регуляции), связанном с гомеостазом организма (гуморальная регуляция) который внешне реализуется в активном, координированном и целенаправленном поведении, в целом направленном на самосохранение и размножение, повышение качества жизни.

[noxx77]

Обыватель бы народу пригодился. Но дело обстоит хуже.

Что такое — ставить задачи и решать их? Задачи могут быть глобальные, повседневные, сиюминутные. Некоторые человек решает годами, отвлекаясь на повседневное и сиюминутное, но возвращаясь к ним обратно снова и снова. Что из этого есть у говорящего ИИ, который много проще человека? Только способность скомпилировать ответ из набора обучающих текстов.

Ну, в общем-то да - если мы говорим о "тьюринге". Но смотрите, в чём загвоздка: и в ЕИ часто крайне много малоосмысленного и "идей из обучающих текстов". Есть на эту тему шикарный анекдот:
В магазин заходит мальчик. Продавец:
- Мальчик, тебе чего?
- Мама сказала сметаны.
- Полный бидон наливать?
- Мама сказала - полный.
Налила ему полный бидон и говорит:
- Теперь давай деньги.
- Мама сказала - в бидоне…

Но мысль, если её продолжить немного о другом: даже "сильный ИИ" (то есть обладающий сознанием - моделью общества и своего места в нём, позволяющей ему управлять комплексом "слабых" сервисных ИИ, отвечающих за конкретные навыки, вроде распознавания, перемещения и т.д.,) может быть болваном - ровно как и человек! В то же время "слабый ИИ" может быть на порядки "умнее" среднего человека в конкретной интеллектуальной функции.

Потому что никогда неизвестно, что у ИИ «на уме». Попросите билеты заказать, а его что-то с толку собьёт — и вот вы уже никуда не летите и на карте ничего нет, потому что он все деньги в Фонд мира перечислил.

Вот здесь на самом деле как раз нет: во-первых на такие услуги может существовать стандартный диалог оператора, действующего строго в рамках функции и полномочий. Допустим, заказ билетов. По сути ограниченный сервис с диалогом по инструкции и это максимально понятно. Но, собственно, человек в таких ситуациях действует так же.

Это же не программа, где всё заранее просчитано человеком, а обученная система.

Смотрите, Вы понимаете интеллект исключительно как сложную деятельность мозга. Да, на уровне внутренней реализации это так! Но сами интеллектуальные операции - наработка человечества, закреплённая в культуре и мозг им обучается "как есть" в готовом виде. Есть правильное и неправильное, пока Вы не делаете правильно, обучение не закончено. И в этом подходе интеллект - набор инструкций, в т.ч. набор формирования новых инструкций. 

ИИ нельзя поставить на ответственное производство, так как опять же непонятно, на чём его переклинит. Всё нужно будет очень хорошо проверять и новизну лучше исключить. Но в этом случае лучше программа, а не ИИ.

Опять-таки верно. Но можно и совместить: допустим, поставить нейросеть на распознавание ситуации (если у неё лучше получается эта функция), а программу (инструкцию) на сам техпроцесс. Естественно, это не "сильный ИИ", но по факту он в этом случае и не нужен.
В большинстве случаев автоматизации он лишний, а "естественный диалог" - если вообще нужен будет ситуативно ограничен. Причём ответы - допустим, о состоянии управляемой таким (слабым) ИИ системы, будут максимально информативны - т.к. по существу. А то, что вне его деятельности ИИ вообще "волновать" не будет: "простите, такие вопросы вне сферы моей компетенции"...

У человека всё понятнее.

Из моих 43х лет, я больше тридцати вижу, как люди творят лютую хрень, их решения зависят от чего попало, вроде зачесавшейся левой ноги - даже когда в принципе не должны.

Например, когда приходишь к человеку и требуешь выполнения его прямых должностных обязанностей, а он находит отговорки и пытается слить на тебя своё дурное настроение. Видал как люди из-за гормонов и личных заскоков вступали в дурные отношения, которые стоили им качества нескольких лет жизни и здоровья на десяток вперёд.

Можно ещё поговорить об ответственности и предсказуемости пьяного водителя на дороге или сорвавшегося с катушек чувака с пушкой в магазине/школе.

Не говоря уже об естественной хитрожлобости хомосапов, способных положить в карман от завода до космодрома, создавая техногенные катастрофы, вроде разливов нефти/ртути и прочих радостей, потому что деньги, должные уйти на ремонт/замену цистерн ушлив Фонд Мира на красивую жизнь новых собственников производств. И это активное стремление к самосохранению/умножению ресурса, в т.ч. за счёт жизней и здоровья других - когда требовалась скоординированная работа с ними, к сожалению, непредсказуема как те самые песчинки, падающие на кучу.

Мы знаем, что куча в результате тупости/нестабильности/эгоизма ЕИ неизбежно обвалится, но не знаем, когда регулярное саморегулируемое функционирование сменится "каскадом бифуркаций", который раздолбает всё к чертям - как регулярно бывает. Пример - нынешний мировой кризис, рождённый жадностью "экономических игроков", высосавших ресурс устойчивости системы.

Так что, уж извините, но ИИ не надо "бежать быстрее медведя", ему надо быть лишь немножко умнее идиота, устойчивее истерички любого пола и "порядочнее" м...ка.

Что касается понятности: у меня образование психолога со специализацией в возрастную. Проблема в том, что я знаю, как формируется психика на каждом этапе развития. Так вот и здесь онтогенез повторяет филогенез: структуры формируются крайне неравномерно под воздействием специфичных факторов. Ранние этапы развития невербальны а рефлексия в во "взрослом" понимании формируется только к школьному возрасту - когда многие структуры, обеспечивающие социализацию, уже сформированы. По сути для большинства людей то, что ими движет непонятно и интерпетируется ложно. Я понял многие вещи о самом себе только в результате когнитивно-поведенческой психотерапии у хорошего специалиста года два назад. Проверочное, что понял здесь то, что смог управлять соответствующими областями жизни и не попадать в ловушки усвоенных в раннем детстве адаптационных моделей реакций. Поэтому понятность ЕИ в его сложности на практике (а не умозрительно) доступна одному из десятка, а то и сотни тысяч и этот один - профессиональный психолог из хорошей школы...

[noxx77]

активное стремление к самосохранению и размножению «вшито» в живое

Убирая остальную натурфилософию, базирующуюся на софистике, разверну эту вполне верную для человеческой психики часть тезиса, как она реализуется на практике. Да, это есть и обеспечивается такими врождёнными потребностями как комфорт, безопасность, саморазвитие, потребность в общении и т.д. - причём ещё на "доинтеллектуальном" младенческом уровне, а вся мыслительная деятельность формируется поверх, причём тоже в генетически заданном порядке (см. сензитивный период). По сути это можно смоделировать - не знаю, ставил ли кто-нибудь такую задачу. В данном случае иногда сложно понять, что же конкретно "зашито" эволюцией в генокод как условия, что позволяет распознавать сенсорные паттерны (их сочетания) как значимые для конкретной реакции.

И чем более сложный мозг, тем более сложные задачи он способен поставить и решить.

Да не ставит мозг животных задачи - он обеспечивает каскад ассоциативных реакций на сенсорный стимул. По сути работу нейросети в классическом виде. Постановка задач и прочая концептуальная деятельность - это развитая функция произвольного внимания и мышления. Грубо говоря, паттерн "сесть и подумать", тесно связанный с орудийной деятельностью, интериоризованной в знаковую. Наглядно-действенное мышление - основа наглядно-образного, а оно, в свою очередь словесно-логического. По сути человек учится вначале оперировать предметами и "мыслит руками" - именно поэтому так важна роль развития мелкой моторики в формировании интеллекта. Плюс необходимость групповой координации в стае мелких обезьян в защите от хищников, и взаимная забота как фактор выживания, обеспечившие интеллект социальный. Непроизвольное внимание - генерализованная готовность к действию в ответ на стимул, мобилизация на решение уже готовой поисковой задачи. (охота, спасение, ухаживание)

Произвольное - концентрация в ответ на поисковую проблему и мобилизация на поиск решения. Именно здесь возникает постановка задачи, не раньше. Но это уже человеческий уровень.

[MenFrame]

Всё живое — это диссипативные системы, общая суть их поведения гомеостаз, то есть активное стремление к самосохранению и размножению «вшито» в живое уже элементарном физическом уровне, начиная с клетки и заканчивая целым организмом и даже всей биосферой, как глобальной самоорганизующейся системой. Без всяких программ и алгоритмов, без управляющих центров, без всего, так как гомеостаз поддерживает вся система как целое.

Сколько можно уже повторять эту религиозную мантру? Законы физики не являются боженькой который озабочен о нуждах, клетки, ансамбля неронов или тупорылого человечишки.

[MenFrame]

он обеспечивает каскад ассоциативных реакций на сенсорный стимул.

Данное определение можно вообще подвести под любую деятельность человека. А если мы говорим о постановках задачи, то это уже языковые модели, которые организуют работу нейросети на более высоком абстрактном уровне. При этом сам язык появился уже как результат абстрагирования реальной деятельности живой нейронной сети, соответственно в языке уже  изначально заложены, определенные патерны реальной биологической сети. Соответственно можно предположить, что какое то представление о целях уже имеется еще до языка, так же как и о постановках целей. Скажем голодное животное, вынужденно из множества возможных образов объектов в памяти, выбрать тот который наиболее удачно удовлетворит голод в текущей ситуации. Чем не постановка цели?

[николай теллалов]

может быть болваном

очень недолгое время
(если нарочно не задерживать на стадии болвана, вернее мальчика с бидоном под сметану)

дело в том, что у ИИ две важные особенности в сравнении с человеком:
1) более быстрое субъективное время - за одну "нашу" секунду для ИИ может пройти минута, а то и больше;
2) каталогизированная память с легким доступом и поиском нужной инфы - как у людей с гипермнезией.

вложенные функции самообучения (при обретении сознания, это вырастает в стремлении к самоусовершенствованию) просто не дадут долго нежиться на уровне болвана

(самосознание, имхо - побочный эффект функционирования сложной ЦНС или сложной машины с богатой периферией сензоров вкл датчиков внутреннего состояния, т.е. есть и предпоставки для возникновения аналога эмоций - и тут тоже надо отметить, что в силу своего конструирования, а не эволюционного возникновения, у ИИ будут надежные механизмы самоконтроля)
(еще одна особенность - сознательное нарочное разделение себя на субличности - это иллюстрирую способностью ИИ вполне полноценно играть сам с собой в шахматы, причем черные не ведают что замышляют белые и наоборот; такое утрируя можно назвать искусственной "шизофренией";
т.е. ИИ при решении сложной задачи сможет превратить себя в коллектив субличностей)

повторю - долго такое существо болваном не будет

[loky1109]

ИИ нельзя поставить на ответственное производство

Первого попавшегося человека тоже.

очень недолгое время

Если только "недолгое" в геологическом смысле.

[николай теллалов]

у Вайта фобия на ИИ
страх "бунта машин"

как оказалось, к моему огорчению, у коллеги Нокс77 - тоже

[незлой]

тю.
жизнь от нежизни (вариант разум от неразума) отличают живые эмманации, которые суть божественное дыхание, паэтому моделирование их невозможно, ибо!

обыкновенная бытовая теология. и даже требование прочесть и уверовать в некую книгу присутствует.

[Серый Страж]

noxx77.
Скажу сразу: со многим согласен, но только хочу выразить мысли немного по-своему. Заодно можно проверить степень согласованности наших подходов.

Видите, здесь очень зыбко, потому что ЕИ тоже по большей части навык, алгоритм, пусть и нечёткий, но на принципах если-то (набор стимулов-ответ), причём алгоритм, фиксированный в поведенческой и знаковой культуре - явлении объективном и внешнем к отдельному человеку, как программа к конкретной машине. ИИ, независимо от материальных принципов реализации встроен в ту же систему - общество - что и конкретный человек. По сути интеллектуальный амплификатор, это уже по определению ИИ - исходя из его функции.

Естественный интеллект, по большей части, это совокупность навыков. Причём, совокупность, структурированная в определённую иерархию. Основа такой иерархии задаётся геномом, а затем модифицируется (так сказать, уточняется) в процессе онтогенеза.

Навык – это, по сути, алгоритм – алгоритмизированная совокупность простых актов «стимул-реакция». При этом, такой алгоритм формируется на нижних этажах иерархии в процессе набора опыта на основе врождённых алгоритмов, а на «средних» и «верхних» этажах иерархии формируется уже с участием социума и культуры.

Кроме того, навык – это всегда некая выученная (или подобранная/найденная опытным путём) функция (а памятуя о том, что навык можно приравнять в данном контексте к алгоритму, то это функция вычислительная). То есть, интеллект – это, по сути, набор/совокупность  вычислительных функций – вычислительный функционал (практически в математическом смысле этого слова).

Повторю (на всякий случай):

А так как, интеллект – это куча всяких разных функций (по своей сути, вычислительных), то хранение информации относится всего лишь к одной из функций – к памяти.
.....
Функции и процессы осознания, абстрагирования, памяти и т.д. и т.п. – это всё составляющие интеллекта. Разумеется, каждая функция/процесс реализуется посредством какого-то механизма, но пока не об этом.
.....
Вот подходящая совокупность определений (в одной из тем форума):

Жизнь – это живая система (совокупность систем) и её среда обитания.
Живая система – это система, проявляющая в активной фазе своего существования: стремление к самосохранению и способность реализовать это стремление.
Интеллект системы – это вычислительный функционал (практически в физико-математическом смысле слова) системы.
Разум системы – это способность системы реализовать стремление к самосохранению средствами интеллекта.

Однако, в качестве стимула может выступать (по ассоциации, как связанный с сенсорными стимулами) и некий внутренний паттерн сигналов, а реакция на этот внутренний стимул также может быть внутренней (без внешнего проявления). И результатом такой реакции вполне может быть запуск внутренней системы вознаграждения.

Соответственно, по такому пути: внутренний стимул – внутренний ответ – внутреннее вознаграждение/наказание – запоминание, может ведь формироваться и некий внутренний (по сути, умственный, а не действенный) навык. А ведь этот умственный навык уже вполне можно обозвать и элементом мышления.

Отсюда можно предположить, что вычислительный функционал естественным интеллектом вполне может нарабатываться естественным путём (или ему можно обучить). Мало того, и мышление точно по такому же принципу может нарабатываться (и ему точно так же можно обучить). Разумеется, и умственные навыки (элементы мышления) и само мышление могут быть развиты только в соответствующих условиях и при соответствующих способностях. Однако, для развития простых элементов мышления и простых видов мышления (что-то типа, ручного мышления) вполне достаточно способностей среднего человека (а, скорее всего – даже ниже среднего) и условий, которые довольно-таки часто встречаются в обычной жизни. Предполагаю, что приматы вполне способны это дело освоить. 

Смотрите, Вы понимаете интеллект исключительно как сложную деятельность мозга. Да, на уровне внутренней реализации это так! Но сами интеллектуальные операции - наработка человечества, закреплённая в культуре и мозг им обучается "как есть" в готовом виде. Есть правильное и неправильное, пока Вы не делаете правильно, обучение не закончено. И в этом подходе интеллект - набор инструкций, в т.ч. набор формирования новых инструкций.

Всё же, на мой взгляд, интеллект не набор инструкций, а набор/совокупность функций – функционал. И, как уже написал выше, функционал может нарабатываться путём направленного обучения учителем или вынужденным опытным путём самообучения.

И, само собой, огромное количество навыков (в том числе, чисто умственных) мы воспринимаем из социума, из культуры. Полагаясь только на собственный личный опыт изобрести «с нуля» даже лук со стрелами обычному человеку (и даже человеку выше среднего по способностям) не по силам. Предполагаю, что обычный человек «с нуля» может изобрести только каменное рубило, что (особенно, если это будет подобие бифаса) будет совсем неплохо.

Уточняю, «с нуля» означает, что знания (навыки) в готовом виде не поступают к человеку ниоткуда (он не в социуме, он не в культуре – он один). Тут даже маугли (например, воспитанный волками (волчьим социумом)) имеет преимущество – ему в готовом виде предлагаются различные двигательные навыки и навыки общения. Другое дело, что физиологически и анатомически ему такие навыки плохо для жизни подходят.

И, в то же время, я этого одиночку не загоняю в совершенную изоляцию – в изоляции человек сформируется просто как «овощ» (маугли, по сравнению с ним, будет недостижимым эталоном продвинутости). 

Да не ставит мозг животных задачи - он обеспечивает каскад ассоциативных реакций на сенсорный стимул. По сути работу нейросети в классическом виде. Постановка задач и прочая концептуальная деятельность - это развитая функция произвольного внимания и мышления. Грубо говоря, паттерн "сесть и подумать", тесно связанный с орудийной деятельностью, интериоризованной в знаковую. Наглядно-действенное мышление - основа наглядно-образного, а оно, в свою очередь словесно-логического. По сути человек учится вначале оперировать предметами и "мыслит руками" - именно поэтому так важна роль развития мелкой моторики в формировании интеллекта. Плюс необходимость групповой координации в стае мелких обезьян в защите от хищников, и взаимная забота как фактор выживания, обеспечившие интеллект социальный. Непроизвольное внимание - генерализованная готовность к действию в ответ на стимул, мобилизация на решение уже готовой поисковой задачи. (охота, спасение, ухаживание)

Произвольное - концентрация в ответ на поисковую проблему и мобилизация на поиск решения. Именно здесь возникает постановка задачи, не раньше. Но это уже человеческий уровень.

Так ведь задача/проблема возникает как стимул, не имеющий готовой реакции, не имеющий готового навыка решения. И это происходит на всех уровнях, но до высших уровней сознания не обязательно доходит, если находится решение (навык, алгоритм) на средних уровнях.

На базовом уровне задача/проблема решается методом подбора. Типичным способом такого решения является формирование рефлекторного кольца.

Многие базовые задачи мы научились решать ещё до овладения речью и в старшем возрасте попросту забыли, как мы находили это решение. Мало того, в старшем возрасте у нас наработался дополнительный функционал, мы научились мыслить, затем говорить (появилось вербальное мышление) и те способы решения для нас стали недоступны либо мы теперь пытаемся решить их другими способами.

Если понаблюдать за младенцами и годовалыми или полуторагодовалыми малышами, то можно заметить, как они решают задачи. Результат решения (навык) останется с ними и далее, но впоследствии они даже не смогут вспомнить, как они находили в своё время решения (как нарабатывали данный навык). Навык же нарабатываемый во взрослом возрасте (например, езда на велосипеде) не накладывает таких ограничений на воспоминание о способах наработки этого навыка.

Можно сказать, что, если для появившегося стимула (хоть сенсорного, хоть внутреннего паттерна сигналов – например, стремления) не находится соответствующей реакции, соответствующего навыка, соответствующего алгоритма решения, ни на одном из нижестоящих психических уровней, то на высшем психическом уровне это осознаётся как задача/проблема (например, неосознанное на высшем уровне стремление превращается в желание/хотение). И если путь/направление решения осознано на высшем уровне, то формируется (зачастую ассоциативно) цель. Целью может быть желание достичь некоего результата, получение удовольствия, утоление жажды, снятие боли, одобрения коллег, езда на велосипеде без падений и т.д.

Получается, что постановка задачи всегда происходит «по подсказке снизу» – по сути, это уже возникшая задача/проблема, просто не нашедшая своего решения на средних и нижних уровнях и доселе не осознаваемая на высшем уровне. А когда задача/проблема осознаётся на высшем уровне, то и способы решения (тот самый наработанный функционал и мышление плюс прочие знания) этой задачи/проблемы будут использоваться те, которые присущи именно высшему уровню психики – всякие там целеполагания, логика (тоже ведь усвоенный умственный навык – целая система взаимосвязанных алгоритмов), формирование промежуточных задач и т.д. и т.п.

И, да, практически все элементы мышления изначально воспринимаются нами как внешние – мы их интериоризируем (попросту – внешнее делаем своим внутренним). Стимулы и ответные действия – сначала только внешние, а потом и те, и другие могут стать и внутренними (вот и возник элемент мышления). Мышление сначала чисто внешнее – «думаем» руками и смотрим на происходящее (соответственно вносим поправки в движения рук), а потом ручное мышление интериоризируется и превращается в образное мышление (теперь мы уже «рассматриваем» внутренние образы и манипулируем ими внутри себя).

В заключение о моделировании. Нам для создания ИИ не нужен весь функционал ЕИ. Мало того, нам не нужны конкретные способы реализации этого функционала, которые выработаны в живых организмах в процессе эволюции. И иерархию этого функционала мы можем придумать свою.

Повторю (на всякий случай):

Сейчас, надеюсь, уже многие понимают, что бездумное копирование живой структуры до самых мельчайших подробностей, вещь бессмысленная и вредная. Особенно, она вредная в плане достижения высокой функциональности в строго ограниченном спектре из всех возможных.

Живые структуры сложились в результате длительной эволюции, как сбалансированный компромисс между кучей функций, работающих (или способствующих, или, хотя бы не мешающих), в конечном итоге, на выживание особи и вида. В искусственных системах перед самими системами такой задачи – выживание – не стоит (если мы сами не поставим и не внедрим в них таковые установки). Зачем нам весь функционал живой системы? Ведь львиная доля такого функционала в этих системах не нужна вообще, а часть функционала (необходимого для выполнения наших задач) вполне можно организовать проще и эффективнее.

То есть, сначала следует выбрать необходимые функции (ощущение, сознание, абстрагирование, память) и работать над их реализацией в искусственных вычислительных системах – продумывать конструкции, архитектуру, процессы, физику/химию материалов и компонентов и т.д. Затем, можно и повышать достигнутый функционал (например, добавить уровни рефлексии для сознания, добавить параллелизма в абстрагирование и т.д.).

Ситуация чем-то напоминает метания человечества при создании летательных аппаратов тяжелее воздуха. Поначалу, частенько пытались скопировать с высокой точностью всю механику полёта и саму конструкцию птицы – получалась фигня. Потом отказались, сосредоточились на основных функциях (опора на воздух при планировании, отталкивание от воздуха лопастями винта и/или струёй газов из сопла) и достигли в итоге выдающихся результатов.

[Павел Васильев]

Всё же, на мой взгляд, интеллект не набор инструкций, а набор/совокупность функций – функционал. И, как уже написал выше, функционал может нарабатываться путём направленного обучения учителем или вынужденным опытным путём самообучения.

И все выше процитированные определения чересчур туманны и нефункциональны. Разбиваются одним махом - тихоходки под них подходят (https://ru.wikipedia.org/wiki/%D0%A2%D0%B8%D1%85%D0%BE%D1%85%D0%BE%D0%B4%D0%BA%D0%B8)? Да, хотя все в курсе, что они - НЕинтеллектуальны и НЕразумны.
Если без заумного философствования, то есть такое приземлённое определение, может быть здесь уже было:
Разум - способность организма строить долгосрочные временные модели окружающего мира и, главное, себя самого в нём ради выживания (а значит и вида), путём увеличения потребления энергии, адаптации и улучшения внутренней материи и внешней структуры среды обитания (с). 
Сильный искусственный интеллект должен обладать аналогичной особенностью человеческого разума.     

[николай теллалов]

Если только "недолгое" в геологическом смысле

почему ты так считаешь?

[loky1109]

Если только "недолгое" в геологическом смысле

почему ты так считаешь?

Потому что я не правильно прочитал пост на который отвечал.