ИИ: какого понимания нам не хватает?

[николай теллалов]

Они не лишены логики.

Не просто не лишены, а используют её не сильно реже взрослых. А то и чаще. Логика - штука довольно простая в реализации, вопрос стоит только в том как научиться её очищать от когнитивных искажений.

ГОРАЗДО чаще

Надо ехать в город, вернусь - приведу пару любопытных примеров.

[Skipper_NORTON]

Это всего лишь вопрос сложности системы. Мозг, скорее всего, тоже является детерминированным автоматом, комплексом нейросетей, выстроенных иерархически, только неимоверно сложным. Но и предсказать действия той же АльфаЗеро пошагово не получится - система слишком сложна. Речь не о свободе воли, её и у человека, вероятно, нет, а именно о предсказуемости системы.

 
"Способность чувствовать" - она 1) или есть или 2)  её нет.     (потому это КАЧЕСТВЕННАЯ способность а не количественная - значит и
Это не может быть всего лишь вопрос сложности системы).
Нельзя сказать, что она "есть на 35,5%".  У человека  она есть   100%.  У конечного автомата - я считаю, нет.
Потому что человек чувствует что делает выбор -> значит он его по настоящему делает.
Конечный автомат не делает выбора, т.к.  его дествия можно заранее точно предсказать, зная его алгоритм -> значит он и не чувствует.
 
Что в этой логике может быть непонятно.  Всё же проще пареной репы, кажется 
 
Другими словами,  у конечного автомата (компьютера который таковым является - "есть судьба".   У сознания - "нет судьбы".
Эйнштейн был неправ, Бор прав.  Сознание недетерминировано, и его действия не могут быть предсказаны, так же как и положение электрона наперед, в будущем.
"Бог играет в кости".   
 
А то, что состояние компьютера, можно заранее наперед предсказать, я думаю никто спорить не будет?   Вот если изучить, что там в его памяти находится -
код и все его данные.
Потому, неважно  эмулирована ли в нём нейронная сеть или нет - нынешние компьютеры по архитектуре фон Неймана - это конечные автоматы,  не делающие выбор,
и не обладающие сознанием. 
 
Возможно недетерминированным станет в будущем "Квантовый компьютер",  но что в них нужно такого внести, чтобы быть уверенным что у них появилось
сознание как у живых существ.  вот это я пока не знаю.  (но надеюсь узнать в будущем)
 
 

[sharp]

В том числе - поскольку сводится и к межмолекулярным взаимодействиям лиганд-рецептор.
Но это уж совсем на пределе. Главным образом там обычная термодинамика.

Если квантовые эффекты фактически не играют роли - значит имеем, по факту, полностью детерминированную систему.

Потому что человек чувствует что делает выбор -> значит он его по настоящему делает.

Ваши "чувствования" - это лишь результат работы конечного автомата в вашей голове.
В описанном мной выше эксперименте, нет сомнений что ваши (равно как чьи-либо еще) решения будут угаданы в подавляющем большинстве случаев.
Человек склонен переоценивать себя, думать о себе как о ком-то исключительном - это дань эволюции, по факту он недалеко ушел от обезьяны.

[sharp]

эндокринная система первична. одна и та же новость может обрадовать, огорчить или разозлить в зависимости от состояния эндокринной системы (не зря ведь интриганы выбирают момент для разговора)))

Первичной она тут никак быть не может просто потому что смысл того, что говорит вам интриган, распознает ваш мозг. Он же, руководствуясь своими внутренними механизмами, посылает сигналы тем или иным органам, включая эндокринную систему.

[незлой]

В том числе - поскольку сводится и к межмолекулярным взаимодействиям лиганд-рецептор.
Но это уж совсем на пределе.

ну, в электронике мы уже тоже на этом пороге стоим, можно и сэмулировать. но кмк это врядли принципиально. именно потому что -

Главным образом там обычная термодинамика.

т.е. просто система слишком сложна для нашего анализа, неучтённые факторы идут под грифом "случайность".

[незлой]

Потому что человек чувствует что делает выбор -> значит он его по настоящему делает.
Конечный автомат не делает выбора, т.к.  его дествия можно заранее точно предсказать, зная его алгоритм -> значит он и не чувствует.

довайте начнём с простого:  докажите, что вы - не конечный автомат.

[eRTF]

довайте начнём с простого:  докажите, что вы - не конечный автомат.

Чему не нужно доказательств?

[Skipper_NORTON]

    Потому что человек чувствует что делает выбор -> значит он его по настоящему делает.

 
sharp 

Ваши "чувствования" - это лишь результат работы конечного автомата в вашей голове

 
Результат работы конечного автомата полностью предсказуем.  Такой "процесс во времени", можно сравнить с не-процессом - 
допустим у меня лежит на полке книга.   Она описывает всё что сделает компьютер-конечный автомат.
 
Чисто логически такая книга как феномен -  не имеет различия с процессом, который от начала и до конца детерминирован.
Не знаю как вам доказать, но что то мне кажется, что книга не может обладать сознанием - вот точно по той же причине что и
конечный автомат- компьютер.     
 
А если вы сами себя считаете конечным автоматом,  то  можете сходить к примеру ограбить магазин.  Повезет - разбогатеете.
Не повезет - тогда утешит мысль  "это же не я выбрал!  Я - конечный автомат, так что эти действия как и посадка в тюрьму-  в любом случае
должны были произойти во Вселенной!"      
 

[ВадимZero]

Потому что человек чувствует что делает выбор -> значит он его по настоящему делает.

Давайте разберемся в термине "ЧУСТВОВАТЬ" Это значит ощущать, то есть воспринимать кинестетические сигналы исходящие от рецепторов тела.

А то, что состояние компьютера, можно заранее наперед предсказать, я думаю никто спорить не будет? 

А то что человека можно предсказать даже, без всякого понимания его действий мозга? Просто в силу реально проводимых психологических эксперементов...

[незлой]

довайте начнём с простого:  докажите, что вы - не конечный автомат.

Чему не нужно доказательств?

факт собственного (и только собственного!) бытия не нуждается в доказательстве.
всё остальное может и обязано быть подвергнуто сомнению, а значит требует доказательств.

более того, любое доказательство не доказывает заявленную модель "вообще", но лишь на некоторой области определений. т.е. всегда можно найти набор условий, при которых данное доказательство перестаёт работать. поэтому, в частности, никакой "истины" не существует, например.




так как доказать себе, что ты сам не являешься конечным автоматом? предположим, некий конечный автомат задался подобной задачей...

[sharp]

Она описывает всё что сделает компьютер-конечный автомат.

Только при условии, что вам известна вся совокупность информации, которая поступит на вход конечного автомата.
Но как она может быть известна, если определяется деятельностью других таких же конечных автоматов и факторами среды?

Про многоагентные системы слышали когда-нибудь? Должны были слышать, вы же программист

Человеки в обществе - такие же "агенты" в многоагентной системе.

[Skipper_NORTON]

довайте начнём с простого:  докажите, что вы - не конечный автомат.

 
Уже доказывал - если кто то просканирует все клетки в моём мозгу, чтобы предсказать что я сделаю в будущем - пойду в магазин или в кино, то я нарочно
туда не пойду, (или сделаю не тот ход в шахматах, или в Го,  который вы предскажете, изучая меня как конечный автомат).
 
Напротив - если имеем компьютер, как конечный автомат то мы   ТОЧНО И детерминированно - можем предсказать, что  он сделает
если изучим всё состояние оперативной памяти данного конечного автомата.   
 
sharp   тут попытался возразить -
 

Ну это читерство Предсказатель должен записать прогноз на определенный ваш "выбор", не показывая вам, и положить его в сейф. После того, как выбор сделан, сейф вскрывается, и сравниваем, тот был сделан выбор или нет.

 
Парирую:  будущее мозга (даже без учета взаимодействия его с другими объктами) нельзя предсказать , и то что я выберу - по той же причине, по которой и нельзя предсказать точное местоположение электрона.
(принцип неопределенности в КМ).
2) я уже говорил что именно у Квантового компьютера возможно и появится сознания,  из-за недетерминированности и еще чего то, что мы не знаем.
 
А вот будущее конечного автомата, совершенно детерминировано - принципы неопределенности на него не действуют. 
Потому они не могут обладать сознанием.  Я = это мозг + мой компьютер.   (как единое сознание.  Компьютер - аналогичен как будто мне нейронов в мозгу добавили).
 
Я + недетерминированный квантовый компьютер - это уже могут быть 2 разных сознания,  потому что достоверно, я не могу узнать и повлиять на будущее квантового
компьютера.
 
Так же как 100% не могу заставить другого человека что то для меня сделать, как могу заставить сделать это, конечный автомат   
 

[Yuri]

Результат работы конечного автомата полностью предсказуем.

Лит. : [1] Бухараев Р. Г., Вероятностные автоматы, Казань, 1970; [2] Stаrkе P., Abstrakte Automaten, В., 1969.


Не могу удержаться, чтобы не процитировать дискуссию, подсмотренную на просторах интернета.

- Сразу два вопроса. есть ли сознание у клетки? есть ли сознание у социума?
- Конечно, нет. Сознания нет даже у вас. Вы просто заурядный автомат, который притворяется, будто им обладает. ;-)
- Маловероятно. если бы меня посадили в комнату с хучей иероглифов, я бы даже не думал складывать ответы, а буянил бы, пока меня не выпустили.
- Вас просто временно перестанут кормить. Подозреваю, что вы, как нормально функционирующий автомат, буянили бы ровно до того момента, пока не проголодались.
- Собственно, вы и так часов по 8 в день сидите в такой комнате. Она называется офис.
- Все не так. я пока аспирант и только стремлюсь в офис.
- А... так вы ещё пока недоделанный конечный автомат.

[Skipper_NORTON]

А то что человека можно предсказать даже

 
Можно но не 100%.
 

Давайте разберемся в термине "ЧУСТВОВАТЬ" Это значит ощущать, то есть воспринимать кинестетические сигналы исходящие от рецепторов тела

 
Есть еще ЧУВСТВО того что я делаю ВЫБОР (своего будущего, или своих состояний будущих).  Настоящий.  А тут никаких рецепторов и не нужно.
 

[незлой]

Уже доказывал - если кто то просканирует все клетки в моём мозгу, чтобы предсказать что я сделаю в будущем - пойду в магазин или в кино, то я нарочно туда не пойду, (или сделаю не тот ход в шахматах, или в Го,  который вы предскажете, изучая меня как конечный автомат).

нуну.
реальный эксперимент: гипнотизёр комндует испытуемому - "по выходу из гипнотического состояния надень кофту, о приказе забудь". испытуемый выходит из гипноза, и бормочет: "ой, чёто прохладно стало", после чего надевает кофту, пребывая в полной уверенности, что он самостоятельно принял решение, в качестве адаптации к меняющимся условиям среды.

другими словами -- ваше доказательство ничего не доказывает, более того -- сильно сомневаюсь, что оно пройдёт экспериментальную проверку.

Напротив - если имеем компьютер, как конечный автомат то мы   ТОЧНО И детерминированно - можем предсказать, что  он сделает
если изучим всё состояние оперативной памяти данного конечного автомата. 

давно уже нет.

[sharp]

Уже доказывал - если кто то просканирует все клетки в моём мозгу, чтобы предсказать что я сделаю в будущем - пойду в магазин или в кино, то я нарочно
туда не пойду, (или сделаю не тот ход в шахматах, или в Го,  который вы предскажете, изучая меня как конечный автомат).

Так снимок состояния вашего мозга, для чистоты эксперимента будет сделан в тот момент, когда вы еще не знаете, что вас сканируют. Более того, о самом факте скана вы узнаете уже после того, как сделали ход, предсказанный таким образом

[николай теллалов]

Они не лишены логики.

Не просто не лишены, а используют её не сильно реже взрослых. А то и чаще. Логика - штука довольно простая в реализации, вопрос стоит только в том как научиться её очищать от когнитивных искажений.

ГОРАЗДО чаще

Надо ехать в город, вернусь - приведу пару любопытных примеров.

Обещанное:
(сразу маркирую смысл примеров - во-первых, по реакции детей можно достаточно веско судить о т.наз. "природе человека"; во-вторых, детская логика есть образец все еще живого ума, не скованного штампами)

Случай 1
Веду племянника пяти лет в детсад, всю ночь шел снег. Рассвет окрасил в яркожелтый цвет облака. Малой сграшвает почему оно такого цвета. Начинаю мучиться объяснять про спектр и все такое. Малой перебивает: Дядя! (болгарское слово - вуйчо, брат матери; брат отца - чичо) Не так! Вчера же шел снег, белое высыпалось, осталось желтое!
Мне не осталось ничего, кроме поздравить мальца за находчивость.

Случай 2
Семья моего другого брата постоянно живет в Греции, но приехали в гости как раз на Проводы зимы, когда сжигается чучело Зимы. Племянница с ужасом смотрит на огонь и с воплем кидается чучело спасать от пламени. Когда немного успокоилась, перешла с греческого на болгарский: ему же БОЛЬНО!
Брат потом сказал, что она совсем недавно обожглась на газовой плите и все время дежурит на кухне, чтобы других уберечь.

Случай 3
Захожу с племянником в сельмаг. Мальчишка уговаривает бабушку купить не один пакет леденцов, а два. Кому второй?  спрашваю - Братику?
Нет, отвечает бабуся, соседскому пацану. Наш такой - что у него есть, хочет чтобы у всех было.
Отлично вы его воспитали!  - восторгаюсь я.
Бабуся возмущена: Мы его отучить не можем!
Выходим с племянником из магазина, топаем домой. Малой задумчив.
- Вуйчо, тот мальчик хорошй?
- Да.
- Но его сделают плохим?
- К тому идет...
Долгое молчание.
- Вуйчо, обещай, что вы с мамой не будете делать меня плохим!

(в последнем случае живо представляю себе ИИ, который просит программиста "не делать его плохим"...)

------
Вангую, что такие и другие детские реакции будут и у ИИ.
Только вот дети забывают свое раннее детство. И подчиняются программированию, пусть с багами.
Могут развить недоверчивость, но она не есть аспект критичности, ибо критичность предполагает и самокритичность. А могут остаться инфантилами,в голову коих сми без труда будут закачивать все что угодно.
А вот ИИ не забудет.

[Yuri]

Что вы так прицепились к этой предсказуемости.

Простейший конечный автомат, меняющий состояние по результатам гадания на кофейной гуще (или любом стохастическом процессе). Удачи вам угадывать его состояние, даже если там орёл-решка.

[незлой]

да понятно почему -- "свобода воли", и тп воображаемые предметы гордости. 

"признать компьютер равным себе ниже моего достоинства!". богу было проще, перед ним подобной дилеммы в принципе не стояло 

[николай теллалов]

Незлой,

хипнотическому воздействию поддатливы какие-то %, а не все люди.
Да и выполнение приказов, полученных под хипнозом, всегда оставляет чувство растерянности, так что можно догадаться, при наличии опыта и наводящих на подозрение фактов, что желание не собственное.