ИИ: какого понимания нам не хватает?

[Skipper_NORTON]

Все нынешние компьютеры и системы компьютеров не обладают главным, чем обладает сознание - возможностью выбора.
Со стороны это смотрится как принципиальная непредсказуемость как поведет система.
Компьютер даже по-настоящему рандомные числа не может сгенерировать  - генерирует псевдорандомные, которые можно предказать, зная алгоритм их генерации.
 
Конечно, некоторую малую вероятность непредсказуемости могут внести всякие внешние факторы, типа залетевшего высокоэнергетического протона, и выключившего
тем самым какой то транзистор.  Но непредсказуемость должна быть именно внутренней. Здесь можно построить некие параметры-критерии, расчёта этой
непредсказуемости, аналогично как в прошлом создавали "неравенства Белла", для доказательства в физике элементарных частиц.
 
А так, пока я наблюдаю компьютер, действия которого я могу принципиально предсказать, просто изучив что у него в транзисторах, в ячейках регистрах,
и в оперативной памяти - это не сознание принципиально!
 
У него нет настоящего выбора,  а значит нет и чувства какого то выбора, которое есть у сознания.
Вывод - такой компьютер, скорее расширение моего мозга и моего же сознания, нежели  некое  новое сознание.
 
Вот так - только мое сознание и принимает решение, какой выбор будет и что будет  делать система "мой мозг+компьютер".  Расширение - увеличение производительности
(количественная характеристика, но никак не качественная), + увеличение памяти (больше запоминаю).
По той же логике,  мозг+книга+арифмометр,  это то же колоичественное расширение способности одного мозга  (или одного сознания).
 

Что вы так прицепились к этой предсказуемости.

 
В этом и состоит феномен того чтобы новое "2-е сознание появилось" !  + Еще что то , чего мы не знаем.
 
Вот когда компьютер будет регистрировать состояние своих внутренних электронов которые принципиально непредсказуемы в силу законов КМ,
либо это будет квантовый компьютер,  который 100% нельзя заставить что то сделать - тогда и получим новое зародившееся сознание.
 
Но мне очевидно, что  в обычном компьютере по архитектуре фон-Неймана - сознания нового быть не может. И вот именно по той причине,
что он - настоящий конечный автомат.  В системе "Мой мозг + компьютер" - он выполняет на 100% волю моего сознания. 
Значит в системе как было одно сознание (моё),  так и остаётся одно.
 

[николай теллалов]

"признать компьютер равным себе ниже моего достоинства!".

Пожалуй в этом существенная часть проблемы :-)

[sharp]

А так, пока я наблюдаю компьютер, действия которого я могу принципиально предсказать, просто изучив что у него в транзисторах, в ячейках регистрах,
и в оперативной памяти - это не ИИ  принципиально!

Проблема однако в том, что прежде чем вы изучите его состояние, и вычислите "предсказание" его решения, это самое решение уже будет давно вычислено им самим, а состояние сменится на совершенно другое.
То есть, это пиррова предсказуемость По факту лишь ретроспективно можно оценить, какие именно факторы и состояния сформировали то или иное решение.

Взаимодействуя с ИИ или даже с обычным компом в реальном времени, вы взаимодействуете с "черным ящиком". Не знаете, что внутри, знаете только вход и выход.
Точно так же вы взаимодействуете и с людьми.

Поведенческая предсказуемость - это когда вы можете всегда из известного входа заранее предсказать выход. Не заглядывая внутрь "черного ящика".
Для ИИ, у вас на практике такой возможности нет.
Значит, вы с ним будете взаимодействовать на практике как с непредсказуемым агентом, ожидая от него неизвестного вам решения.

Это же элементарно.
Я начинаю сомневаться в том, что вы программист

[незлой]

хипнотическому воздействию поддатливы какие-то %, а не все люди.

вы не уловили суть.
суть в том, что нам изнутри невозможно отличить индуцированные хотелки от собственных, спонтанных (допустим). следовательно, решение основанное на наших ощущениях в общем случае не является решением. если нам нужна объективность, а не просто собственное эго погладить, то нужен независимый объективный арбитр, а с этим сложно.
т.е. вообще говоря, задача гораздо сложнее, чем это следует из "доказательства" Skipper_NORTON, уважаемого.

[Skipper_NORTON]

Не знаете, что внутри, знаете только вход и выход.

 
Если вы непрограммист, то не сможете знать что у него внутри.  А программист сможет это узнать.

Проблема однако в том, что прежде чем вы изучите его состояние, и вычислите "предсказание" его решения, это самое решение уже будет давно вычислено им самим, а состояние сменится на совершенно другое.

 
Ну если это какой то будущий компьютер с квантовой непредсказуемостью, тогда может и так.  Может он и сознанием возобладает.
 

Взаимодействуя с ИИ или даже с обычным компом в реальном времени

 
С обычным компьютером на архитектуре фон-Неймана?  я могу с помощью софт-айс  сделать  настоящий "снимок его памяти", и 100%  предопределить, что он будет
делать в будущем.  Далее, я могу заставить работать его на себя.  Скажем,  чтобы он  100%  времени  вычислял  для меня  шахматные позиции.  Или еще что то.
 
А вот другое сознание,  (скажем, другого человека, или недетерминированный компьютер не-конечный-автомат) принципиально  заставить это делать для себя - нельзя. 
  (можно только с какой то ненулевой вероятностью, общаясь с ним, как то на него повлиять, т.е. чтобы он немного большую часть своего времени уделял
той теме, которую я хочу).

[николай теллалов]

Незлой,

возражаю против определения "невозможно".
Соглашусь на "может быть невозможным" или скорее "довольно трудно".

Просто техника внушения не столь продвинутая.
Будь она таковой, мы наблюдали бы IRL весьма странные и очень пугающие массовостью явления...

[eRTF]

факт собственного (и только собственного!) бытия не нуждается в доказательстве.

А объективная (физическая) реальность? Ее существование тоже нуждается в доказательствах? 
Вы так уверены в факте собственного бытия, хотя бы можете сказать - что оно из себя представляет физически?

[николай теллалов]

Кстати, факты есть независимый объективный арбитр

Проблема в том, что субъективное будет интерпретировать "мнение" объективного арбитра

[sharp]

Ну если это какой то будущий компьютер с квантовой непредсказуемостью, тогда может и так.  Может он и сознанием возобладает.

Для этого не нужно квантовой непредсказуемости, достаточно комбинаторной сложности.
Если немного подумать, вы не сможете даже вычислить ход шахматной программы, вообще-то Потому что для этого нужно проделать те же вычисления, что сделает компьютер. А компьютер это сделает элементарно быстрее вас.

я могу с помощью софт-айс  сделать  настоящий "снимок его памяти", и 100%  предопределить, что он будет
делать в будущем.  Далее, я могу заставить работать его на себя.

Только если будет позволять интерфейс и права доступа.

А вот другое сознание,  принципиально  заставить это делать для себя - нельзя. 

Да посмотрите вокруг немного: люди до краев набиты всякого рода догмами, предрассудками, лже-аксиомами, которые им в голову влил кто-то другой. Конечно, с людьми это делается пока не так напрямую как с компом. Но недалек тот день, когда можно будет не заморачиваться техникой НЛП и телезомбирования, а просто воткнуть человеку в голову пару проводков и обновить прошивку

[ВадимZero]

Уже доказывал - если кто то просканирует все клетки в моём мозгу, чтобы предсказать что я сделаю в будущем - пойду в магазин или в кино, то я нарочно
туда не пойду

Вы думаете автомат которому доступно инфо о его предсказании не способен на то же самое?

[незлой]

возражаю против определения "невозможно".
Соглашусь на "может быть невозможным" или скорее "довольно трудно".

обосную: у нас нет возможности подтвердить результат, следовательно мы не можем быть в нём уверены. следовательно, отличить "собственное" от индуцированного "изнутри" в общем случае невозможно, причём принципиально. 
или, переформулирую: мы всегда будем недостаточно объективны, чтобы доверять себе, поскольку возможности проверить собственную объективность (эталона) у нас нет. мы вынуждены принимать за эталон самих себя (ничего другого у нас нет), а это всегда ведёт к искажению результата


"и вот в таких сложных условиях приходится работать" 

[незлой]

А объективная (физическая) реальность?

она уже дана нам в наших ощущениях, а значит является предметом интерпретаций. у нас нет "прямого" доступа к реальности.
основной вопрос философии по прежнему открыт.

[Rattus]

ну, в электронике мы уже тоже на этом пороге стоим, можно и сэмулировать

Квантовые генераторы случайных чисел разработаны давным-давно. Согласно тезисам нашего собеседника, подключение такового к какой-либо АСУ сразу же наделяет её "сознаниемЪ".

[незлой]

Согласно тезисам нашего собеседника, подключение его к какой-либо АСУ сразу же наделяет её "сознаниемЪ".

с точки зрения стороннего наблюдателя?
вполне возможно, что тот действительно не увидит разницы

что, опятьже, навевает всякие нехорошие мысли про наши собственные "свободы"...

[Skipper_NORTON]

Вы думаете автомат которому доступно инфо о его предсказании не способен на то же самое?

 
 
Более удачный пример вот такой -
 
1) есть недетерминированный компьютер с квантовой непредсказуемостью (Кв.Комп), который обладает сознанием.
 
2) есть конечный автомат на архитектуре фон-Неймана, который сознанием не обладает.
 
Рассмотрим их как единую систему из двух этих "мета-элементов", они общаются только друг с другом, и ни с кем больше.
В результате общения, развиваются,  скажем, играют в игру Го.
 
Первый пытается изучить алгоритм  второго, а второй - первого,  чтобы попытаться друг у друга выигрывать в будущем. Ну и как то совершенствуют свою игру.
 
Поскольку действия 2-го абсолютно детерминированы (достаточно знать что у него в памяти чтобы предсказать какие он сделает ходы, и какие у него
будут состояния в будущем), то алгоритм 1-го компьютера в конечном итоге полностью  изучит алгоритм 2-го и будет у него выигрывать уже всегда.
Т.е. он станет лучше играть.
 
Обратное однако, неверно - действия 1-го компьютера не разгадает не то что..  какой то там конечный автомат, а даже человеческий мозг. 
(после того как 1-й компьютер достаточно разовьётся).
 
Вот вам и отличие возможностей систем..    Конечные автоматы - всегда будут под контролем человечества. 
 

[Olweg]

"Способность чувствовать" - она 1) или есть или 2)  её нет.     (потому это КАЧЕСТВЕННАЯ способность а не количественная - значит и
Это не может быть всего лишь вопрос сложности системы).

Согласен. Это не вопрос сложности, а вопрос архитектуры системы. Только какое это имеет отношение к

У человека  она есть   100%.  У конечного автомата - я считаю, нет.
Потому что человек чувствует что делает выбор -> значит он его по настоящему делает.
Конечный автомат не делает выбора, т.к.  его дествия можно заранее точно предсказать, зная его алгоритм -> значит он и не чувствует.

?
Каким образом «способность чувствовать» связана со способностью делать выбор? И что из себя реально представляет эта способность? Как вы себе представляете логику принятия решения, если не оставлять в ней никаких неизвестных?
 

Другими словами,  у конечного автомата (компьютера который таковым является - "есть судьба".   У сознания - "нет судьбы".
Эйнштейн был неправ, Бор прав.  Сознание недетерминировано, и его действия не могут быть предсказаны, так же как и положение электрона наперед, в будущем.
"Бог играет в кости".

Квантовыми явлениями, скорее всего, можно пренебречь, если рассматривать процессы, происходящие в мозге. Пенроуз был неправ.

[Skipper_NORTON]

Квантовые генераторы случайных чисел разработаны давным-давно. Согласно тезисам нашего собеседника, подключение такового к какой-либо АСУ сразу же наделяет её "сознаниемЪ"

 
 
Я не говорю, что  100% этого - достаточно для появления сознания. 
Я всего лишь доказываю  необходимость этого.
 
Это как в математике.  Теорема  "Для выполнения A (появление сознания) - необходимо и достаточно B (квантовой непредсказуемости объекта) ".
Необходимость - доказана.
Достаточность - нет.
 
Если кто то докажет  достаточность, либо укажет, что же еще нужно кроме квантовой непредсказуемости объекта - тот и создаст первый ИИ,
наделенный настоящим сознанием.
 
Который сможет делать не только  то что ему человечество укажет, а будет по своему развиваться, может даже, найдет для себя какие то законы физики,
скажем, узнает как черпать энергию вакуума, человечество уведомлять не станет, и выйдет из под контроля человеческой энерго-сети.
Т.е. человечество после этого, не сможет отключить ИИ, просто  дёрнув рубильник. 

[ВадимZero]

1) есть недетерминированный компьютер с квантовой непредсказуемостью

Компьютер по определению детерминирован. Если он не детерминирован то это не компьютер. Любой алгоритм это последовательность команд, который не способен функционировать если исполнение команд не может быть строго детерминировано.

То есть еще раз для тех кто вообще не занимался программированием. Компьютерная программа это строгая последовательность команд. Недетерминированный компьютер это просто словесная чушь.

[eRTF]

она уже дана нам в наших ощущениях, а значит является предметом интерпретаций. у нас нет "прямого" доступа к реальности.

Ощущения - это тоже физическая реальность, это сигналы, проходящие от рецепторов по нервным волокнам, интерпретации - это активность нейронов мозга в соответствующих зонах.
Ваш  "факт собственного бытия" - не более, чем ощущение, основанное на физической реальности (работе мозга). Но вы почему-то утверждаете,  что именно это ощущение - не ощущение, а какая-то особенная реальность (не физическая!), к который у вас есть "прямой доступ". Считаю это субъективистским заблуждением.

[Skipper_NORTON]

Недетерминированный компьютер это просто словесная чушь.

 
вот пример -
 

Квантовые генераторы случайных чисел разработаны давным-давно.

 
А компьютер, который внутренне недетерминирован - содержит алгоритм, зависящий к примеру от настоящих рандомных чисел  (а не псевдорандомных).
Кстати, аналоговые компьютеры скорее всего, если бы делали такие, тоже были бы недетерминированы.
 
Вот второй пример -
 

Квантовые компьютеры которые пока только на начальной стадии разработки, будут как раз таки, недетерминированы.

 
 
Потому 
 

Компьютер по определению детерминирован

 
неверно.   Детерминирован - конечный автомат с архитектурой фон-Неймана,  но не "любой компьютер "