ИИ: какого понимания нам не хватает?

[kovip]

кроме тех случаев, когда нужного специального инструмента под рукой просто нет.
не предугадали данное стечение обстоятельств, и не захватили с собой.

   Ну до таких проблем в космосе ещё очень далеко, и то если они смогут возникнуть. Довольно давно читал о создании диагностирующего аппарата, эффективность которого вдвое больше чем в  среднем по врачам, кажется. может вдвое лучше лучших. Суть то, интеллект он же разум, это способность решать незнакомые задачи до уровня эксперта, который не думает потому что уже всё знает. Например тому же медицинскому диагносту вовсе не за чем уметь щи варить.  Уровень эксперта должен достигаться в процессе работы. Т.е. также как работает любой мозг, определил, направление поиска, вытащил подходящий инструмент, если его недостаточно, модифицировал и вернул на место до следующего случая, при котором его нужно использовать. И так до предела возможностей аппарата или сложности задачи. Гнаться за человеческим разумом нет смысла. По факту, как сказал преподаватель математики в институте: "Умных людей из числа студентов, процентов 10, остальные, пустая трата времени и средств".

[Skipper_NORTON]

ASPCR — это Американское общество за предотвращение жестокости по отношению к роботам (American Society for the Prevention of Cruelty to Robots),
основанное в 1999 году».

 
А они доказали что компьютер способен чувствовать?
 

[Olweg]

Есть такое понятие как "способность чувствовать". Это первооснова зарождения сознания.
Сознание сначала просто чувствует - вот это приятно, а это неприятно, и на основе этого - развивается.
Чувствовать например боль, или удовольствие.
 
И она - эта способность, либо есть, либо её нет.   Третьего не дано. (т.е. нельзя например сказать, что
существо способно чувствовать на 43%).
 
В какой момент оно появляется? Вот эта способность чувствововать.

Знаменитая «трудная проблема сознания» Чалмерса. Мне понравилась идея, которую предложил Макс Тегмарк в книге «Life 3.0»: разбить эту «трудную проблему» на три составляющих:

1. «Довольно трудная». Какие физические свойства различают сознающие и несознающие системы? Вполне поддаётся экспериментальной проверке по крайней мере на людях, которые могут докладывать о наличии/отсутствии субъективного опыта.

2. «Ещё более трудная» ) Как именно физические свойства определяют квалиа? Например, какие именно процессы приводят к ощущению красного, а какие - к ощущению вкуса лимона или зубной боли? Возможно, тоже может быть проверена экспериментально, но тут, конечно, возникают интересные воросы об ощущениях, которые человек в принципе не способен испытывать. Может быть, в будущем станут проводить и такие опыты: запускать в мозгу человека или во внешних подключенных модулях процессы, вызывающие не испытанные раньше никем ощущения. См., например, «марсианские цвета», которые видят иногда некоторые синестеты.

3. «Действительно трудная». Почему вообще возникает сознательный опыт? Вопос может оказаться из той же серии, что и вопрос, почему существует э/м взаимодействие. Может быть, существует более общая теория, которая позволит на него ответить, а может быть, придётся просто признать, что таковы фундаментальные свойства нашей Вселенной: определённые информационные процессы приводят к появлению такого эмерджентного свойства, как сознания, и приходится просто принять это как данность.

[kovip]

швейцарского мультитула у него нету

Есть и пользовался им очень часто, не не в тех случаях где быстрее и качественнее использовать специальным инструментом. Про особые случаи разговору нет, а вот если этим ножичком заставить вас дом строить, вы взвоете через несколько минут, если можете думать, и максимум, через час если туп от природы.

Есть такое понятие как "способность чувствовать". Это первооснова зарождения сознания.

Если это взять за основу,то окажется что дождевой червь или муха обладают сознанием.

Вот и теория реинкарнации (множественных жизней) из этого следует   
И может быть "Я" - был когда то динозавром, птеродактилем или плезиадаписом в прошлом.

! " А если туп как дерево родишься баобабом и будешь баобабом тыщу лет пока помрёш."

А вот именно, если будет обнаружена некая сущность которая отвечает за способность чувствовать (мифическая душа),

Увы надежды ваши тщетны. В природе существует только то, что может существовать. Душа так как её представляют верующие, существовать не может, также как и другие персонажи сказок.

"Я чувствую", доказать никому не могу, но меня никто в этом не переубедит 

Это нормально в психушке тоже невозможно доказать ни одному "наполену" что он не Наполеон.

Не понял, к чему вы.

Чего тут непонятного? Вы хотите запретить ИИ совершать нечто вредное для личности. Теперь ситуация, вы стали инициатором неизлечимой болезни, Единственный выход убить больных среди которых вы тоже.
И вот с криком "Я НЕ ХОЧУ УМИРАТЬ" но если вас оставить умрут все Вы же сказали: "нужно этого избежать хотя бы в случае ИИ. Чтобы оптимальным решением не было уничтожение половины человечества ради блага другой половины." Таким образом у ва получилось "Если мне не хочется умирать пусть сдохнут все остальные"

[Skipper_NORTON]

Знаменитая «трудная проблема сознания» Чалмерса. Мне понравилась идея, которую предложил Макс Тегмарк в книге «Life 3.0»: разбить эту «трудную проблему» на три составляющих

 
Да.. интересно будет почитать.
 

[Skipper_NORTON]

Если это взять за основу,то окажется что дождевой червь или муха обладают сознанием.

 
А собака обладает?  Кошка? Птица?  Рыба?
Вот и дайте критерий - кто обладает, и  кто нет?  Чем таким принципиальным первый отличается от второго?
 
У меня критерий - если чувствует, значит сознанием обладает (пусть и примитивным). Но может быть муха и не чувствует
(типа как робот, или механический самолётик) - это неизвестно.   

[Olweg]

Не понял, к чему вы.

Чего тут непонятного? Вы хотите запретить ИИ совершать нечто вредное для личности. Теперь ситуация, вы стали инициатором неизлечимой болезни, Единственный выход убить больных среди которых вы тоже.
И вот с криком "Я НЕ ХОЧУ УМИРАТЬ" но если вас оставить умрут все Вы же сказали: "нужно этого избежать хотя бы в случае ИИ. Чтобы оптимальным решением не было уничтожение половины человечества ради блага другой половины." Таким образом у ва получилось "Если мне не хочется умирать пусть сдохнут все остальные"

Я, правда, не dimon753, но поскольку ответ был на мой вопрос, то прокомментирую: нет, не получилось. Не понимаю, как вы из моей фразы такие выводы смогли сделать.

[kovip]

У меня критерий - если чувствует, значит сознанием обладает (пусть и примитивным). Но может быть муха и не чувствует

Нет желания начинать что то объяснять по третьему - пятому кругу то, что уже рассказано и обсуждено. Захотите узнаете, только ведь не захотите.

Не понимаю, как вы из моей фразы такие выводы смогли сделать.

там есть соответствующая цитата из поста на которой строится рассуждение.

[Skipper_NORTON]

Знаменитая «трудная проблема сознания» Чалмерса. Мне понравилась идея, которую предложил Макс Тегмарк в книге «Life 3.0»:
разбить эту «трудную проблему» на три составляющих

 
Вкратце пробежался по принципам Чалмерса (David John Chalmers).  Пока не нашел ответ на вопрос, что есть - смерть сознания?
 
1) мой принцип - всё забыть - это не означает "умереть". Примеры. Я всё забыл что у меня было в 2-летнем возрасте, но это моё сознание тогда
было, оно и продолжает сейчас функционировать, т.е. не умерло. А не сознание какого то соседского мальчика.
Забыл сон который снился ночью - но это моё сознание переживало этот сон и эти ощущения.
Если какой то человек заболел болезнью Альцгеймера, и всё забыл в своей жизни, потом его вылечили, и он начинает жизнь с нуля (с чистого листа),
значит его сознание и продолжает фунционировать, и нельзя считать, что его сознание умерло, а потом зародилось некое другое сознание.
 
2) из всего вышесказанного следует, что видимо если человека заморозить (= отключить сознание), а потом через 100 лет разморозить, то его же
сознание и будет продолжать жить.   
 
3) если во время заморозки - скопировать все данные с мозга замороженного человека, и сделать клона - который будет жить какое то время,
пока лежит замороженный, то тем самым мы возобновим работу этого же сознания, т.е. он вправе сказать, что продолжает жить жизнь, а начало
было в теле другого человека.
 
4) после разморозки - в первом теле возникает копия того же сознания.  Т.е. было одно - стало два, но с одним прошлым.
Если такие два человека встретятся, и будут обсуждать своё прошлое, то им следует говорить не так - "помнишь что ты делал в таком то году?"
а "помнишь что мы делали в таком то году?"  "Я"  в таком случае - перейду с 50% вероятностью - в тело одного человека, либо
в тело другого человека.  Разделение одного сознани на два во времени - это как ветка дерева разделяется на две ветки.
 
5) Чалмерс пишет, что и компьютер может обладать сознанием - неважно нейроны там, или некие другие аналоги, важен сам факт -
сознание порождается любым вычислительным процессом во Вселенной ("Сильный ИИ"). 
Значит, если я как программист напишу программу ИИ (искусственного интеллекта), обучу ее и у нее есть сознание, то по аналогии со всеми
выше приводимыми доводами - временное отключение компьютера от электричества, и прерывание его функционирования - не будет означать
смерть этого компьютерного сознания! Включил комп - оно продолжает функционировать.  Это же, а не другое компьютерное сознание!
 
6) пока компьютер был в отключенном состоянии - программу можно переписать или что то там немного изменить.  Если изменения совсем
незначительные, то из этого можно сделать вывод, что в таком случае тоже, смерти сознания не наступит - и при включении компа
не зародится новое сознание, а будет жить то же самое.
 
7) но изменения этой программы (пока компьютер в выключенном состоянии) - можно наращивать, и до такой степени, что она станет
вообще непохожей на ту что была в прошлом до неузнаваемости. Если в какой то момент (после какого изменения) будут аргументы что вот,
в таком случае - сознание умрет, а в таком - еще нет, то возникает вопрос - а почему некие именно количественные изменения
влияют на результат - то же сознание продолжает жить, или же оно умирает и зарождается новое?
Ведь зарождение нового сознания и смерть старого - это "качественный вопрос", а не количественный.
Нельзя сказать - на  63% - это то же сознание, и на 37% - другое. 
Оно - а) либо то же, б) либо другое , т.е. смерть - либо наступила, либо нет, и третьего не дано.
Аналогично, пока человек лежит замороженный, его память (мозг) можно "обнулить", но в таком случае кажется, что сознание будет
прежним (т.е. не умрет).
 
8 ) из пунктов выше - а) ни функциональность, ни память - не влияют на вопрос - умерло ли сознание или нет (пункт с замороженным человеком),
б) и известная материя не влияет на этот вопрос - т.е. если сделать двойника, а оригинал - убить - сознание будет то же,
или копию компьютерной программы - запустить на другом компьютере - сознание то же,
следует вывод -
 
должно существовать еще нечто, что отвечает на этот вопрос - а) в каком случае смерть сознания происходит, т.е. оно не может "перекочевать"
в другой информационный процесс во Вселенной, б) и в каком случае - не происходит.
Это нечто, можно назвать некой "элементарной, неделимой мета-частицей в Информационном пространстве Вселенной".
Информационное пространство Вселенной может нельзя потрогать, но оно существует так же как и электромагнитные волны.
 
Любые информационные процессы во Вселенной имеют некую неделимую "точку", это по аналогии, как любая программа, имеет
дескриптор - адрес в оперативной памяти, за её отвечающий. Я её и называю - элементарной мета-частицей в Информационном пространстве Вселенной.
За каждый информационный процесс, отвечает некая одна, такая мета-частица.
Если в момент времени A и в момент времени B, отвечает за инф. процессы - одна и та же мета-частица, то и сознание то же, если нет -
сознание другое, а первое - умерло, или уже отвечает за другие процессы.
 
Так вот если эти "дескрипторы", или другими словами, мета-частицы (философы могут назвать душой) в Информационном пространстве -
не разрушаются после смерти тела, а могут в будущем отвечать за другие инф. процессы - то тогда и теория реинкарнации верна,
т.е. мы живем множество жизней. Только не помним это. Теоретически, можем и вспомнить, если сумеем анализировать Инф.пространство.
 
   
 

[Olweg]

Это вопрос, требующий изучения. Из того, что я читал по этой теме, для себя сделал такой (пока, конечно, предварительный) вывод: сознание складывается как совокупность субъективных «микроощущений», каждое из которых возникает в той или иной микроколонке коры мозга. А сумма таких ощущений, т.е. то, что мы ежесекундно воспринимаем как субъективный опыт - результат синхронизации таких микропроцессов (например, в гамма-ритме). Осознание себя как личности, «я» - тоже один из таких процессов. Главный вопрос - что из себя представляют эти процессы в микроколонках (если, конечно, они являются базой для сознания; может быть, эти процессы вообще строго не локализованы).

[Макрофаг]

1) мой принцип - всё забыть - это не означает "умереть". Примеры. Я всё забыл что у меня было в 2-летнем возрасте, но это моё сознание тогда
было, оно и продолжает сейчас функционировать, т.е. не умерло. А не сознание какого то соседского мальчика.

В таком возрасте , ещё рано говорить об индивидуальной памяти как напр. "фильмы воспоминания" о себе самом.
Сначала должны появиться отрывочные воспоминания о действия связанных с чем то приятным или неприятным. Например ребёнок хорошо запоминает маму и охотно идёт к ней на ручки.
Это связано например с удовлетворением потребностей в кормлении , пеленании( дефекация вызывает раздражение рецепторов кожи). Так появляется отрывок будущего "фильма воспоминания", который будет обрастать всё новыми подробностями.
Идентифицировать своё "Я" это проявить своё отношение к наблюдаемому нарабатывая собственную модель поведения.Потом можно будет выделить эту модель и применять в различных условиях.
" Я" это такая же модель наработанного опыта в определённых условиях: как и другие модели ( родственники, друзья, знакомые, посторонние и т.п)
Мы не можем вспомнить себя в два года , так как нет ещё развитой модели связывания себя с окружающим.
 

2) из всего вышесказанного следует, что видимо если человека заморозить (= отключить сознание), а потом через 100 лет разморозить, то его же
сознание и будет продолжать жить.   

Это невозможно так как наступают необратимые процессы на молекулярном уровне.
Например ДНК замороженного мамонта невозможно "сшить " из за окислительных процессов ДНК белков и липидов.

3) если во время заморозки - скопировать все данные с мозга замороженного человека, и сделать клона - который будет жить какое то время,
пока лежит замороженный, то тем самым мы возобновим работу этого же сознания, т.е. он вправе сказать, что продолжает жить жизнь, а начало
было в теле другого человека.

Даже с живого мозга никакие "данные" скопировать невозможно.

4) после разморозки - в первом теле возникает копия того же сознания.

Невозможность скопировать на носитель какие либо данные с мозга , для последующего восстановления - это грубая попытка сравнения мозга с компом.

[Skipper_NORTON]

Даже с живого мозга никакие "данные" скопировать невозможно.

 
Без доказательств такие утверждения кажутся чем то похоже прогнозам некоторых футурологов, что
человечество никогда не узнает состав звезд и Солнца, а Лондон будет завален конским навозом.
 
Уже сейчас ведутся исследования по подключению неких интефейсов к мозгу.
 

[Skipper_NORTON]

В таком возрасте , ещё рано говорить об индивидуальной памяти

 
Причём тут индивидуальная память?  Сознание у 2-летнего есть?  Есть. Было моё, а не чье то другое.
А вот сознание допустим, Юрия Гагарина было не моё. 
Что именно отвечает (определеяет), сознание во время А, с тем же сознанием во время B ?
   
Когда ответят на этот вопрос, тогда будет и понятнее, что такое "смерть сознания". Если она действительно есть.
 

[BlackMokona]

Есть. Было моё, а не чье то другое.

Доказать сможете?

[Skipper_NORTON]

Доказать сможете?

 
ну "я" же сегодняшний   -перешел  с себя вчерашнего.  Вот если я сегодня буду  жить  за Сергей, завтра за  Лёху,
а послезавтра снова за сергея,  тогда да - сознание не переходит.   Не хотели бы телами  (мозгами) на денек махнуться?
 
Следовательно, по индукции, доказывается что и моё тело ,  в возрасте 2-летнем - обладало МОИМ а не чьим-то сознанием.
 
Еще интересный вопрос. Если подменить  мне  5%  нейронов в мозгу - я умру от этого?  и родится другое сознание?
хотя 95%  нейронов будут те же. 

[BlackMokona]

ну "я" же сегодняшний   -перешел  с себя вчерашнего. 

Сие не доказано, вдруг у вас чужая память?

[Skipper_NORTON]

Сие не доказано, вдруг у вас чужая память?

 
Ну..  Можно и так полагать.  Уснул ночью - работа сознания прервалась и оно умерло.  А утром заново рождается
новое сознание с чужой памятью.     
Так вот, типа и живем  "однодневки".
 
Ну если смерть "именно такая", то она и не страшна.
Субъективно она таковой не воспринимается, а здесь именно субъективные ощущения и надо считать главными,
первостепенными в таких доказательствах.  Потому я уверен - всё таки сознание не умирает, и утром новое не рождается.
Т.е. по крайней мере в течении всей жизни одного человека - в нём живет одно сознание.
 
И если ответить на вопрос, что же такое смерть сознания, то это прояснит и его природу, а также - возможность
обрести сознание ИИ, и компьютеру (неважно - на транзисторах, или квантовому компьютеру).
 

[BlackMokona]

Субъективно она таковой не воспринимается

Субъективно и Земля плоская.

[alena_korf]

И если ответить на вопрос, что же такое смерть сознания

прекращение функционирования мозга

[Olweg]

Коры мозга.