ИИ: какого понимания нам не хватает?

[otu K.]

Осознанное в младенчестве

вах, еретик. как и что может осознать только что родившийся или ещё лежащий в колыбели младенец? )) просто запомнилось, чисто механически, и видать на фоне сильного стресса

[гравицап]

Может и так. У меня столь ранних воспоминаний нет.

[otu K.]

факт, что воспоминания сохранялись восемнадцать лет в неудобочитаемой форме. видимо я перезапоминал свой "смутный ужас" каждый раз, пока он не расшифровался в особом состоянии ностальгии

[Вайт]

Странный вывод. Для процесса сравнения субъект вовсе не обязателен.

Смысл сравнения есть только в голове субъекта. А без смысла есть просто некий физический процесс, мир, сущее, а не знание чего-либо.

Но речь шла о другом. О том, что буквальная трактовка интроспективного восприятия «сравнения», как действий некого Я, которое по очереди наблюдает, например, какие-то предметы, чтобы выбрать необходимый, ведёт к противоречиям. В мозге выделяют некие области, где есть Я, и области, где находятся образы этих предметов. Вследствие чего, вместо разумного и вроде бы очевидного прямого разделения мозга на функции и области, наоборот, в мозге возникают думающие и не думающие части и бесконечно множащиеся гомункулусы. В итоге все подобные доморощенные «теории» мышления, авторы которых не удосужились (или, скорее, не смогли) лишний раз подумать, есть откровенная чушь.

[Вайт]

Синхронизация - причина или следствие того что выделенное в фокус интерпретации связывается с областями ответственными за интерпретацию ?

В мозге нет областей, «ответственных за интерпретацию», весь мозг такая «область».

В мозге и так всё взаимосвязано, поэтому синхронизация не означает какого-либо нового «связывания» (если только не понимать «связывание», как когернтную активность нейронов, то есть собственно саму синхронизацию).

И как раз вследствие высокой взаимосвязи всех нейронов в мозге, селективная синхронизация на самой высокой частоте ритмов мозга (внимание то есть) — это одновременно и следствие, и причина. Следствие предыдущей активности всего мозга — до того, как селективная синхронизация возникла. И причина, которая влияет на последующую работу всего мозга, после того, как она возникла.

Ну, а изменение работы всего мозга — это в том числе и изменение активности выходных нейронов сети, которые связаны с мышцами и железами. Тем самым вначале внимание зависит от предыдущего направления поведения, а затем, оно само влияет на поведение — поведение меняется «в сторону», куда сейчас направлено внимание.

[Вайт]

Смысл — это эмоционально воспринимаемая обобщённая перспектива происходящего. То есть смысл и эмоции — это одно и то же. Радость, боль, голод, энтузиазм, ощущение ложности или правильности, удовлетворение или возмущение — это всё и смысл ситуации, и эмоции, и ощущения. Таким образом, вопрос из заголовка можно поставить шире — сможет ли ИИ вообще что-то чувствовать, ощущать, сознавать в целом или ИИ — это навсегда всего лишь бесчувственная машина?

1. Формализовать явление — это описать явление на формальном языке. Другими словами, формализовать — это написать «формулу» явления, по которой можно будет вычислять, как начальные условия влияют на ход явления. Тем самым явление становится «понятным», так как оно становится предсказуемым. Таким образом, «формализовать» суть «понять».

Следовательно, чтобы формализовать смысл, нужно описать смысл на формальном языке, написать формулу смысла. Но слова сами по себе смысла не имеют, а значит, смысл словами выразить нельзя. Таким образом, смысл — это явление принципиально неформализуемое, то есть принципиально непознаваемое.

2. Любой ИИ — это алгоритм, программа (программа — это реализованный конкретными средствами алгоритм). Алгоритм имеет в основании формальный язык. Но слова сами по себе смысла не имеют. Таким образом, выразить смысл алгоритмом невозможно, а значит, ИИ и смысл несовместимы. Следовательно мы, как воспринимающие смысл, принципиально отличаемся от искусственных систем, так как все искусственные системы работают по некоторому алгоритму. Проще говоря, мы — не алгоритм.

3. Смысл — это часть физической реальности, то есть часть некого целого, что представляет из себя сущее. В ином случае, если бы смысл и физические процессы были принципиально отличными друг от друга, то смысл и работа мозга не имели бы никакой связи. Таким образом, во-первых, если смысл, как часть единого целого, непознаваем, то и мир в целом непознаваем в той же степени. Во-вторых, смысл, как часть единого целого, означает, что говорить можно не о полной непознаваемости смысла, а лишь о значительно более высокой непознаваемости того уровня физической реальности, на котором находится живое, человек и в целом те явления, которые лежат в основании смысла и мышления соответственно. (Если что, это уровень неравновесной термодинамики, открытых систем, хаоса и самоорганизации, так как именно эти явления лежат в основании живого.)

4. И наконец если в сущем есть уровни, а не строгое деление на принципиально отличные сущности, то немного ощущений будет и у любого ИИ и вообще у любого механизма. Но их будет настолько же меньше, насколько алгоритм отличается от работы мозга. То есть качественно меньше. Таким образом, ИИ всегда будет много больше бездумной машиной, чем живым существом и тем более человеком.

5. Пусть ИИ будет бездумной машиной, но если что-то выглядит как утка и крякает как утка, то это утка. Поэтому если ИИ сможет вести себя как человек, быть настолько же умным, то какая разница, чувствует он или нет? Однако если алгоритм и мышление несовместимы, представляя разные уровни реальности, то в той же степени и поведение ИИ будет отличаться от поведения человека и живого вообще.

Чем оно будет отличаться? Сложностью. ИИ всегда будет много проще человека, так как алгоритм суть знание, предсказуемость, а значит, понятность и, таким образом, простота. И наоборот, «не алгоритм» — суть незнание и потому непредсказуемость, а значит, непонятность и, следовательно, сложность. Этот вывод относится и к искусственным нейронным сетям, несмотря на вроде бы высокую «непонятность» их работы, так как ИНС тоже алгоритм (хотя и своеобразный — например, состоящий из алгоритма обучения сети и алгоритма её работы).

6. Может, можно создать ИИ из биологических нейронов? Однако процесс создания тоже будет алгоритмом — но алгоритм выразить мышление не может. Следовательно возможности и этого способа приближения ИИ к сложности человека и полноте его ощущений тоже ограничены.

[otu K.]

селективная синхронизация на самой высокой частоте ритмов мозга (внимание то есть)

а вот это требует более чем строгого доказательства. то есть доказательства каждого из терминов Вашего силлогизма

[Вайт]

а вот это требует более чем строгого доказательства. то есть доказательства каждого из терминов Вашего силлогизма

Так вы тему читайте. По цитатам хотя бы пройдите.

https://astronomy.ru/forum/index.php/topic,94664.msg4962886.html#msg4962886

[Rattus]

Комментарий модератора раздела

Первое сообщение темы "Может ли ИИ ощущать смысл" присоединена к этой теме выше.
Автор - Вайт - получает 20% предупреждений за дублирование однотипных тем (п.3.1.г Правил Форума).
А также настоятельная рекомендация всем участникам этой темы пользоваться по возможности исходно общепринятыми определениями используемых понятий и принятой в естественных науках терминологией.

[Вайт]

А также настоятельная рекомендация всем участникам этой темы пользоваться по возможности исходно общепринятыми определениями используемых понятий и принятой в естественных науках терминологией.

Присоединили и хорошо (хотя, полагаю, причина не в "дублировании"), а это замечание чего касается?

[otu K.]

а это замечание чего касается?

внимание настолько важный феномен, что "вскользь" суждения о нём бессмыслены. есть ли внимание у кошки и собаки? а у ёжика? а у морского ежа? а у инфузории туфельки? а у вируса??

[MenFrame]

Смысл — это эмоционально воспринимаемая обобщённая перспектива происходящего.

"Смысл" это просто оценка поступившей информации, с точки зрения возможности ее использования для достижения поставленной цели. Эмоции, здесь совсем не обязательны.
    Соответственно вся последующая ваша болтовня лишена смысла....Ибо постулирует совершенно не обязательную связь логики с эмоциями.

[MenFrame]

это навсегда всего лишь бесчувственная машина?

Чувственная машина, не чем не отличается от бесчувственной, за исключением выполнения специфических функций которые нужны лысой обезьяне для выживания...Как то..
1)Передачу невербальной информации другим членам стаи, о своем внутреннем состоянии.
2)Изменения гормонального уровня своего тела для выполнения специфических задач, которые стали необходимыми в данном случае.

[Вайт]

"Смысл" это просто оценка поступившей информации, с точки зрения возможности ее использования для достижения поставленной цели. Эмоции, здесь совсем не обязательны. Соответственно вся последующая ваша болтовня лишена смысла....Ибо постулирует совершенно не обязательную связь логики с эмоциями.

Смысл — это то, что написано — психическое восприятие обобщённой перспективы ситуации, и ничто иное. Эмоции из текста можете вообще убрать, в выводах ничего не изменится, потому что главное — смысл. Человек смысл воспринимает, а ИИ — см. пост.

Ну, и заодно, факультативно, если смысл, по-вашему, не эмоция, объясните тогда, как мы воспринимаем смысл, если не в виде некоторой эмоции.

Чувственная машина, не чем не отличается от бесчувственной, за исключением ...

Об этом пункт 5.

[MenFrame]

как мы воспринимаем смысл, если не в виде некоторой эмоции.

Мы смысл не воспринимаем. Смысл это как раз реакция на восприятие, она  у человека эмоциональная, но это не значит что у ИИ она должна быть эмоциональной. Если вам сказали что нужно подмести площадь, и дадут ломик в качестве инструмента...то вы можете поступить эмоционально(обматерить работодателя), а можете поступить рационально, сказав что выполнение данной задачи этим инструментом лишено смысла.

Об этом пункт 5.

Там вообще какая то чушь....типа

понятность и, таким образом, простота.

суть незнание и потому непредсказуемость, а значит, непонятность и, следовательно, сложность.

Понятность...это вообще категория оценивающего, ане оцениваемого. То есть если вам чего то не понятно, это ваша проблема, а не суть того что вы изучаете. Про "незнание" вообще хрень....Что есть "незнание" блин? и почему оно непредсказуемо, и потому сложно? Если вы монетку кидаете на пол, она непредсказуема, а значит сложна? А если вы чего то не знаете, то какое дело другим до этого? Если вы чего то незнаете, то оно для вас непредсказуемо, но это ваша проблема, а не суть самой изучаемой вещи.


Вайт.....пора чинить логику. Ваш софистический бред уже начинает надоедать.

[Вайт]

Мы смысл не воспринимаем.

Вы не воспринимаете, говорите про себя. В общем это чересчур, MenFrame. Создавайте в своих постах хоть видимость разумности, иначе мне не настолько охота писать на форумах, чтобы пытаться опровергать бред.

То же касается и ваших заявлений про сложность. Есть явления сложные, которые в принципе непредсказуемы сколько-нибудь точно, есть простые, предсказуемые: Сложные системы — Википедия (я не совсем согласен с написанным в ссылке, но в данном случае это несущественно). В общем в посте всё написано.

[гравицап]

Смысл — это эмоционально воспринимаемая обобщённая перспектива происходящего.

"Смысл" это просто оценка поступившей информации, с точки зрения возможности ее использования для достижения поставленной цели. Эмоции, здесь совсем не обязательны.
    Соответственно вся последующая ваша болтовня лишена смысла....Ибо постулирует совершенно не обязательную связь логики с эмоциями.

Для того чтобы иметь цель надобно ее желать что есть эмоция.
Логика без эмоций это природа. Все логично и все безразлично.

[гравицап]

как мы воспринимаем смысл, если не в виде некоторой эмоции.

Мы смысл не воспринимаем. Смысл это как раз реакция на восприятие, она  у человека эмоциональная, но это не значит что у ИИ она должна быть эмоциональной. Если вам сказали что нужно подмести площадь, и дадут ломик в качестве инструмента...то вы можете поступить эмоционально(обматерить работодателя), а можете поступить рационально, сказав что выполнение данной задачи этим инструментом лишено смысла.

Об этом пункт 5.

Там вообще какая то чушь....типа

понятность и, таким образом, простота.

суть незнание и потому непредсказуемость, а значит, непонятность и, следовательно, сложность.

Понятность...это вообще категория оценивающего, ане оцениваемого. То есть если вам чего то не понятно, это ваша проблема, а не суть того что вы изучаете. Про "незнание" вообще хрень....Что есть "незнание" блин? и почему оно непредсказуемо, и потому сложно? Если вы монетку кидаете на пол, она непредсказуема, а значит сложна? А если вы чего то не знаете, то какое дело другим до этого? Если вы чего то незнаете, то оно для вас непредсказуемо, но это ваша проблема, а не суть самой изучаемой вещи.


Вайт.....пора чинить логику. Ваш софистический бред уже начинает надоедать.

Про ломик интересно.или можно подметать зубной щеткой.
Ну допустим комп может предложить более эффективный способ. И только. Нет, значит будет ломиком подметать. Вобще то ему все равно. Что прикажут.человек оскорбится бунтовать может будет. А вы говорите смысл не эмоции

[Rattus]

есть ли внимание у кошки и собаки? а у ёжика?

Даже у насекомых есть: https://nplus1.ru/news/2020/03/02/alpha-oscillations-in-bees

а у морского ежа? а у инфузории туфельки? а у вируса?

Нет - только у тех, у кого есть ЦНС. У остальных множество самых разных регуляторных иерархий преспокойно идёт параллельно и какая из них "выше" - сказать невозможно.
А вирус - это вообще просто кучка специфичных молекул. Какое "внимание" может быть у молекул?!

Создавайте в своих постах хоть видимость разумности, иначе мне не настолько охота писать на форумах, чтобы пытаться опровергать бред.

Комментарий модератора раздела

ВАс это касается в первую очередь. То что пишет ВАш собеседник - понимаю прекрасно (хотя и не со всем в деталях согласен). То что пишете Вы - с тех пор как понял, что Вы не используете общепринятые определения понятий - даже не пытаюсь особо. Так что либо Вы начинаете писать общепонятно, либо продолжите получать проценты за околошизофазический флуд (п.3.1.д ПФ) и разжигание флейма (п.3.1.а ПФ).

Есть явления сложные, которые в принципе непредсказуемы сколько-нибудь точно, есть простые, предсказуемые

А есть явления исходно сложные, но предсказуемые - например работа ПК, а есть исходно простые, но непредсказуемые - например задача трёх тел.
Может всё-таки будете пользоваться общепринятым языком?

[loky1109]

А вирус - это вообще просто кучка специфичных молекул. Какое "внимание" может быть у молекул?!

Ну, реакцию на антиген на мембране клетки жертвы вполне можно назвать "вниманием". Если очень захотеть.