Психика, сознание, разум - определения и возможность моделирования

[Maki]

Ну нафиг такие способности.

Согласен. Но игнорировать эту способность нашего мозга, как и пограничные состояния меж гениальностью и шизофренией, наверное не стоит. Для вида в целом это иногда бывает полезно.

[Olweg]

Я с ним не согласен. Думаю что он впал в мракобесие и одушевляет неодушевленные предметы.

Там просто в конце я свои собственные мысли высказал на эту тему, безотносительно к Хинтону. И, насколько я понимаю, он вовсе не одушевляет. Просто, как я писал, это всё антропоцентризм. Мы связываем вместе такие понятия, как разум, интеллект, сознание, душа (кто в неё верит), понимание, личность и пр., потому что у нас только один пример интеллектуальных созданий. До сих пор был.

[troglodit888]

Там просто в конце я свои собственные мысли высказал на эту тему, безотносительно к Хинтону. И, насколько я понимаю, он вовсе не одушевляет. Просто, как я писал, это всё антропоцентризм. Мы связываем вместе такие понятия, как разум, интеллект, сознание, душа (кто в неё верит), понимание, личность и пр., потому что у нас только один пример интеллектуальных созданий. До сих пор был.

Да можно к любому явлению природы притянуть эту модель мира и тд. Я же на примере с трубой показал. Ничего не мешает вообще абсолютно к любому явлению - это приплести, даже не особо вдаваясь в детали.

[Olweg]

Почему нет? Вопрос в масштабе и эффективности применения.

[Olweg]

Ну, возможно, не спорю.

[troglodit888]

Ну, возможно, не спорю.

Так из этого следует, что никаких гарантий того, что в неронной сети возникнет сознание при любой её сложности - нет.

[Olweg]

Ёлки! Да при чём тут сознание? Я про него ничего и не говорю, наоборот. Процитирую сам себя:

Получается, что понимание и сознание - вещи совершенно необязательно связанные между собой, просто ещё один антропоморфизм.

[troglodit888]

И, насколько я понимаю, он вовсе не одушевляет.

Модель мира это свойство сознания всё же. Без сознания это не модель, а набор взаимодействий мира с самим собой. Модель могу я создать и описать или вы скажем. А взаимодействия будут без модели. Модель описывает взаимодействия.

[troglodit888]

Получается, что понимание и сознание - вещи совершенно необязательно связанные между собой, просто ещё один антропоморфизм.

Я не думаю, что понимание есть в трубе, по которой катится шар. В случае с нейронной сетью - просто алгоритмически выдается релевантный ответ. Тут не стоит упускать из внимания масштаб заключенной в ней информации и сложность алгоритма соответственно.

[troglodit888]

Существуют кстати алгоритмически неразрешимые задачи, которые доказано - решения алгоритмически не имеют. Но человек причем способен их решать, формулировать эти задачи, предполагать новые, рассуждать о них и понимать их.

[ivanij]

Текст как раз объективная реальность!

Прошу прощения, но нет.
Объективная реальность – это плоские листы целлюлозы, на которых нанесены черные пятнышки сложной формы. То, что это именно ТЕКСТ – это в мозге, а не в реальности.

  С вами, возможно, согласились бы некоторые из современников майора Ковалёва, но ленинградско-тартусская семиотическая школа - нет.

[Olweg]

Модель мира это свойство сознания всё же. Без сознания это не модель, а набор взаимодействий мира с самим собой. Модель могу я создать и описать или вы скажем. А взаимодействия будут без модели. Модель описывает взаимодействия.

Может быть, сознание возникает, если есть активный агент. Может быть, фундаментальные модели - это просто расширенный фенотип человека, и модель мира в них без его участия ничего не стоит. Может быть. Не знаю. Но интересный факт - модели могут создавать собственные внутренние языки, непонятные человеку, как, например, Dall-e.

[troglodit888]

модели могут создавать собственные внутренние языки, непонятные человеку

А ссылка есть? Интересно было бы почитать. Хотя по дефолту предполагаю, что авторами имеется ввиду некая абстракция, которую они называют языком. Так можно и в солнечных пятнах язык найти.

Язык причем - алгоритмичен от начала до конца, он цифрового характера. А мышление не цифровое, а аналоговое. Некоторые задачи при помощи языка не решить.

[Olweg]

Из соседней темы:
https://astronomy.ru/forum/index.php/topic,130794.msg6073004.html#msg6073004

Пробовал, глупости это. Имитация и словоблудие. 4о такой же как и 4 в смысле адекватности ответов.

Возможно, но вопрос - а сможем ли отличить подделку от оригинала, если все ответы со временем начнут подтверждать самоосознание у ИИ? Сейчас, предположим, модели отвечают самосознательно в 50% случаев (условный процент), через пару лет - в 80%, а через пять лет - в 100%. Значит ли это, что за это время у них появится сознание?

[Olweg]

А ссылка есть? Интересно было бы почитать. Хотя по дефолту предполагаю, что авторами имеется ввиду некая абстракция, которую они называют языком. Так можно и в солнечных пятнах язык найти.

Вот, например:
https://www.sciencealert.com/did-an-ai-really-invent-its-own-secret-language-here-s-what-we-know

[troglodit888]

Возможно, но вопрос - а сможем ли отличить подделку от оригинала, если все ответы со временем начнут подтверждать самоосознание у ИИ?

Сможем конечно. Ведь можно при бесконечном времени - найти исходники и алгоритм по которому из этих исходников была составлена фраза. Поскольку это очевидно принципиально возможно.

[Olweg]

Не уверен.

[troglodit888]

Не уверен.

Веса нейронной сети и связи - это и есть алгоритм. Просто он записан не в виде кода.

[Olweg]

Да, но вопрос в доступности <бесконечного> времени.

[Olweg]

Я не думаю, что понимание есть в трубе, по которой катится шар. В случае с нейронной сетью - просто алгоритмически выдается релевантный ответ. Тут не стоит упускать из внимания масштаб заключенной в ней информации и сложность алгоритма соответственно.

Почему нейросети головного мозга должны быть устроены иначе? В конце концов, разум возник только у животного с порядка ~10¹⁴ синапсов в коре ГМ. Это всё ещё на два порядка больше, чем у GPT-4 с её ~2 трлн. параметров, если верить утечкам. У шимпанзе синапсов больше, но этого им недостаточно. Размер всё-таки имеет значение.

Существуют кстати алгоритмически неразрешимые задачи, которые доказано - решения алгоритмически не имеют. Но человек причем способен их решать, формулировать эти задачи, предполагать новые, рассуждать о них и понимать их.

Какие, например?