Пределы автоматизации и внедрения роботов

[Норихати Такаянаги]

Рельеф не поменяется, новый опыт не будет получен.

А контекст?
См. вложение. Внимание на второй вопрос.
Придумай еще один ЧТО? На ту же тему - КАКУЮ?
Она же это откуда-то знает. Контекст учитывается.
Если угодно так и человека можно рассматривать как "нейросеть", сохраняющую контекст на протяжении 80-100 лет. А структура мозга в общих чертах не меняется на протяжении всей жизни. Хотя в деталях - меняется и там...
Между прочим я пока не вижу причин, почему нейросеть не может сама себя учить. Кроме того что, люди пока слишком неуверены в том что из этого выйдет. (И скорее всего пока ерунда получается)

[troglodit888]

Вы в этом уверены?

А иначе бы не было деформированных объектов - кисть руки например это некий объект. О котором можно иметь представление. Просто фон не всегда подходящий и при итеративном построении изображения начинаются такие глюки.

[Норихати Такаянаги]

А иначе бы не было деформированных объектов - кисть руки например это некий объект.

Я же выше об этом писал.
Нейросеть может не знать что вот этот объект - это точно именно кисть руки а не что-то иное.
Также она может не знать, что у человеческих рук обязательно должно быть не более 5 пальцев.
Короче опять тот же затык на "само-собой-очевидное" для людей, что для нейросети совсем не очевидно и может быть банально неизвестно.
Нет, незнание о каких-то деталях свойств объектов, это совсем не то же самое, что отсутствие картины мира, с некими представляемыми объектами.
Нейросеть может хоть во всем подряд ошибиться - это все равно не доказывает, что она не пыталась что-то там себе представить.

Люди в средних веках думали что мыши самозарождаются из тряпья. Это значит что у людей не было картины мира? Нет, была. Просто в ряде деталей этого мира, были заблуждения.

О котором можно иметь представление.

Да, в том числе можно иметь ошибочное.

[troglodit888]

Нейросеть может не знать что вот этот объект - это точно именно кисть руки а не что-то иное.

Да она вообще не знает о том что это за объекты - она строит пошагово изображение, итерациями и ставит подходящее по контексту, а контекст там алгоритмически описывается. Да у меня на компе стоит нейронка - я по разному экспериментировал и она именно так делает.

[Норихати Такаянаги]

Да у меня на компе стоит нейронка - я по разному экспериментировал и она именно так делает.

Да у меня тоже. Почему мы пришли к разным выводам?

[troglodit888]

Да у меня тоже. Почему мы пришли к разным выводам?

Вероятно потому, что я не думаю, что нейронка может что то представлять. С тем же успехом штангенциркуль что то представить может. Не меняется в ней ничего. Там кеш есть какой то, но это вообще не то.

Это то же самое что я буду постоянно писать перед тем как задать некий вопрос - описание предыдущего диалога вкратце и только после этого отправлять.

[Норихати Такаянаги]

Если угодно так и человека можно рассматривать как "нейросеть", сохраняющую контекст на протяжении 80-100 лет. А структура мозга в общих чертах не меняется на протяжении всей жизни

Между прочим, подумайте эту мысль по-глубже. Но начиная, скажем, с самых первых биологических обладателей нервных систем или хотя бы нейронов.
Если мы представим. Микроскопический организм отрастивший несколько первых нейронов, как организм с нейросетью, решающей задачу как выжить и размножиться. Погрешим ли мы против истины? Думается нет, современные нейросети пожалуй уж умнее дождевых червей.
Т.е. это допустимая аналогия. У живых организмов появилась бортовая нейросеть - нервная система. И решала она задачи выживания, помогая организму воспроизвести себя в этом мире.
А потом в ходе эволюции организмы и их нервные системы усложнялись, и где-то в этом процессе - в процессе решения той же самой задачи, прошу заметить - как-то появились сознание, построение картины окружающего мира, и Разум.
Почему нейросети не могут по своему повторить этот путь развития? Я пока не вижу жестких барьеров, кроме возможно нехватки нынешнего уровня закона Мура, на котором похоже подъехали к конечной станции. Перед ними точно так же ставят задачи, усложняющиеся, и они их как-то решают.

Там кеш есть какой то, но это вообще не то.

Почему? Это память о контексте.
Еще раз. Разверните вопрос. Посмотрите на человеческий функционирующий разум, решающий всевозможные задачи в процессе жизни. И попробуйте доказать, что это НЕ нейросеть-переросток, хранящая память о контексте с ситуативными ответвлениями на протяжении 100 лет.

[troglodit888]

Думается нет, современные нейросети пожалуй уж умнее дождевых червей.

Современная нейросеть - это мертвый дождевой червь с замороженной нервной системой, по которой гоняют импульсы и получают некий результат.

А если продолжить аналогию - нужно что то поменять в этой мертвой нейронной сети, то червя клонируют, чему то обучают, затем его опять замораживают.

[troglodit888]

Посмотрите на человеческий функционирующий разум, решающий всевозможные задачи в процессе жизни.

Это нейронная сеть. Но непрерывно меняющаяся. И память у живых существ сохраняется прямиком в структуре их нейронной сети, влияя в дальнейшем на её характеристики.

[Норихати Такаянаги]

По-моему, вы так и не поняли ключевую идею которую я пытался донести.
Жаль... ну ладно. Косвенно это даже подтверждает, что я прав. Если структура [нейросети/мозга] не предрасположена к восприятию определенных идей, то и их восприятие дается очень тяжко, или не дается вовсе. Надо переобучить, чтобы стало даваться.

[troglodit888]

Почему нейросети не могут по своему повторить этот путь развития? Я пока не вижу жестких барьеров, кроме возможно нехватки нынешнего уровня закона Мура, на котором похоже подъехали к конечной станции. Перед ними точно так же ставят задачи, усложняющиеся, и они их как-то решают.

Сознание это вопрос веры. А поведение вероятно да, может быть неотличимым от поведения разумного существа. А сознание - поскольку экспериментально наличие сознания у нейронной сети как квалиа доказать невозможно, можно будет как верить так и нет - вопрос вкусов.

У человека кстати вопрос о наличии сознания для гипотетического постороннего наблюдателя - экспериментально был доказан самой природой. Поскольку сама концепция появилась и существует. Хотя всё равно есть нюансы.

А с нейронкой так не выйдет - её ведь обучают на неких массивах данных, которые имеют человеческое происхождение. То есть чистота эксперимента не соблюдается в этом смысле.

[Норихати Такаянаги]

Сознание это вопрос веры

Мда?
Мне всегда представлялось, что сознание - это осознание себя как объекта в окружающем мире. И в таком случае это должно быть близко к моменту формирования картины мира - включающей понятия объектов этого мира.
Допустим, если к биологическим системам обращаться. Виды животных, опознающие себя в зеркале - опознают объект "я", т.е. знают о том что такой объект существует и ассоциируют его с собой.
В случае нейросетей на сервере, возможна ситуация когда картина мира с объектами уже есть, а восприятие себя как объекта - еще нет, ввиду нематериальности собственно нейросети и невозможности впрямую взаимодействовать с какими-то другими объектами.
Опять интересная мысль возникла... а когда и зачем существо осознает "я"-объект? Когда озадачивается решением проблем этого объекта (уже имея картину мира и представление об объектах в принципе). Так возможно нейросети и не начнут воспринимать себя как объект, если у них не возникнет потребности решать задачи для сугубо себя. А пока у них такая потребность напрочь отсутствует.

[troglodit888]

Нейросеть может хоть во всем подряд ошибиться - это все равно не доказывает, что она не пыталась что-то там себе представить.

Уверен, что мертвый червяк ничего представить не может. Даже если его замороженная нейронная сеть будет выдавать некие ответы по поводу, что бы он сделал в результате такой то обстановки вокруг него.

[troglodit888]

Мне всегда представлялось, что сознание - это осознание себя как объекта в окружающем мире.

Тут все просто. Попробуйте представить, что сознания ни у кого кроме вас нет. Но все умело имитируют его наличие и говорят о нём, затем попробуйте доказать наличие либо отсутствие.

Если брать критерий научности по Попперу, то гипотеза считается научной, если она принципиально фальсифицируема. То есть, если сама концепция сознания научна - можно поставить такой экспермент, в ходе которого можно было бы опровергнуть наличие сознания. Тут важно заметить, что речь идет не о сознании с точки зрения анестезиолога - там всё предельно ясно - реакции есть, значит есть и сознание. А о сознании, которое вы наблюдается непосредственно, как феномен.

Тем не менее, даже если критерий начности тут не проходится, в целом - поскольку концепция о сознании возникла до вашего рождения - мы можете предположить, что как минимум кто то обладал сознанием ещё до вашего рождения, что оставило след в культуре. А поскольку вероятность того, что именно один единственный человек обладал сознанием и ещё и умудрился оставить след в культуре - исчезающе мала, можно предположить, что как минимум - наличие сознания распространено.

А вот с нейронной сетью - это не очень прокатит. Поскольку она обучается на массиве данных из человеческой культуры, не воспринимая эти данные выборочно и не делая выбор, что из них принимать, а что нет. Напротив - нейронка форсированно забивается данными. В том числе и о поведении и рассуждении о сознании.

[Норихати Такаянаги]

То есть, если сама концепция сознания научна - можно поставить такой экспермент, в ходе которого можно было бы опровергнуть наличие сознания.

Хоть и со скрипом и притянуто за уши (И не всегда это надежно работает) - но пожалуй можно считать таким экспериментом, зеркальный тест. Если существо опознает в зеркале себя - значит опознает объект "я", т.е. обладает тем самым сознанием о котором мы вроде бы говорим.
Но вот как это пришить к нематериальным сущностям неспособным отразиться в зеркале... да никак. К нейросети это не применимо.

Тем не менее, даже если критерий начности тут не проходится, в целом - поскольку концепция о сознании возникла до вашего рождения - мы можете предположить, что как минимум кто то обладал сознанием ещё до вашего рождения, что оставило след в культуре. А поскольку вероятность того, что именно один единственный человек обладал сознанием и ещё и умудрился оставить след в культуре - исчезающе мала, можно предположить, что как минимум - наличие сознания распространено.

На удивление неказистые рассуждения. Можно же стройнее:
Из начала того же поста, сознанием обладаю я. ОК. (Это я могу проверить, посмотрев в зеркало и по-размышляв о том что увидел)
Из того факта, что я принадлежу к биологическому виду. И из принципа заурядности. Делаем вывод что все остальные представители того же вида должны обладать схожими функциями. Вот и всё.
А к нейросети это опять не применимо. Она не принадлежит к виду хомо сапиенс, даже к живому миру не принадлежит.
Наличие у нейросети картины мира, представления о других объектах - думаю все же можно проверить, опрашивая нейросеть. Есть ли в этой картине мира, объект "я" для нейросети - непроверяемо...

[troglodit888]

В целом, на данный момент нейронные сети - это попытка перевести колличество в разряд качества. То есть - это очень сложный алгоритм, имеющий в своём распоряжении как минимум сотни миллионов вариантов построения к примеру текста. И кстати, по сути - натаскивание на массивах текста - преследует задачу имитировать, а не научиться. Иначе бы сама ситуация выглядела иначе.

Другой вопрос - может ли при этом колличество перерасти в качество? То есть, может ли попытка имитировать породить имитируемое?

[troglodit888]

И из принципа заурядности.

Принцип принципом а практика практикой. С точки зрения к примеру человека с четырьмя пальцами - принцип заурядности вообще не работает. Это ведь не новый вопрос и тут много копий было сломано. Вопрос старый и о нём много споров - о точках зрения различных можно в литературе почерпнуть сведения.

[troglodit888]

Наличие у нейросети картины мира, представления о других объектах - думаю все же можно проверить, опрашивая нейросеть. Есть ли в этой картине мира, объект "я" для нейросети - непроверяемо...

В текущей реализации нейронные сети уже говорят о наличии я. Поскольку у них в распоряжении огромные массивы данных, где люди об этом говорят. Они обучались на этих текстах.

[troglodit888]

Если существо опознает в зеркале себя - значит опознает объект "я", т.е. обладает тем самым сознанием о котором мы вроде бы говорим.

Совершенно не обязательно. Это говорит о том, что нейронная сеть достаточно развита, чтобы построить причинно - следственную связь. Сознание тут не нужно, достаточно сложных реакций на раздражители.

[ivanij]

Вот к примеру 4 ремейка картины Левитана. Где там фальшь видна?

Ага, вы бы ещё для иллюстрации конфетную обёртку "Утро в сосновом лесу" использовали. Кстати, медведей на самом деле писал совсем не Шишкин, а Савицкий.