Пределы автоматизации и внедрения роботов

[Olweg]

Цитирую из резюме первой главы:

Точно так же написание алгоритма мышления равносильно знанию всех знаний — от простых до тех, время достижения которых не отличается от бесконечности, — и с этой точки зрения формализация мышления тоже не имеет смысла.

По-моему, тут где-то логическая неувязка. Проведём аналогию с кодом ДНК. В ДНК зашифрован, например, рецепт создания мозга, но ведь для того, чтобы понять алгоритм работы ДНК, не нужно знать, как устроен мозг.

[Вайт]

И каким образом этот аргумент обошла эволюция? И главное, почему его не может обойти человек? И зачем существу, живущему в реальном мире, Гёделевский аргумент?

Читайте, в книге всё написано. По эволюции есть специальная глава "1.8. Искусственный интеллект и эволюция", но она скорее всего не будет понятна без предыдущих глав. И я вам уже говорил, если задаёте вопросы, пишите свой вариант ответа, иначе мне непонятен уровень ваших знаний в обсуждаемой области и читали ли вы вообще главу, по которой задаёте вопросы. Например ответ на ваш вопрос "И зачем существу, живущему в реальном мире, Гёделевский аргумент?" в явном виде в главе "1.1. Гёделевский аргумент" написан.

Изучать внимательно вашу книгу, чтобы понять как вы мыслите,  большинство (а может быть и все) участников этого раздела не будет.

Моё дело предоставить материал, кому интересно, тот изучит. Как я мыслю по книге понять вряд ли возможно, но зато можно понять, как мыслят все и к чему это точно НЕ приведёт.

А по поводу создания искусственного интеллекта - так идентичный человеческому вряд ли нужен для прикладных задач.

Речь в книге идёт о невозможности создания человеком искусственных систем, приближающихся к интеллекту человека сложности. То есть речь о пределах сложности систем вообще, а не о копиях мозгов.

По-моему, тут где-то логическая неувязка. Проведём аналогию с кодом ДНК. В ДНК зашифрован, например, рецепт создания мозга, но ведь для того, чтобы понять алгоритм работы ДНК, не нужно знать, как устроен мозг.

В ДНК нет "рецепта создания мозга" (плана, чертежа и т. п.), всё сложнее и проще одновременно. Об этом в книге тоже написано - в главе "3.3. Самоорганизация организма". В книге вопрос рассмотрен широко, но конкретно по развитию организма из одной клетки на Элементах была популярная статья: "Как клетки понимают, что одни должны стать волосами, другие костями, третьи мозгами и т. п.? И из какого центра подается команда?".

Учтите, фраза из этой статьи - "К сожалению, человеческий разум так устроен, что ему ужасно трудно понять подобные процессы" - не пустой звук. Суть трудностей в том, что человеку привычно выделять последовательности, а самоорганизация - это объём одновременных и взаимозависимых на всех уровнях процессов.

И на всякий случай обращу внимание на написанное в "Предисловии" - все аргументы по теме пределов сложности систем (и знания в целом) рассмотрены в первой части книги, другие части дополнительные.

[Проходящий Кот]

Про параллельное программирование ,я так понимаю, вы не слышали?
Раз пишете такое." Суть трудностей в том, что человеку привычно выделять последовательности, а самоорганизация - это объём одновременных и взаимозависимых на всех уровнях процессов. "

[Olweg]

Вайт, наверное, будет проще, если вы вкратце изложите свои тезисы в теме. Полностью читать вашу книгу вряд ли кто-то будет.

[Инопланетянин]

Насколько я понял, он её усиленно рекламирует.

[MenFrame]

"К сожалению, человеческий разум так устроен, что ему ужасно трудно понять подобные процессы" - не пустой звук.

Именно пустой звук...Особенно для тех у кого такое понимание есть.

(кликните для показа/скрытия)

Вообще на вашем примере в очередной раз убеждаюсь, что философия в массе своей, просто интеллектуальный ананизм. Дрочите свой мозг на желанную идею и все. Удовольствие есть, прогресса нет.

[Russ3000]

Вот идеал ии, к такому нужно стремиться. 

[Вайт]

Про параллельное программирование ,я так понимаю, вы не слышали? Раз пишете такое." Суть трудностей в том, что человеку привычно выделять последовательности, а самоорганизация - это объём одновременных и взаимозависимых на всех уровнях процессов. "

Судя по вашему вопросу, вы не знаете ни что такое параллельное программирование, ни что такое самоорганизация. Марков написал эту фразу специально, чтобы читатель обратил внимание на необычность процесса самоорганизации и минимум задумался, прежде чем проводить аналогии «из жизни», так как на самом деле они будут качественно не соответствовать реально происходящему. В жизни мы с такими процессами не сталкиваемся вообще и в параллельных вычислениях (которые никакой принципиальной разницы с обычными последовательными не имеют), естественно, тоже. В книге эти необычные особенности описаны.

Вайт, наверное, будет проще, если вы вкратце изложите свои тезисы в теме.

Содержание написано в предисловии, расширять его, по-моему, нецелесообразно. В книге описано слишком много необычных обстоятельств, которые в природе и работе мозга стали известны не так давно, в отсутствие аналогий чрезвычайно сложных для понимания и потому практически неизвестных в массе людей. В тезисном изложении суть этих обстоятельств передать будет невозможно, как следствие, содержание книги в таком описании придётся неадекватно упрощать. В то же время специалистам достаточно просто просмотреть книгу (первую часть) по верхам, чтобы аргументация стала в целом ясна, после чего, останавливаясь на отдельных главах, её можно будет уточнить. 
 

Полностью читать вашу книгу вряд ли кто-то будет.

На чём основано ваше мнение?

[Olweg]

На чём основано ваше мнение?

На жизненном опыте )

Содержание написано в предисловии, расширять его, по-моему, нецелесообразно.

В предисловии практически ничего нет. Может быть, вы имели в виду главу 1? Она, наоборот, слишком объёмная.

В то же время специалистам достаточно просто просмотреть книгу (первую часть) по верхам, чтобы аргументация стала в целом ясна

Так можно пропустить важное по сути. И если уж можно ознакомиться по верхам, то почему нельзя кратко изложить?

[a.ryabov]

о невозможности создания человеком искусственных систем, приближающихся к интеллекту человека сложности. То есть речь о пределах сложности систем вообще,

Эксперимент. Случайно выбранный индивид пишет пожелание другому случайно выбранному индивиду. Оно запечатывается в конверт и передаётся второму с условием вскрыть в любое удобное время, но не ранее года.
При вскрытии оказывается, что там была прописана сумма денежных средств имеющихся на банковской карточке у вскрывшего конверт индивида на дату вскрытия . Она совпадёт с фактом, но с  отклонением + - 5%.
Может такую задачку решить ваш запредельно сложный ЕИ, а машинка решает.

[незлой]

Незлой, будете писать по существу, будете получать ответы

спасибо, ответы вы уже рассыпали по теме в ассортименте -- "прочтите книгу". очень похоже со мной разговаривают знакомые христиане, буквально дословно.

[Aster]

Речь в книге идёт о невозможности создания человеком искусственных систем, приближающихся к интеллекту человека сложности. То есть речь о пределах сложности систем вообще, а не о копиях мозгов.

Команда программистов и шахматистов могут создать программу, которая играет в шахматы лучше любого из них. Почему это неприменимо к другим видам умственной деятельности? И к каким например?

Даже если это действительно невозможно, что мешает человеку создать большую простую нейросеть (или группу нейросетей) с максимально удачной архитектурой (на сколько хватит мозгов). Далее обучить её на огромном количестве данных, много больше, чем теоретически человек может усвоить в течении жизни. И создать ИИ методом грубой силы (почти, как эволюция). Даже не приближаясь к пониманию, как оно работает.

Только к книге не отсылайте, там вода...

[Проходящий Кот]

.......
Судя по вашему вопросу, вы не знаете ни что такое параллельное программирование, ни что такое самоорганизация. Марков написал эту фразу специально, чтобы читатель обратил внимание на необычность процесса самоорганизации и минимум задумался, прежде чем проводить аналогии «из жизни», так как на самом деле они будут качественно не соответствовать реально происходящему. В жизни мы с такими процессами не сталкиваемся вообще и в параллельных вычислениях (которые никакой принципиальной разницы с обычными последовательными не имеют), естественно, тоже. В книге эти необычные особенности описаны.
.....

Ну и долго вы нам тут лапшу на уши вешать собираетесь?

[Вайт]

На жизненном опыте )

Давайте рассмотрим ваш жизненный опыт. Вы делаете заявления, которые не можете аргументировать, то есть считаете, что одного вашего мнения уже достаточно для обоснования идеи, вы не слышали о гёделевском аргументе, вам не приходили в голову вопросы, что такое сознание, или как в ДНК может «поместиться» алгоритм развития организма. И даже когда информацию по последнему пункту вам предоставили, она вас явно не заинтересовала. Поэтому вам в этой книге просто нечего читать, там нет ничего для вас интересного. Но тогда в каком смысле после этого на ваш жизненный опыт можно ориентироваться? Другими словами, если бы Проходящему коту или Незлому книга понравилась, то её надо было бы однозначно выкидывать.

Так можно пропустить важное по сути. И если уж можно ознакомиться по верхам, то почему нельзя кратко изложить?

«Ознакомиться по верхам» может только тот, кто и так уже многое знает в этой теме, а других это только собьёт.

Жанр первой части находится между популярной статьёй и философской работой, так как, с одной стороны, на естественном языке аргументируется конкретная точка зрения, с другой — попутно популярно объясняются научные основания, на которых в том числе построена аргументация. Таким образом, упрощать всё ещё больше — это будет попытка упростить и так упрощённое, в результате получится уже неадекватно сути работы.

Может такую задачку решить ваш запредельно сложный ЕИ, а машинка решает.

А алгоритм вашей машинке кто написал?

Поясню:

«В итоге высочайшая сложность мозга, выраженная в сложности структуры, интенсивности взаимодействия со средой, чувствительности и упорядоченности его работы, при этом качественно отличной от любых алгоритмов, которыми работу мозга только можно описать, и элементов, которые в мозге можно только выделить, приводит к той же качественной сложности системных свойств, в сравнении с искусственными системами. Например, таким свойством является способность мозга вырабатывать сами алгоритмы, в том числе сложнейшего уровня, то есть, по сути, человек может летать, построив самолёт, и выполнять программы, создав компьютер.»

спасибо, ответы вы уже рассыпали по теме в ассортименте -- "прочтите книгу". очень похоже со мной разговаривают знакомые христиане, буквально дословно.

«Знакомые христиане» предлагают вам выйти из секты, в которой запрещают знакомиться с аргументами, изложенными в книгах? Или что, я не понял? Если так, то послушайте их. Для правильного понимания отношения религии, философии и науки вам в помощь вторая часть книги или специальная статья «Эволюция методов познания».

Команда программистов и шахматистов могут создать программу, которая играет в шахматы лучше любого из них. Почему это неприменимо к другим видам умственной деятельности? И к каким например?

«Тем не менее, несмотря на сравнительную простоту, в отдельных задачах нынешние искусственные нейронные сети могут превосходить и человека — например, это известная система AlphaGo, играющая в го и способная обыгрывать чемпионов по этой игре. Превосходство над человеком столь простой, по сравнению с мышлением, системы возможно потому, что для AlphaGo игра — это весь доступный ей мир, а обучение — процесс адаптации к этому миру. Однако человек адаптируется совсем к другому миру, поэтому несравнимо более простая система может превосходить человека в способности адаптироваться к некоторым частным составляющим его мира. Иными словами, за счёт качественно более высокой сложности и богатого опыта человек способен наблюдать всю ситуацию со стороны и потому создать и игру, и AlphaGo. Которая затем сможет выявить в игре некоторые частные закономерности, не замеченные человеком, и в результате сможет обыграть человека, оставаясь при этом много его проще, а сам человек сможет понять, что его обыграли.

Надо заметить, данную ситуацию можно представить реальным аналогом отношений, возникающих в математике и описанных в теоремах Гёделя о неполноте, согласно которым, вывод о непротиворечивости формальной системы можно сделать только в системе с более богатым языком.»

Даже если это действительно невозможно, что мешает человеку создать большую простую нейросеть (или группу нейросетей) с максимально удачной архитектурой (на сколько хватит мозгов). Далее обучить её на огромном количестве данных, много больше, чем теоретически человек может усвоить в течении жизни. И создать ИИ методом грубой силы (почти, как эволюция). Даже не приближаясь к пониманию, как оно работает.

Только к книге не отсылайте, там вода...

Если сможете понять без других глав книги, то на ваш вопрос отвечает глава "Количество против качества".

Ну и долго вы нам тут лапшу на уши вешать собираетесь?

Роботы вместо людей

[LV46]

Которая затем сможет выявить в игре некоторые частные закономерности, не замеченные человеком, и в результате сможет обыграть человека

Дело не в том, что АльфаГо один раз обыграла человека. А дело в том, что она теперь обыгрывает его всегда.

[Вайт]

Дело не в том, что АльфаГо один раз обыграла человека. А дело в том, что она теперь обыгрывает его всегда.

Где у меня написано про "один раз"? "...например, это известная система AlphaGo, играющая в го и способная обыгрывать чемпионов по этой игре." Точно так же компьютер всегда будет производить вычисления быстрее человека.

На самом деле конкретно с AlphaGo не всё так просто - человек может натренироваться, наблюдая игру AlphaGo, и потому составить ей конкуренцию. Тем не менее в целом в такой узкой задаче создать систему сильнее человека будет достаточно легко.

[Проходящий Кот]

Алгоритмический путь в программировании интеллекта  является тупиком по определению, потому что придумать определения на все случаи Вселенной невозможно в принципе.

Для практического ИИ достаточно натренированной нейронной сети подходящих размеров.

[Скеп-тик]

Где у меня написано про "один раз"? "...например, это известная система AlphaGo, играющая в го и способная обыгрывать чемпионов по этой игре." Точно так же компьютер всегда будет производить вычисления быстрее человека.

Поставьте вашу альфу на две тонкие трубки, обеспечьте гидравликой/пневматикой, сенсорами, и заставьте во время игры стоять на двух"ногах". Потом сравните энергозатраты вашего робота-игрока и человека.
Ограничьте робота 150-тью ваттами потребляемой мощности на всё - равновесие, игру, манипулирование шашками...

[Вайт]

Алгоритмический путь в программировании интеллекта  является тупиком по определению, потому что придумать определения на все случаи Вселенной невозможно в принципе. Для практического ИИ достаточно натренированной нейронной сети подходящих размеров.

Я только что отвечал на этот вопрос Aster. Обойти и даже приблизиться к сложности интеллекта человека не сможет и нейронная сеть. И проблемы будут возникать в совсем других направлениях, чем вы себе, очевидно, представляете, думая, что нейронную сеть можно сделать сколь угодно сложной. Глава «Количество против качества».

Ну и вообще, нейронная сеть тоже алгоритм, просто недетерминированный. А в чём проблемы у всех алгоритмов, можно понять сразу из первой главы «Гёделевский аргумент».

[BlackMokona]

Где у меня написано про "один раз"? "...например, это известная система AlphaGo, играющая в го и способная обыгрывать чемпионов по этой игре." Точно так же компьютер всегда будет производить вычисления быстрее человека.

Поставьте вашу альфу на две тонкие трубки, обеспечьте гидравликой/пневматикой, сенсорами, и заставьте во время игры стоять на двух"ногах". Потом сравните энергозатраты вашего робота-игрока и человека.
Ограничьте робота 150-тью ваттами потребляемой мощности на всё - равновесие, игру, манипулирование шашками...

Это уже совсем извращение требовать ещё и большей энергоэффективности. Пусть сначала выиграет человека во всём не имея ограничений. А потом уже можно извращатся