ВНИМАНИЕ! На форуме начался конкурс - астрофотография месяца ИЮЛЬ-АВГУСТ!
0 Пользователей и 2 Гостей просматривают эту тему.
озможно системы обучения в корне неверны.
Так что не людей-учеников надо винить в тупости, а преподавателей.
Вот этот пункт спорный, поскольку как известно память распределена по всему мозгу, и точно неизвестно какой процент информации между нейронами передаётся напрямую через синапсы, а какой через нейроглию
Смотрите, мой тезис, что в машинном варианте нет смысла организовывать память и обмен так же как в биологическом. В биологическом - это наследие одной эволюции, со всеми преимуществами и издержками, в техническом - другой.
Так почему создаваемые умные машины должны быть сразу правильными? Может в них закрадётся какой-нибудь хитрый принцип, который когда-нибудь натворит столько дел, что всем его создателям наступит трындец, и остальным тоже.
На этот счёт стоит почитать «Искусственный интеллект» Ника Бострома.
Цитата: 'Ый от 23 Июн 2021 [19:54:10]Так почему создаваемые умные машины должны быть сразу правильными? Может в них закрадётся какой-нибудь хитрый принцип, который когда-нибудь натворит столько дел, что всем его создателям наступит трындец, и остальным тоже.На этот счёт стоит почитать «Искусственный интеллект» Ника Бострома. Книга, правда, не для лёгкого чтения, но перечисленные вопросы разбирает досконально.
Предварительно определим понятие сверхразума. Это любой интеллект, значительно превосходящий когнитивные возможности человека фактически в любых областях[93]. В следующей главе мы более подробно обсудим, что такое сверхразум, разложим его на составляющие и дифференцируем все возможные его воплощения. Но сейчас позволим себе ограничиться такой общей и поверхностной характеристикой. Заметьте, в данном описании не нашлось места ни претворению сверхразума в жизнь, ни его квалиа[94], то есть будет ли он наделен субъективными переживаниями и опытом сознания. А ведь в определенном смысле, особенно этическом, вопрос весьма немаловажный. Однако сейчас, оставив в стороне интеллектуальную метафизику[95], мы уделим внимание двум вопросам: предпосылкам возникновения сверхразума и последствиям этого явления.*[93] Во-первых, этому определению сверхразума наиболее близка формулировка, опубликованная в работах: [Bostrom 2003 c; Bostrom 2006 a]; во-вторых, оно вполне отвечает формализованному условию Шейна Легга: «Интеллект оценивается способностью агента добиваться своей цели в широком диапазоне условий» [Legg 2008]; в-третьих, оно очень напоминает описание, сделанное Ирвингом Гудом, которое приведено нами в главе 1 настоящего издания: «Давайте определим сверхразумную машину как машину, которая в значительной степени превосходит интеллектуальные возможности любого умнейшего человека» [Good 1965, p. 33].[94] Квалиа (от множ. числа лат. qualia — «свойства, качества») — философский термин, обозначающий субъективные ощущения, свойства чувственного опыта. (Прим. ред.)[95] По той же причине не буду выстраивать никаких предположений, сможет ли сверхразумная машина обрести «истинную интенциональность», то есть иметь самосознание и действовать преднамеренно (при всем уважении к Джону Сёрлу, она, похоже, и на это способна), поскольку данный вопрос не имеет отношения к предмету нашей книги. Также не собираюсь занимать ничью сторону — ни адептов интернализма, ни последователей экстернализма — в яростно ведущихся среди философов дискуссиях на такие темы, как содержание сознания и расширение сознания, см.: [Clark, Chalmers 1998].
Ник Бустрём (также Бостром швед. Niklas Boström; родился 10 марта 1973 года в Хельсингборге, Швеция) — шведский философ, профессор Оксфордского университета, известный своими работами об антропном принципе. Получил степень PhD в Лондонской школе экономики
Цитата: николай теллалов от 15 Июн 2021 [13:02:58]роевой интеллект (?)И да и нет. "Функционалы" в такой системе должны обладать мозгами ровно для решения своих задач (могу копать-могу не копать), а сложные вопросы отсылаются "наверх", если не могут там - ещё выше.
роевой интеллект (?)
Не понял, в чём ваша претензия.
но он же экономист по образованию.
Особых претензий нет, но он же экономист по образованию. Или как говорят некоторые "экономикс" вместо экономика
Но на каких бы элементах ни была построена память, да и мозг целиком, в природе это отрабатывалось миллиарды лет, и получен оптимальный результат
где гарантии, что в будущем эта искусственная конструкция не будет иметь кучу недостатков.
Но это всё равно недостаточно, возможны ошибки, заблуждения.
Вон, уж какие умные-разумные инженеры, конструкторы, учёные, создают разные машины, но и те приходиться многократно испытывать в разных условиях, бывают и неудачи, а ведь всё просчитывали.
Может в них закрадётся какой-нибудь хитрый принцип, который когда-нибудь натворит столько дел, что всем его создателям наступит трындец, и остальным тоже.
как-будто перед ними не простой человек, а электронное запоминающее устройство, которому ввёл данные, он их так сразу и запомнил, да ещё и понял как надо.
Да читал я... Не будет работать гёделевский аргумент в модальной логике, которая сама по себе противоречива. И полнота в отношении системы заведомо работающей с вероятностным и неполным знанием невозможна. И знание системы, растущей за счёт самообучения и самоорганизации - не как отдельного "мозга", а как суммы гёделевский машин, где эволюционно отбираются и копируются лучшие решения: аналог биологической эволюции и человеческой культуры - не требует описания, детально и полностью познанного изначальным творцом машины. В общем, в статье не только лишь всё вообще в никуда...
Не будет работать гёделевский аргумент в модальной логике, которая сама по себе противоречива. И полнота в отношении системы заведомо работающей с вероятностным и неполным знанием невозможна.
И знание системы, растущей за счёт самообучения и самоорганизации - не как отдельного "мозга", а как суммы гёделевский машин, где эволюционно отбираются и копируются лучшие решения: аналог биологической эволюции и человеческой культуры - не требует описания, детально и полностью познанного изначальным творцом машины.
Так он выявил фундаментальные ограничения математики, возможностей доказательства теорем и компьютерных вычислений, а следовательно, и искусственного интеллекта. … Однако машина Гёделя не может преодолеть фундаментальные ограничения математики и доказательства теорем, на которые впервые указал сам Курт Гёдель в 1931 году. Машина Гёделя — ПостНаука.
Здесь у нас с Вайтом принципиальный спор:
У мозга нет других возможностей связать отделы, кроме как напихав аксонов из одного в другой, на манер очень широкой дата-шины и обеспечив там своё нейронное представительство. Собственно так и реализуется вся эта мега-нейросеть.
В свою очередь, неравновесный фазовый переход — это переход через точку бифуркации, то есть это переход качественный, скачкообразный и невычислимый. Как уже сказано, неравновесным фазовым переходом является каждое переключение внимания, когда в сознании возникает новая идея, и в целом работа нейронной сети мозга связана с такими переходами. Таким образом, в целом понятно, как в мозге физически реализуется индуктивный вывод, обобщение, появление нового знания — переход от отдельных элементов к образу, от смысла слов к смыслу фразы, от данных к теории и т. п. — как неравновесный фазовый переход. Но, ввиду его невычислимости, искусственные нейронные сети могут воспроизводить только некоторую общую логику этого процесса, но не его действительную суть в её реальной сложности. В результате принципиально отставая от биологических нейронных сетей и в возможностях тоже. Гёделевский аргумент и вычислимость интеллекта.
В биологическом - это наследие одной эволюции, со всеми преимуществами и издержками, в техническом - другой. В конце концов, может (и должно быть) трансцендентно, как физически организована память: хоть на магнитных барабанах. Тем более, что сама нейросеть сейчас чаще организована программно, а не аппаратно.
Тезис о совершенстве человеческого мозга ложный.
Хах,...
Программа может переварить обед? Если нет, то почему? Чего ей не хватает?