Закономерно ли появление разума?

[alena_korf]

Если для внешнего наблюдателя нет отличий в поведении, то нет никакой разницы, осознает себя эта "имитация" или нет? Практическое значение имеет именно поведение.

заблуждаетесь.
поведение можно задать программно, но оно будет отражать волю программиста, а не самой имитации. а это очень важно. так как имитация не самостоятельна, не обладает самосознанием, а значит, это не разум.

[sharp]

поведение можно задать программно, но оно будет отражать волю программиста, а не самой имитации. а это очень важно. так как иммитация не самостоятельна, не обладает самосознанием, а значит, это не разум.

Поведение нейросети не задается программно, оно закладывается обучением. Учат сеть, грубо говоря, отделять желательные результаты от нежелательных. Примерно как вам в детстве вдалбливали, что есть хорошо, а что плохо.
При этом по мере существования сети список критериев может расширяться, и программисты уже не будут в состоянии предсказать, какой результат выдаст система. То есть у старых "догм" или правил уже окажется меньший вес. И результат работы такого ИИ уже будет неочевиден для человека. поскольку будет зависеть от внутренних процессов сети, а не алгоритмического кода.

[Maki]

Экспертная система на сильном ИИ будет, соответственно, способна не частично, а полностью заменить специалиста-эксперта в широком круге проблемных ситуаций интеллектуального характера. Выполнять лучше человека управление экономикой и финансами, например.

Мне показалось, что Rattus имеет в виду не собственно сложность выполняемой задачи и полную замену человеческого умственного труда, а, сам интерфейс программы, создающей у пользователя иллюзию "компьютерной личности".
Мощная "экспертная система", понимающая человека и выдающая идеальные ответы, как раз таки создаст ощущение взаимодействия с машиной. И в "межушном ганглии" вопрошающего, никакой иллюзии "личности" не появится.

[alena_korf]

Поведение нейросети не задается программно, оно закладывается обучением.

основные задачи и сами рамки обучения все ровно закладываются программно. нейросеть может обучением совершенствовать  игру в шахматы, но если ей не заложили изначально иной функции, писать книги она не будет.

Примерно как вам в детстве вдалбливали, что есть хорошо, а что плохо.

мне в детстве ничего не вдалбливали.

При этом по мере существования сети список критериев может расширяться, и программисты уже не будут в состоянии предсказать, какой результат выдаст система. То есть у старых "догм" или правил уже окажется меньший вес. И результат работы такого ИИ уже будет неочевиден для человека. поскольку будет зависеть от внутренних процессов сети, а не алгоритмического кода.

покажите мне такую нейросеть.

[sharp]

мне в детстве ничего не вдалбливали.

Значит так крепко вдолбили, что вы этого не помните.

покажите мне такую нейросеть.

Поезжайте в гугл, они вам проведут экскурсию.

[Пришлый]

По-моему, мы все тут безбожно путаем разум[ность] с индивидуальностью.
Предположительно каждый, у кого есть домашнее животное, способен отличать своё от чужих (той же породы, пола, возраста и окраски) не только по облику, но и по характерному поведению, присущему исключительно этому и никому более. Оно индивидуально, хотя называть разумными наших котов и собак все-таки не серьезно.
Обратную ситуацию *разум без индивидуальности* представить сложней, поскольку мы с нею раньше не сталкивались. Но еще сложнее (на мой взгляд) придумать принципиальный запрет, делающий её теоретически невозможной.

Правила прямо запрещают выезд на тротуар в ЛЮБОМ случае. Нарушение этого правила даже для предотвращения ДТП - влечёт ответственность ТС-нарушителя. Ст.2.7 КоАП «Крайняя необходимость» на практике сработает скорее всего только в случае полного отсутствия пешеходов в области риска. В лучшем случае (толковом адвокате и удаче в суде) - при доказанной неотвратимости угрозы для здоровья пассажиров.

Вот видите: из позиции *минимум риска для пассажира*("иначе чрезмерно "жалостливый" автопилот не купит чуть менее чем никто ") мы под Вашим мудрым руководством за пару постов плавно мигрировали в *минимум исков к производителю*("Иначе пострадавшие пешеходы элементарно засудят"), между которыми, согласитесь, есть "две большие разницы".

[alena_korf]

Значит так крепко вдолбили, что вы этого не помните.

ничего мне не в долбили. у меня собственные представления, сформированный уже  в довольно зрелом возрасте. сразу говорю: с представлениями моих родителей и учителей они расходятся кардинально.

Поезжайте в гугл, они вам проведут экскурсию.

и у них прям есть осознающая себя полноценно разумная нерйросеть? тогда дайте пруф на соответствующую информацию.

[Пришлый]

и у них прям есть осознающая себя полноценно разумная нерйросеть? тогда дайте пруф на соответствующую информацию.

В параллельной "профильной" теме об ИИ была ссылка на статью о том как:
нейросеть А, "обученная обучать",
обучила нейросеть В распознаванию лиц
лучше, чем человек смог когда-либо обучить распознаванию лиц какие-либо нейросети.

[sharp]

ничего мне не в долбили. у меня собственные представления, сформированный уже  в довольно зрелом возрасте. сразу говорю: с представлениями моих родителей и учителей они расходятся кардинально.

Более чем уверен, что относительно многих базовых вещей, вроде правил поведения, приличия, гигиены - у вас с вашим окружением гораздо больше сходства, чем различий. И это нормально, поскольку это такие базовые вещи, без которых существование в обществе было бы затруднительно. Вы о них даже не задумываетесь, но без них вы были бы "маугли".

и у них прям есть осознающая себя полноценно разумная нерйросеть? тогда дайте пруф на соответствующую информацию.

Есть нейросеть, делающая то, что описанно мной в посте №814. И это направление сейчас бурно развивается, так просто ждите результатов прогресса.

Кстати интересная новость подоспела: http://tass.ru/nauka/4874414
Китайский интернет-гигант Alibaba Group разработал модель искусственного интеллекта, которая успешнее человека справилась с тестом на понимание прочитанного материала

[alena_korf]

Есть нейросеть, делающая то, что описанно мной в посте №814.

меня не интересует что она делает. меня интересует наличие полного самосознания.

вроде правил поведения, приличия,

вот  как раз тут они у меня свои, для многих шокирующие кстати.

[sharp]

вот  как раз тут они у меня свои, для многих шокирующие кстати.

Эпатаж на самом деле тоже проистекает из правил общества, как это не парадоксально звучит
Вот если бы вы жили в лесу в стае животных - это да, могло бы шокировать. Но в инетике бы вы тогда ничего не постили, хотя кто-то другой, может, и снимал бы о вас репортажи.

[Rattus]

Но как оно будет "жить"?

На серваке как Гугель, Сири и Алекса. Только из-за вычислительной сложности массовый параллелизм обработки запросов вряд ли будет возможен - как и у ЕИ. Собственно весь параллелизм как раз в интелехт-то и уйдёт: туда уже весь реальный IT-прогресс и так уходит последнее десятилетие - сначала просто в GPU, а теперь в нейроморфные и квантовые вычислители. И нашего мозга мозговитость и ресурсоэффективность в этом же тотальном параллелизме и состоит в первом приближении (но хитро-иерархическим с рекурсивностью - что теперь активно осваивается и в нейросетях, а в общем случае известно ещё с 1960-х, как видно по книжке В.Ф.Турчина "Феномен Науки").

Мощная "экспертная система", понимающая человека и выдающая идеальные ответы, как раз таки создаст ощущение взаимодействия с машиной. И в "межушном ганглии" вопрошающего, никакой иллюзии "личности" не появится.

Скорее с высокофункциональным аутистом. Тем не менее, не знаю случаев, чтобы ВФА на форумах не принимали за сущность не обладающую субъектностью и самосознанием.
Ребёнок может горевать над помершим тамагочи. Мясники в дальней азии вряд ли испытывают какие-то сильные эмоции при забое собак, дельфинов или слонов. Про наёмников и психопатов вообще не говорю: для них по факту и человек не проходит тест Тьюринга (для первых - любой не из своей группы, для вторых - любой вообще). Ну и где тогда общий критерий "человечности" оказывается в таком случае??

разум

себя она не осознает

Ви так и будете продолжать сыпать тут словами, смысл которых сами не можете объяснить, до тех пор, пока у всех читателей не останется сомнений, что перед ними гуманитарий спамбот, не обладающий разумом?

вот еще что советую почитать:
http://elementy.ru/trefil/21142

Какое отношение имеет частный логический курьёз арифметики к обсуждаемой теме?
Он, конечно, имеет ту же природу, что и проблема остановки универсальной машины Тьюринга. И также как самая эта машина - является не более чем математической абстракцией с использованием бесконечностей. Тогда как это - не форум математиков. Мы обсуждаем тут вполне физические - а значит по определению конечные феномены. Причём масштаб этой конечности нам очень хорошо теперь известен - он ни по какому параметру в этой вселенной не превышает гугол (очень маленькое число с т.з. комбинаторики).

[Maki]

По-моему, мы все тут безбожно путаем разум/ность с индивидуальностью.
Предположительно каждый, у кого есть домашнее животное, способен отличать его от других (той же породы, пола, возраста и окраски) не только по облику, но и по характерному поведению, присущему исключительно этому и никому более. Оно индивидуально, хотя называть разумными наших котов и собак все-таки не серьезно.
Обратную ситуацию *разум без индивидуальности* представить сложней, поскольку мы с нею раньше не сталкивались. Но еще сложнее (на мой взгляд) придумать принципиальный запрет, делающий её теоретически невозможной.

Уже высказывался, но повторюсь вкратце:
Если понятие Разум/разумность выразить как процесс взаимодействия носителей культуры - тогда разум оказывается некоим массивом информации, с которым взаимодействуют индивидуальные особи. То есть разум - это среда. Человек, вырастая в ней, становится разумным, частью культуры. Ну а собаки и кошки, кстати, и тем более дельфины и шимпанзе, попадая в разумную среду, тоже усваивают некоторые её элементы.
Индивидуальности разум в таком понимании не имеет.
Современные компьютерные сети - это, несомненно, часть человеческого разума. Причём местами уже довольно самостоятельная - но, при этом, лишённая индивидуальности.
Так что никаких противоречий не видно.

[Пришлый]

Уже высказывался, но повторюсь вкратце:
Если понятие Разум/разумность выразить как процесс взаимодействия носителей культуры - тогда разум оказывается некоим массивом информации, с которым взаимодействуют индивидуальные особи. То есть разум - это среда. Человек, вырастая в ней, становится разумным, частью культуры.

Призадумался...
Вообще-то разум формируется (принято считать формирующимся) из личного опыта взаимодействия со средой.
Вы предлагаете считать это умолчание ошибочным или среду для всех однородной?

[vopros_voprosov]

Самое популярное выражение в этой ветке "межушный ганглий"
 
Интересно, будет ли у супер-пупер компа будущего  - юмор, ирония, сарказм, самоирония,
самокритика?

[alena_korf]

Интересно, будет ли у супер-пупер компа будущего  - юмор, ирония, сарказм, самоирония,
самокритика?

вопрос риторический. конечно нет

[vopros_voprosov]

Интересно, будет ли у супер-пупер компа будущего  - юмор, ирония, сарказм, самоирония,
самокритика?

вопрос риторический. конечно нет

Я тоже так думаю - ибо к примеру юмор вещь тонкая и неуловимая

[sharp]

Я тоже так думаю - ибо к примеру юмор вещь тонкая и неуловимая

То есть вы гарантируете, что невозможно математически описать юмор? Точнее говоря, смысловые сочетания, которые воспринимаются человеком как смешные?
Дождетесь ведь, и машина, которая умеет понимать текст лучше человека, научится юморить экспромтом и оставит без работы всяких петросянов.

[незлой]

Вообще-то разум формируется (принято считать формирующимся) из личного опыта взаимодействия со средой.
Вы предлагаете считать это умолчание ошибочным или среду для всех однородной?

социум - часть среды?

[alena_korf]

Дождетесь ведь, и машина, которая умеет понимать текст лучше человека, научится юморить экспромтом и оставит без работы всяких петросянов.

даже для человека юмор вещь весьма субъективная, что одним воспринимается как смешное, то  другим не воспринимается как таковое. да и для одного и того же человека одна и та же шутка может показаться смешной, а может и нет в зависимости от обстоятельств, психологического состояния и т.д.
вывести тут какой-то математический анализ невозможно в принципе.