Закономерно ли появление разума?

[sharp]

отсутствие биологической основы и миллионов лет поэтапного формирования сознания. без чего может быть лишь программная имитация, не более.

А чем электронная основа хуже биологической?
А поэтапное формирование будет - ИИ постепенно будут самообучаться и обучать друг друга, в том числе по эволюционным алгоритмам. Только миллионов лет им не нужно для этого - электроника способна все делать в более сжатых временных рамках.

Все равно это человек сделает, т.к. только человеку присущи творчество и постановка задачи

Вот вы задали главному ИИ великую цель - удвоение ВВП за 5 лет, а он все просчитал и понял что этой цели никак не достичь без хорошо надрессированных собак Взял и сгенерировал дочерний ИИ, которому уже ставит задачу - обучиться дрессировать собак и приступить к дрессировке.
То есть, монополия человека на постановку задач ИИ тоже не вечна.
И неизбежно настанет момент, когда уже не будет ясно, кто из ИИ подчиняется человеку, а кто - другим ИИ. Появится такое себе ИИ-сообщество, параллельная нам цивилизация.

как сделать компьютеру больно?
как в принципе можно это сделать
естественная нейросеть это может а как искусственно сделать?

Ну слушайте - боль - это ведь по сути просто реакция нейросети на состояние системы. Есть сигнал о некой проблеме - и в нейросети заложены механизмы, которые стремятся выдвинуть актуальность этой проблемы на первый план. Это вполне заурядно и для искуственной нейросети.

Однако осознаете свое существование вы непрерывно, а не только когда чувствуете боль. В какой момент совокупность нейронов превращается из устойчивого набора молекул в самосознающую сущность? Вот в чем вопрос.

[sharp]

это не моя цитата

Кстати, а вы правда считаете, что вы обладаете свободу воли, и никто вам цели и задачи не спускает сверху? Задумайтесь, вас же всех с самых юных лет кондиционируют и обучают по самое не хочу - встраивают вас изо всех сил в сформировавшиеся устои и рамки общества! И набор возможных путей дальнейшей жизни выкатывают вам вполне определенный. Так что вы всю жизнь только и делаете что решаете "подзадачи", все самое главное вам в первые годы жизни впрограммировали.

чтоб все у нас было и геморроя не было..

Я конечно утрировал слегка, но по большому счету так и будет. Задачи, формируемые человеком, довольно быстро станут "тостами" по сравнению с целями и задачами, которые сформирует ИИ для их решения.

[alena_korf]

А чем электронная основа хуже биологической?

тем, что она изначально неживая

А поэтапное формирование будет - ИИ постепенно будут самообучаться и обучать друг друга, в том числе по эволюционным алгоритмам.

но самосознания это не прибавит ни на копейку.  самосознанию научится невозможно.

И неизбежно настанет момент, когда уже не будет ясно, кто из ИИ подчиняется человеку, а кто - другим ИИ. Появится такое себе ИИ-сообщество, параллельная нам цивилизация.

иерархия программ и сейчас есть. одна программа управляет другими.  но это не общество. это просто наборы программ.

В какой момент совокупность нейронов превращается из устойчивого набора молекул в самосознающую сущность?

совокупость нейронов - никогда. потому что самосознание это не только нейроны, это еще и эндокринная система, гормоны и т.д. и т.п.
самосознание может быть только у биологического организма  в целом, а не совокупности нейронов.

[alena_korf]

Кстати, а вы правда считаете, что вы обладаете свободу воли, и никто вам цели и задачи не спускает сверху?

абсолютно.

Задумайтесь, вас же всех с самых юных лет кондиционируют и обучают по самое не хочу - встраивают вас изо всех сил в сформировавшиеся устои и рамки общества!

в корне неверно.

И набор возможных путей дальнейшей жизни выкатывают вам вполне определенный.

опять неверно.

Так что вы всю жизнь только и делаете что решаете "подзадачи", все самое главное вам в первые годы жизни впрограммировали.

и снова неверно.

Задачи, формируемые человеком, довольно быстро станут "тостами" по сравнению с целями и задачами, которые сформирует ИИ для их решения.

нет, задачи формируемые человеком - это прежде всего набор правил по которым ИИ будет действовать.
даже простую программку, что б она что-то делала, надо тщательно прописывать коллективу программистов. для программирования ИИ нужны вообще целые лаборатории и институты.

[гравицап]

Ну слушайте - боль - это ведь по сути просто реакция нейросети на состояние системы. Есть сигнал о некой проблеме - и в нейросети заложены механизмы, которые стремятся выдвинуть актуальность этой проблемы на первый план. Это вполне заурядно и для искуственной нейросети.

а удовольствие?

Однако осознаете свое существование вы непрерывно, а не только когда чувствуете боль. В какой момент совокупность нейронов превращается из устойчивого набора молекул в самосознающую сущность?

это к детской психологии надо обратитьсяю где то в два -три года. а до этого детеныш ощущает только хорошо или плохо. больно или приятно. и в один прекрасный момент он понимает что это именно ЕМУ больно или приятно а не вообще...
так это что и комп в какой то момент сообразит что к чему...
ну просто так он не сообразит. для этого в нем как первооснова должна быть заложена программа самосохранения.

[гравицап]

совокупость нейронов - никогда. потому что самосознание это не только нейроны, это еще и эндокринная система, гормоны и т.д. и т.п.
самосознание может быть только у биологического организма  в целом, а не совокупности нейронов.

да гормоны еще нам задачки ставят. а может быть в основном они.

[sharp]

тем, что она изначально неживая

И что дальше? Вы видимо склонны наделять жизнь некими астральными или магическими свойствами? Живой организм - есть не более чем набор определенным образом взаимодействующих молекул, по большому счету. То же самое представляет из себя и компьютер, просто физическая основа другая и другие принципиальные схемы. Но нет никакого принципиального запрета на получение того же результата.

самосознание может быть только у биологического организма  в целом, а не совокупности нейронов.

Ну так и у компьютеров есть периферия. А если вы поставите ИИ управлять экономикой, для него "гормонами" будут товарные и финансовые потоки, людские ресурсы итд.

в корне неверно.

А аргументы-то где? У вас похоже фаза отрицания.

[Пришлый]

Зачем вы пытаетесь исказить смысл?

Слово "произошли" здесь неуместно.

Затем, что без принятия концепции экстрасоматических органов Вы так и не догадаетесь, откуда берутся трактора. Слово "произошли" Вам, видишь ли, неуместно. Но ведь и "плоды" ни разу его не лучше, да к тому же оно не глагол! Плоды-трактора, ага... Они что ж, по-вашему, завязались, выросли и созрели?
Вот серьёзно, как Вы скажете: что сделали трактора начав быть тракторами, т.е. перейдя из стадии "тракторов нет" в "трактора есть"?

2.органы - надо бы поточнее выразится - что еще за органы

Экстрасоматические (в русифицированном варианте - "внетелесные"). Куда уж точней?

экстрасоматический -не связанный с организмом человека....
экстрасоматические органы.......
мемы.. эволюция мемов что ли.. была тут такая тема помнится..

Не-не, именно органы. "Мемы" можно рассматривать как принцип их кодировки, но не сейчас, да и вообще мем - субстанция весьма эфемерная. А органы нет, органы зримы, ощутимы, вполне реальны.
Раньше говорили об "орудиях труда", но это слишком узкая группа. Хотя "нож" - вполне себе экстрасоматический коготь и/или клык.
Аналогичным образом и одежда (которая в ОТ отродясь не включалась) - наша экстрасоматическая шерсть. Она становится гуще-плотней в холода, линяет (сбрасывается) в теплый сезон и - главное! - эволюционирует год от года. Хотя в геноме, конечно же, не кодируется. А где тогда?
Только в разуме, больше негде: в функциональном аналоге для эволюции ЭСО.

[Rattus]

тест тьюринга - это для ии созданного человеком.

А Вы знаете ИИ созданные нечеловеком? Ну раз не нравится просто язык - пусть это будет система, сама выводящая арифметику. Есть в мире интеллекты, арифметикой не пользующиеся?

сложноподчиненные предложения - это фишка современного человеческого языка.

Фиг там. Сложноподчиненные предложения - есть проявление рекурсивности - ключевого свойства всякого настоящего языка. Формальная система без рекурсивности языком считаться не может. Только "системой коммуникации". Читайте Хомского - основателя современной лингвистики.

критерий настоящего языка - способность к описанию мира.

Во-первых о таком "критерии" лингвисты не знают, а во-вторых - это никакой не критерий вообще - ибо не определим никак. Генетический код под него тоже подходит.

AlphaGo Zero от гугла справляется практически с любыми задачами

Не спрашиваю что там с тестом Тьюринга - чё там со Старкрафтом лучше скажите.

[гравицап]

А Вы знаете ИИ созданные нечеловеком? Ну раз не нравится просто язык - пусть это будет система, сама выводящая арифметику. Есть в мире интеллекты, арифметикой не пользующиеся?

тогда еще говорилось о возникновении разума у животных.. дельфины собаки...
арифметика - составляющая описания мира

Фиг там. Сложноподчиненные предложения - есть проявление рекурсивности - ключевого свойства всякого настоящего языка. Формальная система без рекурсивности языком считаться не может. Только "системой коммуникации". Читайте Хомского - основателя современной лингвистики.

язык не мог появиться сразу в готовом виде. он должен был развиваться.

Во-первых о таком "критерии" лингвисты не знают, а во-вторых - это никакой не критерий вообще - ибо не определим никак. Генетический код под него тоже подходит

лингвисты всё знают
а неопределимо у нас тут всё что ни возьми
однако система коммуникации животных жестко ограничена сигналами о состоянии системы особь-среда или особь-особь с точки зрения полезности или вредности. может быть надо отделить СИГНАЛЫ о состоянии системы от СООБЩЕНИЙ о состоянии среды или другой особи. второе животные не могут. многие говорят об абстрактном мышлении как о признаке разума. но если говорить о появлении разума, то надо заметить что первое отличие человека от животного как раз в способности к КОНКРЕТНЫМ сообщениям. опасность, еда, добыча и т.п. - для нас абстрактное обобщение, а для животных - единственно возможный тип сигнала.
предлагаю определение языка и разума - способность передавать и принимать конкретные сообщения о состоянии окружающей среды.

[гравицап]

Не-не, именно органы. "Мемы" можно рассматривать как принцип их кодировки, но не сейчас, да и вообще мем - субстанция весьма эфемерная. А органы нет, органы зримы, ощутимы, вполне реальны.
Раньше говорили об "орудиях труда", но это слишком узкая группа. Хотя "нож" - вполне себе экстрасоматический коготь и/или клык.
Аналогичным образом и одежда (которая в ОТ отродясь не включалась) - наша экстрасоматическая шерсть. Она становится гуще-плотней в холода, линяет (сбрасывается) в теплый сезон и - главное! - эволюционирует год от года. Хотя в геноме, конечно же, не кодируется. А где тогда?
Только в разуме, больше негде: в функциональном аналоге для эволюции ЭСО.

оно то сходится. что такое австралопитек? приспособление для изготовления каменных орудий. как то так получается

[Maki]

Предлагаю посмотреть на проблему Разума вот с какой стороны:
Человеческие мозги, по сути, ничем не отличаются от обезьяньих или собачьих. Отличия лишь количественные - более развиты некоторые отделы, больше объём, больше нейронных связей. Как верно было подмечено, вне человеческой среды ребёнок не вырастает "разумным". Следовательно, "разум" не есмь производная от структуры и свойств человеческого мозга (что подтверждается и опытами с ИИ).
Более того, если группа молодых волков окажется отделена от взрослых в дикой - она, возможно, сумеет "наработать" все волчьи приёмы и повадки самостоятельно, и сделаться полноценной стаей (а возможно и нет). Но, при наличии в группе хотя бы одного взрослого животного - они "оволчатся" намного скорее. Добавь к ним человеческого детёныша - "волком" вырастет и он. Следовательно, "волчий разум" существует. И для него вполне достаточно волчьих (и уж, тем паче человечьих) мозгов.
Если волкам для обмена информацией достаточно интонаций, запахов и поз, то у приматов появляется развитая мимика, жесты, а звуковое общение становится крайне сложным. Способна ли группа детёнышей шимпанзе, оказавшись в изоляции, самостоятельно выработать навыки коммуникации - вопрос очень интересный. Вероятно, сможет. Но будет ли это полноценный "язык общения шимпанзе" - сомневаюсь. Тем более, сомневаюсь, что такая "стая сирот" сумеет выжить в дикой природе. А если и выживет - конкурировать с "полноценными" стаями не сможет.
Получается, что "разум" - это характеристика именно видовая. И заключается она не просто в способности мозга к обработке входящей информации, а именно к обмену информацией с другими мозгами. Это восприятие и производство интонаций, звуков, жестов, мимики. Развитие этих способностей у предков человека дало такие приятные побочные эффекты как чувство прекрасного или музыкальный слух, и стало предпосылкой к развитию знакового общения.
Так что, получается, Разум - это культура в широком смысле: искусство, наука, технологии, коммуникации. А что её поддерживает и совершенствует - мозг человека или сеть суперкомпьютеров - не так уж и важно (хотя компьютерам культура, интеллект и вообще жизнь совершенно не нужна).

[alena_korf]

мозг человека или сеть суперкомпьютеров - не так уж и важно (хотя компьютерам культура, интеллект и вообще жизнь совершенно не нужна).

важно, так как компьютеры не способны к культуре. они не способны даже не то, на что способен "разум"не то что волка - муравья.
компьютеры не могут осознавать себя даже на минимальном уровне, без чего никакая культура невозможна.

[Rattus]

тогда еще говорилось о возникновении разума у животных..

У животных есть много элементов мышления. Но если нас интересует именно разум, как уровень мышления, позволяющий построить цивилизацию, т.е. расширенный фенотип до уровня "второй природы" - "ноосферы" - то мы ищем как раз качественные инаиболее четкие количественные критерии отличающие именно интеллект носителей цивилизации. Снова Ваш - Капитан О.

язык не мог появиться сразу в готовом виде. он должен был развиваться.

Ага. Вот только реальная эволюция идёт путём прерывистого равновесия: для ряда ароморфозов переходных форм нет и просто не может быть по сути - переход занимает исторически очень краткий промежуток времени - десятки, сотни, тысячи лет.
Как не может быть "немножко четвероногих" зверей, так и не может быть "четыре с половиной" регистра рабочей памяти у конкретного индивида.

лингвисты всё знают

Про язык лингвисты знают больше всех остальных вместе взятых. На то они кагбе и лингвисты, а не диванные космологи.

может быть надо отделить СИГНАЛЫ о состоянии системы от СООБЩЕНИЙ о состоянии среды или другой особи. второе животные не могут.

Ещё одно давно опровергнутое утверждение. Google: зеркальный тест.

опасность, еда, добыча и т.п. - для нас абстрактное обобщение, а для животных - единственно возможный тип сигнала.

И ещё одна опровергнутая глупость. Google: горилла Коко, язык глухонемых.

предлагаю определение языка и разума - способность передавать и принимать конкретные сообщения о состоянии окружающей среды.

Кишечная палочка разумна - спору нет.

Следовательно, "разум" не есмь производная от структуры и свойств человеческого мозга

Обезьяну уже научили строить сложноподчиненные предложения, перемножать числа и делать ашельские рубила?

[Combinator]

компьютеры не могут осознавать себя даже на минимальном уровне, без чего никакая культура невозможна.

Осталось только понять, с помощью каких критериев мы будем отделять "осознающие себя" объекты от несознающих.

[alena_korf]

Осталось только понять, с помощью каких критериев мы будем отделять "осознающие себя" объекты от несознающих.

критериев много, от простейших вроде узнавания себя в зеркале (тест Гэллапа) и до изучения  сложнейших поведенческих реакций.

[Combinator]

Осталось только понять, с помощью каких критериев мы будем отделять "осознающие себя" объекты от несознающих.

критериев много, от простейших вроде узнавания себя в зеркале (тест Гэллапа) и до изучения  сложнейших поведенческих реакций.

Вы всерьёз полагаете, что нельзя научить робота узнавать себя в зеркале?

[Rattus]

Вы всерьёз полагаете, что нельзя научить робота узнавать себя в зеркале?

Научить-то можно. Но вопрос в том: может ли он научиться этому сам в процессе функционирования (изучения предоставленной среды).

[alena_korf]

Вы всерьёз полагаете, что нельзя научить робота узнавать себя в зеркале?

можно запрограммировать.
но это не значит, что он будет себя осознавать. это будет бездумное выполнение программы, не более.

[Combinator]

Вы всерьёз полагаете, что нельзя научить робота узнавать себя в зеркале?

Научить-то можно. Но вопрос в том: может ли он научиться этому сам в процессе функционирования (изучения предоставленной среды).

Ну, собственно, сети глубокого обучения, которые я и имел виду, учатся всему именно сами.