Закономерно ли появление разума?

[alena_korf]

Но вопрос в том: может ли он научиться этому сам в процессе функционирования (изучения предоставленной среды).

вот-вот, совершено верно замечено

[alena_korf]

Ну, собственно, сети глубокого обучения, которые я и имел виду, учатся всему именно сами.

но ни одна из них себя не осознает.

[.]

это к детской психологии надо обратитьсяю где то в два -три года. а до этого детеныш ощущает только хорошо или плохо. больно или приятно. и в один прекрасный момент он понимает что это именно ЕМУ больно или приятно а не вообще...
так это что и комп в какой то момент сообразит что к чему...
ну просто так он не сообразит. для этого в нем как первооснова должна быть заложена программа самосохранения.

Это ключевой момент. Думаю, самосознание вытекает из самосохранения. Живое изначально самосохраняется, иначе оно не живое. И когда инстинкт самосохранения  становится равным фундаментальным законами сохранения, возникает рефлексия.
Т.е. для самосознания ИИ (сильного) неизбежен инстинкт самосохранения. Без него ИИ останется слабым, пригодным для людей.
Как обучить нейронную сеть самосохранению ?
Скорее всего,  потребуется самосохранение в "обоих мирах" - и как "кода" (топологии сети и весов нейронов, т.е. информации о структуре) и как "железа" (микросхем на которых нейросеть программно реализована).
Последнее потребует датчиков физического воздействия на "железо". Они могут быть физически реализованы в той же микросхеме (микродатчики температуры, освещенности, акселерометры и даже остатка заряда в аккумуляторе и т.д.). Их показания попадают на входы нейросети реализованной этой же микросхемой.
Програмно-аппаратная функция этого ядра - эквивалент древнейших структур нервной системы человеческого мозга, да и других живых организмов.
В это ядро нужно заложить первичные инстинкты. Например, датчик давления или влажности или температуры показывает приближение к порогу конструктивной целостности всей "микросхемы" (ядра), на выходе должен быть сигнал "боли". Иначе ее раздавит или она расплавится, растворится и т.д. Поступает слабый ток - слабеет заряд аккумулятора - тревога и т.д.
Всем этим реакциям "микросхему" (ядро - нейросеть) придется обучать "с учителем" с использованием обычных алгоритмов в т.ч. обратного распространения ошибки, отжига, генетических алгоритмов и т.д.
После этого, данная нейросеть, топология которой (включая количество слоев и методы обучения) будет обучена на подачу сигналов боли (самосохранения). Т.е. будет решена задача классификации показателей датчиков в многомерном пространстве сигналов, как критических для физического сохранения самой микросхемы и записанной информации в весах ее нейронов.     
Это ядро станет "учителем" для первичной надстройки. Т.е. других нейросетей с другими топологиями (количеством слоев, распределением весов, методов обучения и т.д.), которые уже обрабатывают сигналы видеокамеры или микрофона, тактильные и т.д. вплоть до протоколов и интерфейсов связи в интернет. А также нейросетей, которые выдают физический ответ ядра и надстройки в тот же "внешний мир".
Обучение надстройки уже проводится "без учителя", почти. Но все-таки не программно, а примерами. На начальном этапе трудно сформировать репрезентативную выборку так, чтобы ядро могло адекватно применять заложенное в него поощрение/наказание для обучения надстройки. Так же, как обучать младенца. Придется при сигналах "боли" ядра физически манипулировать объектом, чтобы научить его например, подключаться к розетке, аналогично, как кормить ребенка молоком.
На этом этапе первичные нейросети над ядром запоминают веса своих нейронов, ориентируясь на проводимые извне (учителем) манипуляции, а положительный ответ ядра "приятно - боль стихает" их закрепляет. Это отдельный механизм обучения, который изначально нельзя свести к программированию топологии сети и весов ее нейронов.
На этом про "внешний мир" закончу. Что касается "внутреннего мира".
Любые нейросети решают задачу классификации, разбиения многомерного пространства входных сигналов на области. Первичные слои нейросети по "конкретным" признакам: черное-белое, угол-прямая, тихо-громко. Вторичные слои по "видовым" признакам: зебра - шахматная доска, в клеточку - в горошек, яблоко-груша, слово-объект и т.д. Третичные слои - по "родовым" признакам: животные-растения, код-данные, материя-сознание и т.д.
Нейросеть можно настроить на задачу классификации нейросетей. Например, на вход подают данные о топологии сети и весах нейронов, а также обучающую выборку и итог настройки сети. Исходная сеть на этом обучается и может эффективней проводить обучение (выбор топологии и весов нейронов) для конкретной задачи. Если теперь предъявить на вход этой сети данные о самой себе (о топологии сети и весах нейронов, а также обучающую выборку и итог настройки сети), она выдаст результат, который не будет совпадать с ее текущим состоянием. Если новое состояние опять передать на вход, произойдет еще одна рекурсия и т.д. Это можно назвать зачатками рефлексии, самосознания. Если сеть многослойная по уровням абстрактности признаков, после многих итераций, она сможет выделить себя от всего многообразия других сетей.
Это еще не означает, что она себя как-то начинает осознавать, даже подсознательно.
Для этого нужно привлечь "первую половину": железо, ядро, датчики и механизм "боли" (поощрения-наказания), "первобытный инстинкт", необходимый ядру для самостоятельного обучения всех верхних слоев нейросети без учителя, в т.ч. слоя классификации нейросетей, который перманентно рефлексирует, при постоянном предъявлении "самого себя".

[Combinator]

можно запрограммировать.
но это не значит, что он будет себя осознавать. это будет бездумное выполнение программы, не более.

Вы считаете, узнавание себя в зеркале, это результат раздумий? По моему, это просто условный рефлекс. А, например, у цыплят, ассоциация первого попавшегося им на глаза объекта со своей мамой, так и вообще безусловный рефлекс.

[Combinator]

но ни одна из них себя не осознает.

Возвращаемся в исходную точку - откуда мы это знаем, каковы критерии?

[Combinator]

это к детской психологии надо обратитьсяю где то в два -три года. а до этого детеныш ощущает только хорошо или плохо. больно или приятно. и в один прекрасный момент он понимает что это именно ЕМУ больно или приятно а не вообще...
так это что и комп в какой то момент сообразит что к чему...
ну просто так он не сообразит. для этого в нем как первооснова должна быть заложена программа самосохранения.

Это ключевой момент. Думаю, самосознание вытекает из самосохранения. Живое изначально самосохраняется, иначе оно не живое. И когда инстинкт самосохранения  становится равным фундаментальным законами сохранения, возникает рефлексия.
Т.е. для самосознания ИИ (сильного) неизбежен инстинкт самосохранения. Без него ИИ останется слабым, пригодным для людей.
Как обучить нейронную сеть самосохранению ?
Скорее всего,  потребуется самосохранение в "обоих мирах" - и как "кода" (топологии сети и весов нейронов, т.е. информации о структуре) и как "железа" (микросхем на которых нейросеть программно реализована).
Последнее потребует датчиков физического воздействия на "железо". Они могут быть физически реализованы в той же микросхеме (микродатчики температуры, освещенности, акселерометры и даже остатка заряда в аккумуляторе и т.д.). Их показания попадают на входы нейросети реализованной этой же микросхемой.
Програмно-аппаратная функция этого ядра - эквивалент древнейших структур нервной системы человеческого мозга, да и других живых организмов.
В это ядро нужно заложить первичные инстинкты. Например, датчик давления или влажности или температуры показывает приближение к порогу конструктивной целостности всей "микросхемы" (ядра), на выходе должен быть сигнал "боли". Иначе ее раздавит или она расплавится, растворится и т.д. Поступает слабый ток - слабеет заряд аккумулятора - тревога и т.д.
Всем этим реакциям "микросхему" (ядро - нейросеть) придется обучать "с учителем" с использованием обычных алгоритмов в т.ч. обратного распространения ошибки, отжига, генетических алгоритмов и т.д.
После этого, данная нейросеть, топология которой (включая количество слоев и методы обучения) будет обучена на подачу сигналов боли (самосохранения). Т.е. будет решена задача классификации показателей датчиков в многомерном пространстве сигналов, как критических для физического сохранения самой микросхемы и записанной информации в весах ее нейронов.     
Это ядро станет "учителем" для первичной надстройки. Т.е. других нейросетей с другими топологиями (количеством слоев, распределением весов, методов обучения и т.д.), которые уже обрабатывают сигналы видеокамеры или микрофона, тактильные и т.д. вплоть до протоколов и интерфейсов связи в интернет. А также нейросетей, которые выдают физический ответ ядра и надстройки в тот же "внешний мир".
Обучение надстройки уже проводится "без учителя", почти. Но все-таки не программно, а примерами. На начальном этапе трудно сформировать репрезентативную выборку так, чтобы ядро могло адекватно применять заложенное в него поощрение/наказание для обучения надстройки. Так же, как обучать младенца. Придется при сигналах "боли" ядра физически манипулировать объектом, чтобы научить его например, подключаться к розетке, аналогично, как кормить ребенка молоком.
На этом этапе первичные нейросети над ядром запоминают веса своих нейронов, ориентируясь на проводимые извне (учителем) манипуляции, а положительный ответ ядра "приятно - боль стихает" их закрепляет. Это отдельный механизм обучения, который изначально нельзя свести к программированию топологии сети и весов ее нейронов.
На этом про "внешний мир" закончу. Что касается "внутреннего мира".
Любые нейросети решают задачу классификации, разбиения многомерного пространства входных сигналов на области. Первичные слои нейросети по "конкретным" признакам: черное-белое, угол-прямая, тихо-громко. Вторичные слои по "видовым" признакам: зебра - шахматная доска, в клеточку - в горошек, яблоко-груша, слово-объект и т.д. Третичные слои - по "родовым" признакам: животные-растения, код-данные, материя-сознание и т.д.
Нейросеть можно настроить на задачу классификации нейросетей. Например, на вход подают данные о топологии сети и весах нейронов, а также обучающую выборку и итог настройки сети. Исходная сеть на этом обучается и может эффективней проводить обучение (выбор топологии и весов нейронов) для конкретной задачи. Если теперь предъявить на вход этой сети данные о самой себе (о топологии сети и весах нейронов, а также обучающую выборку и итог настройки сети), она выдаст результат, который не будет совпадать с ее текущим состоянием. Если новое состояние опять передать на вход, произойдет еще одна рекурсия и т.д. Это можно назвать зачатками рефлексии, самосознания. Если сеть многослойная по уровням абстрактности признаков, после многих итераций, она сможет выделить себя от всего многообразия других сетей.
Это еще не означает, что она себя как-то начинает осознавать, даже подсознательно.
Для этого нужно привлечь "первую половину": железо, ядро, датчики и механизм "боли" (поощрения-наказания), "первобытный инстинкт", необходимый ядру для самостоятельного обучения всех верхних слоев нейросети без учителя, в т.ч. слоя классификации нейросетей, который перманентно рефлексирует, при постоянном предъявлении "самого себя".

Ну да, как-то так...

[незлой]

датчики, таймер, компаратор. всё, ничего больше для простейшей "ощущалки" не нужно, данные датчиков за предыдущий такт могут хранится прямо "в регистрах", т.е. даже память не нужна.

[Rattus]

Ну, собственно, сети глубокого обучения, которые я и имел виду, учатся всему именно сами.

Потому было бы очень интересно увидеть это в эксперименте.

[Combinator]

Ну, собственно, сети глубокого обучения, которые я и имел виду, учатся всему именно сами.

Потому было бы очень интересно увидеть это в эксперименте.

Эксперименты такого рода стоят довольно дорого, нужно либо серьёзное гос. финансирование, либо поддержка монстров типа Гугла, но они сейчас заняты разработкай сети глубокого обучения для SC. После Го и шахмат, это теперь для них следующая приоритетная цель.

[alena_korf]

Вы считаете, узнавание себя в зеркале, это результат раздумий?

это результат самосознания. есть - значит есть зачатки разума хотя бы. нету - значит и разума нет.

По моему, это просто условный рефлекс.

нет. потому что только высокоинтеллектуальные существа могут пройти тест Гэллапа. люди, обезьяны (и то далеко не все), слоны вроде тоже. другие на это не способны. значит - не рефлекс.

Возвращаемся в исходную точку - откуда мы это знаем, каковы критерии?

я уже сказала какие критерии.
вот если нейросеть пройдет тест Гэллапа БЕЗ ПРЕДВАРИТЕЛЬНОГО ПРОГРАММИРОВАНИЯ ИЛИ НАСТРОЙКИ ДЛЯ ЭТОЙ ЦЕЛИ И БЕЗ ПОСТАНОВКИ ЕЙ ТАКОЙ ЗАДАЧИ ЧЕЛОВЕКОМ, это будет повод заподозрить (пока только заподозрить!) возможность наличия у нее зачатков сознания.

[Combinator]

нет. потому что только высокоинтеллектуальные существа могут пройти тест Гэллапа. люди, обезьяны (и то далеко не все), слоны вроде тоже. другие на это не способны. значит - не рефлекс.

Узнавать себя в зеркале могут даже муравьи.

я уже сказала какие критерии.
вот если нейросеть пройдет тест Гэллапа БЕЗ ПРЕДВАРИТЕЛЬНОГО ПРОГРАММИРОВАНИЯ ИЛИ НАСТРОЙКИ ДЛЯ ЭТОЙ ЦЕЛИ И БЕЗ ПОСТАНОВКИ ЕЙ ТАКОЙ ЗАДАЧИ ЧЕЛОВЕКОМ, это будет повод заподозрить (пока только заподозрить!) возможность наличия у нее зачатков сознания.

Думаю, исходя из своего опыта, что аналог теста Гэллопа (различение роботом при выполнении какой-нибудь задачи своего отражения в зеркале от других объектов в помещении) самообучающаяся сеть глубокого обучения пройдёт без проблем, но верить мне или нет, дело, конечно, Ваше.

[Rattus]

отому что только высокоинтеллектуальные существа могут пройти тест Гэллапа. люди, обезьяны (и то далеко не все), слоны вроде тоже.

И сороки.

Узнавать себя в зеркале могут даже муравьи.

Это всё-же не надёжно установленный факт пока.

[sharp]

БЕЗ ПРЕДВАРИТЕЛЬНОГО ПРОГРАММИРОВАНИЯ ИЛИ НАСТРОЙКИ ДЛЯ ЭТОЙ ЦЕЛИ И БЕЗ ПОСТАНОВКИ ЕЙ ТАКОЙ ЗАДАЧИ ЧЕЛОВЕКОМ

А зачем кричать-то? И так еще вчера поняли, что у вас фаза отрицания. Человеческий разум протестует против скорого появления конкурента на планете

Собственно, непонятно с чего вы вдруг уперлись в некое "самосознание"? Главное - как тот или иной объект взаимодействует с внешним миром. И когда человек станет проигрывать ИИ абсолютно во всем, будет совершенно неважно, есть там самосознание или нет.
Но вы можете крутиться перед зеркалом и гордиться феноменальной интеллектуальной способностью поправлять себе прическу

[незлой]

а мы себя в зеркале, собственно, и не "узнаём" (как можно "узнать" то, чего никогда не видел?)
мы замечаем, что отражение повторяет наши движения, и делаем обоснованное предположение, что и в остальном отражение подобно нам.
точнее -- сделали когда то.

[Maki]

важно, так как компьютеры не способны к культуре. они не способны даже не то, на что способен "разум"не то что волка - муравья. Компьютеры не могут осознавать себя даже на минимальном уровне, без чего никакая культура невозможна.

Вопрос "кто же сидит в моей голове и смотрит на мир через мои глаза" - коренной во всех рассуждениях о сущности разума. Гипотеза "души" удобна - но совершенно ненаучна. Другие мне неизвестны. В отсутствие же понимания того, что есмь "осознавать себя" - утверждение, что компьютеры к этому неспособны - неверно. Мы не знаем, возможно это, или нет.
Что если подойти к вопросу иначе? Высокоразвитое животное - это, не мыслительный, а прежде всего "сенсорный" аппарат, обрабатывающий огромные массивы информации об окружающем мире и о себе, которые поступают в мозг через рецепторы.
Вот, давайте и создадим не слепую коробку с микросхемами, а "сенсорный компьютер", смысл бытия которого - самосохранение, самообучение, самообслуживание, самостоятельный выбор режима работы солнечных батарей, устроим зависимость от воды (например в качестве охлаждающей жидкости) и дадим ему возможность передвигаться и манипулировать предметами. Подозреваю, что окажись в составе такого компьютера условно говоря "нейропроцессор", обладающий свойствами мозга животного - машина примется вести себя в точности как обычная скотина: спать, следить за солнцем, ползать на водопой и т.п.. А если таких машин целое стадо - они и примутся вести себя как стадо. А потом вы даруете каждому из них речевой и логический модуль. И оставите это стадо на много лет - существовать, бороться между собой за воду и территорию, и самообучаться. А когда вернётесь - "это" подкатится к вам и спросит: "Здравствуйте, Человек, зачем я живу"?
Допускаете принципиальную возможность такого?

Обезьяну уже научили строить сложноподчиненные предложения, перемножать числа и делать ашельские рубила?

Обезьяну уже научили ездить на велосипеде, курить, пить водку, складывать кубики, и нажимать красную кнопку. Собаку научили приносить палку, не гадить дома, и различать человеческую мимику и интонации. Высокоразвитые виды, включённые в человеческую культуру, неизбежно усваивают хотя бы некоторую часть её. Точно так же, иные подвиды Хомо Сапиенс вполне успешно усваивают достижения европеоидов.

Это еще не означает, что она себя как-то начинает осознавать, даже подсознательно.
Для этого нужно привлечь "первую половину": железо, ядро, датчики и механизм "боли" (поощрения-наказания), "первобытный инстинкт", необходимый ядру для самостоятельного обучения всех верхних слоев нейросети без учителя, в т.ч. слоя классификации нейросетей, который перманентно рефлексирует, при постоянном предъявлении "самого себя".

Совершенно верно. Практически, вполне возможно осуществить нечто подобное. И, в зависимости от мощности "ядра", вы получите ёжика, собачку, обезьяну или... очаровательную героиню, сыгранную Алисией Викандер.
P.S. Только имея возможность общаться с человеком, обучаться в человеческой среде, такая машина сможет проявить свои "собачьи" или "обезьяньи" способности. Причём, на начальном этапе, это создание, конечно же, будет тупо требовать электричества, бояться яркого света. Потом научится реагировать на слова. Потом запомнит своё имя. Потом скажет первое слово. А в какой -то момент блестяще пройдёт тест Гэллапа.

[Rattus]

Обезьяну уже научили ездить на велосипеде, курить, пить водку, складывать кубики, и нажимать красную кнопку. Собаку научили приносить палку, не гадить дома, и различать человеческую мимику и интонации

Замечательно. И какое это имеет отношение к сложности вышеобозначенных задач?

Точно так же, иные подвиды Хомо Сапиенс вполне успешно усваивают достижения европеоидов.

Неандертальцы или захотели плюсомётом от модера за расизм?

[Maki]

И сороки.

Врановые же! Эти сц.... научились такие монументальные  гнёзда из проволоки вить!

[.]

Собственно, непонятно с чего вы вдруг уперлись в некое "самосознание"? Главное - как тот или иной объект взаимодействует с внешним миром. И когда человек станет проигрывать ИИ абсолютно во всем, будет совершенно неважно, есть там самосознание или нет.
Но вы можете крутиться перед зеркалом и гордиться феноменальной интеллектуальной способностью поправлять себе прическу

При таком взгляде, курица - это способ размножения яиц, человек всегда является "винтиком" и его причуды - "шестеренкой" в психике, социуме, техносфере. Как муравей в муравейнике (посмотревший в зеркало). Интересно, а способен ли сам муравейник на эту маленькую нелепость ? Посмотреть на себя в зеркало и поправить "прическу" ? Он ведь тоже "винтик и шестеренка" в чем-то большем ? (Вспоминается "Ложная слепота"). На примере "человека" и "человечества" не уверен, что способен.
И вот в этом смысловом слое, при сравнении "муравейника" (эусоциальности) и "муравья" (индивидуальности), самосознание может быть "красной чертой" по которой легко провести различие. Одно находится на меньшем уровне "самосознания", чем другое.

[незлой]

"Здравствуйте, Человек, зачем я живу"?
Допускаете принципиальную возможность такого?

сформулирую чуть иначе: вообще говоря эволюция тупее среднего грамотного инженера.
следовательно, любая из задач, успешно решённых эволюцией может быть решена и нами. в том числе -- сами мы.

[alena_korf]

А зачем кричать-то?

это не крик, это выделение наиболее важной части фразы

И когда человек станет проигрывать ИИ абсолютно во всем, будет совершенно неважно, есть там самосознание или нет.

вы и сейчас проигрываете вашему ноутбуку в скорости вычислений, и что?
а кроме вычислений ИИ человека ничем превосходить не сможет, так как туп как "железяка" (коей и является)

Собственно, непонятно с чего вы вдруг уперлись в некое "самосознание"? Главное - как тот или иной объект взаимодействует с внешним миром.

а без самосознание ИИ будет взаимодействовать ровно так как ему прикажут, не более того. что б принимать самостоятельные решения, надо иметь самосознание.