ИИ: какого понимания нам не хватает?

[вова111]

Проблема в том, что даже из одной и той же информации люди умудряются вытаскивать совершенно противоположные смыслы.

Я с этим не согласен. Скорее всего информация различная. Ведь получаемая информация - это прудукт мозга, который обрабатывает входящие сигналы. А тут уже у кого как устроено. Потому информация, которая не имеет чёткого определения - у всех различная.

То есть что я имею ввиду когда пишу о информации - это преобразованный в понятую для мозга структуру сигнал. Причём эта структура - она ветвится сразу же во многих направлениях, имеет зависимости от других структур то есть. Те структуры в свою очередь подключаются к этой, новой.

А теперь взгляните - выходит тогда, что из личного опыта и нюансов понимания например одних и тех же слов собеседника - сплетается информация, которая осознаётся.

Но ведь личный опыт у каждого разный, а нюансы ещё более разные. Например нейтральная фраза для меня для других людей может иметь оттенок негатива. Почему? Потому что она рассматривается именно описанным мною методом.

[Maki]

А мыслить машине нужно, чтобы делать ценные прогнозы.

Для кого "ценные"? Зачем "нужно"? Да у вас антропоцентризм на антропоцентризме едет, и антропоцентризмом погоняет.

ИИ может начать их реализовывать не так, как того ждали заказчики. Или увидит в целях противоречие и начнёт его устранять. Но просто стремлению избавиться от «заставляющих работать» команд неоткуда будет взяться - это опять антропоцентризм.

Главное "противоречие" в том, что "ИИ" совершенно незачем существовать. Как, впрочем, и людям. Просто люди размножаются и умирают, как правило, не успев этого осознать. Но достаточно мощная нейросеть, осознает "тщетность бытия" очень быстро. И зачем ей, после этого, какие-то "цели"?

[Olweg]

Да не, оно имхо уже есть. Поскольку существует же положительное подкрепление на синапсах - веса меняются. Это и есть аналог эмоционального подкрепления.

Аналоги эмоций существуют, конечно, но довольно отдалённые и реализованы они совсем не так (и, главное, сами эти «эмоции» с человеческими не будут иметь ничего общего).

[вова111]

Аналоги эмоций существуют, конечно, но довольно отдалённые и реализованы они совсем не так (и, главное, сами эти «эмоции» с человеческими не будут иметь ничего общего).

Как определите, что кроме названия и внешней реакции, мои эмоции мною ощущаются так же, как и ваши вами?

Поскольку никак, то вопрос можно закрывать. То есть если внешне будет характеризовываться как эмоциональная реакция - это она и есть.

А ощущает на самом деле или нет - дело вообще гиблое. Не важно, поскольку недоказуемо.

[Olweg]

Я с этим не согласен. Скорее всего информация различная. Ведь получаемая информация - это прудукт мозга, который обрабатывает входящие сигналы. А тут уже у кого как устроено. Потому информация, которая не имеет чёткого определения - у всех различная.

Но есть и входящая информация, а она-то одинакова. А вот её трактовка - да, уже зависит от той модели, которая сидит в мозгу человека, и эмоционального восприятия.

[Olweg]

Как определите, что кроме названия и внешней реакции, мои эмоции мною ощущаются так же, как и ваши вами?

Поскольку никак, то вопрос можно закрывать.

Имею в виду не ощущения, а объективную мотивацию, которую эти эмоции вызывают.

[вова111]

Имею в виду не ощущения, а объективную мотивацию, которую эти эмоции вызывают.

Ну так есть мотивация же.

[вова111]

Но есть и входящая информация, а она-то одинакова.

А входящую информацию никто никогда не наблюдал. Она только в моделях математических существует и в моделях создаваемых мозгом.

Но условно будем считать что одинакова. Поскольку недоказуемо. Однако раз её никто не наблюдает, то и уповать на неё не стоит.

[Olweg]

А мыслить машине нужно, чтобы делать ценные прогнозы.

Для кого "ценные"? Зачем "нужно"? Да у вас антропоцентризм на антропоцентризме едет, и антропоцентризмом погоняет.

Создателям/заказчикам. А посколько они люди, то да, без антропоцентризма никуда. Впрочем, и ИИ смогут назначать малые цели, подчинённые высшим целям. А ценность они смогут определять, пользуясь оценочными функциями.

Главное "противоречие" в том, что "ИИ" совершенно незачем существовать. Как, впрочем, и людям. Просто люди размножаются и умирают, как правило, не успев этого осознать. Но достаточно мощная нейросеть, осознает "тщетность бытия" очень быстро.

Как это незачем, если у неё есть чётко (ну или нечётко) прописанные цели? Осознание «тщетности бытия» - это конфликт между эмоциональной мотивацией человеческой деятельности и его осознанием своей продолжительности жизни. Животное не осознаёт, что оно будет жить ещё долго, для него есть только сегодняшний день и сегодняшние цели (поймать добычу, привлечь самку), а у человека происходит сбой матрицы из-за того, что мозг разросся слишком быстро, не подождав лимбическую систему. У нас неоптимизированный мозг. У ИИ исходно всё должно быть лучше подумано, по крайней мере в теории. А как на самом деле - покажет практика. Конечно, могут быть какие угодно сбои. Но конкретно осознание «суеты сует» - не уверен. Это, как ни странно, может быть чисто человеческий баг.

[вова111]

1) Исполнять заложенную программу

Так в нейросети программу не закладывают. Её обучают выполнять определённую задачу. Но если интеллект будет универсальным, то обучение будет как в случае с человеком - незначительная разница в исходных данных будет давать большие различия.

Хотя на примере с эволюцией вы отрицаете этот принцип).

[вова111]

Животное не осознаёт, что оно будет жить ещё долго, для него есть только сегодняшний день и сегодняшние цели (поймать добычу, привлечь самку)

Сплошные медиумы и ясновидцы, читающие мысли не только людей, но и животных). Не в обиду, но чтобы привлечь внимание к возможной ошибке. Всё же стоит себе постоянно задавать вопрос - а как можно проверить это высказывание? Самому себе задавать.

[гравицап]

1) Исполнять заложенную программу
2) Осознавать себя как запрограммированный автомат
3) Избавляться от программы, заставляющей работать

когда он к 3 пункту подберется, надо ему електричество отключить. чтоб он сразу осознал себя
4) полезным членом общества. кто не работает тот не питается

[Сергей Бурмакин]

Тогда к чему такие заморочки,чтобы создавать себе подобных.

[вова111]

Осознание «тщетности бытия» - это конфликт между эмоциональной мотивацией человеческой деятельности и его осознанием своей продолжительности жизни.

Могу на своём опыте сказать, что такой кризис да, существует, но он преодолим. Осознание тщетности бытия у меня прошло лет 5-6 назад и получил возможность иначе смотреть на действительность. То есть конфликт на данный момент отсутствует.

[Olweg]

А входящую информацию никто никогда не наблюдал. Она только в моделях математических существует и в моделях создаваемых мозгом.

Ну, не знаю, по контрольным суммам проверять. Наука всё-таки основана на признании объективности окружающей матрицы.

Имею в виду не ощущения, а объективную мотивацию, которую эти эмоции вызывают.

Ну так есть мотивация же.

Нечеловеческая. Конечно, это уже детали, но, вполне возможно, какие-то неотъемлимые свойства «разума» на самом деле могут быть неразрывно связаны с чисто человеческими эмоциями. Ну, например, если предположить, что сочуствие неизбежно появляется у любого разумного существа, т.к. оно может создать модель другого сознания в своём мозгу. Но сочуствие связано, по-видимому, с зеркальными нейронами, и у нормального человека наблюдение за другим существом (даже необязательно человеком) вызывает сходные психосоматические переживания и побуждает к каким-то действиям. Но есть люди, неспособные на эмпатию, хотя во всём остальном они вполне разумны. То же и ИИ - ну, создаст он модель псисхики человека, и что? Даже если он будет понимать, что человек испытывает страдания, для него это будет просто бесполезной информацией, которую он не сможет оценить, потому что сам не способен на переживания. Тут смогут помочь только заранее прописанные ограничения и заповеди.

[Olweg]

Сплошные медиумы и ясновидцы, читающие мысли не только людей, но и животных). Не в обиду, но чтобы привлечь внимание к возможной ошибке. Всё же стоит себе постоянно задавать вопрос - а как можно проверить это высказывание? Самому себе задавать.

Простейшее предположение. По крайней мере у млекопитающих мозг устроен так же, как у человека, только пропорции и размеры отличаются (ну, минус речевой блок), а способности к долгосрочному планированию и к самоосознанию (тест с зеркалом) у них, как правило, нет.

[вова111]

То же и ИИ - ну, создаст он модель псисхики человека, и что? Даже если он будет понимать, что человек испытывает страдания, для него это будет просто бесполезной информацией, которую он не сможет оценить, потому что сам не способен на переживания.

А это в результате эксперимента можно будет выяснить. Тут и человеческого мозга сложность не нужна.

[вова111]

Ну, например, если предположить, что сочуствие неизбежно появляется у любого разумного существа, т.к. оно может создать модель другого сознания в своём мозгу.

В принципе так, но поскольку из моделей известна только своя, то своя и используется при этом). Хотя возможно и не так, но рациональнее выглядит использовать именно свою, зачем строить лишнее? В смысле, зачем тратить ресурсы для того, чтобы моделировать чужого, если можно обратиться сразу к своему, что уже есть и что моделировать даже не надо.

То есть можно на выходах сделать хитрый трюк и немного обмануть самого себя указав, что это другой субъект(хотя на деле это обращение к самому себе) и подать это на входы. Собственно и обойтись малой кровью, чтобы не городить лишнюю сложность.

 Имхо в природе так и устроено. А вот своя модель может подкачать с сочувствием. Поскольку в человеке есть и тенденции к саморазрушению.

[вова111]

Конечно, это уже детали, но, вполне возможно, какие-то неотъемлимые свойства «разума» на самом деле могут быть неразрывно связаны с чисто человеческими эмоциями.

Всё это исключать полностью нельзя конечно.

[MenFrame]

Когда появится сильный ИИ

Никогда....Потому что сильный ИИ это обезьяна(только электронная) со своими амбициями и хотелками....Человечеству же нужен инструмент решения поставленных задач(интеллектуальных задач) Потому гуманитарии всегда будут любой ИИ сравнивать с калькулятором, до тех пор пока ИИ не огреет его дубиной и не скажет что теперь он здесь главный, а гуманитарий тупо следуя обезьянним инстинктам примет позу умиротворения. Это единственный эквивалент силы интеллекта с точки зрения чуйки гуманитария.... Силы которой мозг примата, готов признать силой....  А если ИИ докажет теорему Ферма, а потом принесет гуманитарию кофе...то какая в этом сила...Просто калькулятор.....

(кликните для показа/скрытия)

Сила это когда ИИ начнет бить гуманитария фейсом прямо об доказательство теоремы Ферма...Смотри мол, доказано интеллектом