ИИ: какого понимания нам не хватает?

[николай теллалов]

тогда раз и кошка обладает самосознанием, почему ИИ не может обладать таковым?

[MenFrame]

Итого, Ваш тест не подходит, так как наличие сознания у любого субъекта, не обладающего развитым зрением, им в принципе непроверяемо.

Зато он подходит для тех у кого зрение есть.

[MenFrame]

тогда раз и кошка обладает самосознанием, почему ИИ не может обладать таковым?

Конечно может, у ИИ нет тех ограничений которые есть в природе. Для ИИ самосознанием будет просто понимание его места в мире и в человеческом социуме прежде всего.

[Combinator]

Зато он подходит для тех у кого зрение есть.

ОК, если я Вам завтра предъявлю лего-робота, который узнаёт себя в зеркале, Вы признаете наличие у него самосознания?

[alena_korf]

тогда раз и кошка обладает самосознанием, почему ИИ не может обладать таковым?

Если вырастить ИИ на биологической основе, то вполне может обладать

[Olweg]

Проблема в нечеловеческих методах их решения

а человеческие методы "в уме" уже полностью ясны разве?

Тем более - как создать что-то "по образу и подобию", если мы сами себя ещё толком не знаем.

[Rattus]

разные особи того и одного же вида

Именно - разные онтогенезы  немного разных генетически организмов. Два одинаковых по железу компутера могут иметь совершенно разный софт на жестких дисках и потому выполнять совершенно разные задачи.
Образ мышления тополога отличается от образа мышления инженера-сметчика. Вовсе не случайно существуют матшколы, куда отбирают далеко не каждого ребёнка и где с молодых лет формируют во многом контринтуитивное математическое мышление.

Если вырастить ИИ на биологической основе, то вполне может обладать

А если не на биологической - то никак не будет. А почему - мы не объясним, ибо таков наш символ веры.
Всё понятно - можете не повторять.

ОК, если я Вам завтра предъявлю лего-робота, который узнаёт себя в зеркале, Вы признаете наличие у него самосознания?

Кстати да - элементарно: спереди вокруг камер - белый щиток, сбоку - манипуляторы со щеточками, и задать два алгоритма: распознавания такого паттерна и при наличии на нём затемнений - орудовать по ним манипуляторами. Чтобы отличать отражение от "соплеменника" можно задать какой-то контрольный двигательный ключ, точное повторение которого идентифицирует отражение.
А вообще, конечно, смешно: от "платоновского человека" прошло более двух тыщ лет, а попытки натянуть на глобус двуногое без перьев всё те же.
Именно это справедливо и называется обидными словами механицизм и редукционизм.

[Maki]

Если вырастить ИИ на биологической основе...

Чем, собственно говоря, и занимается большинство гетеросексуальных пар.
Но что такого волшебного в биологической основе? Да, схемотехника, которой уже миллиарды лет. Но ведь суть, в конечном счёте, просто в структуре и информации.
Не знаю, возможно ли при современных технологиях создать вычислитель, по сложности сопоставимый с мозгом, например, кошки. Если да - вы просто должны будете оснастите его достаточным количеством манипуляторов и сенсоров, включая развитую проприоцепцию, и заложить программу самосохранения и кое-какие полезные инстинкты. Сегодня эта тварь будет учиться ползать. Завтра научится самостоятельно воровать электричество из розетки. Послезавтра вы обнаружите, что она освоила интернет, успешно играет на бирже, а при ваших попытках отогнать её от компьютера угрожающе шипит и размахивает отвёрткой. 
P.S.
Впрочем, чаяний секты имени В. Франкеншейна я не разделяю. "Замена человеку" технически, в каком-то обозримом будущем разумеется возможна. Но совершенно не нужна. Ибо есмь лишь эксперимент для удовлетворения праздного любопытства.

[николай теллалов]

Но совершенно не нужна

наверно это мнение уже много раз обосновано, но повторите вкратце, тезисно - почему так твердо на нем стоите?

если эту вашу логику (наверно искаженно мною понятую) интерполировать вспять, то и калькуляторы не нужны (есть же абак, китайско-японские системы счета на пальцах), компы и они излишество пустое...

[Maki]

но повторите вкратце, тезисно - почему так твердо на нем стоите?

Причина биологической жизни - химическая эволюция. И наша личность и интеллект лишь одно из приспособлений для сохранения и репликации генов.
Возможно, для каких-то исследовательских задач, нам будет выгодно создавать автономные устройства с "личностными" свойствами. Но какой смысл пытаться создавать своё электронное подобие, когда и в нашем собственном существовании "смысла", на самом деле, никакого и нет? Хотя, конечно же попытаются - учёных же хлебом не корми, но дай поиграть в боженьку. 

[Dim Dim]

(есть же абак, китайско-японские системы счета на пальцах), компы и они излишество пустое...

Ни компьютер, ни абак не являются заменой человека, как не заменяют человека молоток или самолет.

[николай теллалов]

не являются заменой человека

дык я "замены человеку" и не ищу
ИИ - не замена, а партнер, даже и потомок (причем необязательно, чтобы родители умирали, мол лишними стали)

не заменяют человека молоток или самолет

но без "молотка" человек и не человек, а любимое выражение коллеги Маки

Причина биологической жизни - химическая эволюция. И наша личность и интеллект лишь одно из приспособлений для сохранения и репликации генов.

вследствии такого упрощения многие явления остаются вне внимания

дай поиграть в боженьку.

это что-то плохое?

автономные устройства с "личностными" свойствами. Но какой смысл пытаться создавать своё электронное подобие

устройства с "личностными свойствами" как раз и есть подобие (почему электронное? роботы не виртуальны)

и в нашем собственном существовании "смысла", на самом деле, никакого и нет?

"изначального" метафизического нет
есть, тот, который сами себе придумаем


неясный ответ, уж извините
но, какой есть
спасибо за попытку пояснения

[Maki]

и в нашем собственном существовании "смысла", на самом деле, никакого и нет?

"изначального" метафизического нет
есть, тот, который сами себе придумаем

Согласен. Хотя кое-что стоит уточнить.
Смысл этот, как правило, придумывается коллективно. И человек или принимает готовый, или пытается как-то его адаптировать. Хотя, в основном люди существуют "по инерции", получая от жизни удовольствие, которое и является для них "смыслом".
В соседней ветке я высказал сомнения в том, что "ИИ" достаточной мощности окажется так же зависим от "жизненной программы", как зависим от неё мы.

[Olweg]

Не путайте сильный и слабый ИИ.

Научить нейросеть запомнить маршрут не проблема. А вот адекватной модели самосознания никто еще не придумал, и подвижек в эту сторону пока не видно.

Это вопрос создания иерархической сети таких нейросетей. Сети сетей. Пока они работают как отдельные участки мозга.

[DVE]

Иерархия сама по себе не проблема, сверточные сети например состоят из нескольких подсетей. И это неплохо работает для узких задач типа распознавания образов, но к пониманию сознания не приближает нисколько.

Понятно что теоретически создание полноценного ИИ возможно, но архитектуры пока что никто не открыл и не придумал - мы сами-то не знаем, как мы мыслим.

[Olweg]

Это иерархия определённого типа. Что-то подобное есть в зрительных, слуховых и других сенсорных зонах. Но вот сборка всей этой информации воедино и создание единой модели окружающего, как это происходит в теменной зоне - это уже задачка другого порядка. А ведь есть ещё и лобные доли.

[MenFrame]

но к пониманию сознания не приближает нисколько.

Возможно к пониманию самосознания приблизит википедия? Тут правда еще нужно понимание того как пользоваться гуглом....
Кажется я слишком много понимания требую....

[николай теллалов]

сильный и слабый ИИ

такое разделение нелепо
либо есть сознание у машины (это ИИ), либо его нету (тогда просто экспертная система, обозванная "ИИ" рекламщиками)

[DVE]

Это иерархия определённого типа. Что-то подобное есть в зрительных, слуховых и других сенсорных зонах. Но вот сборка всей этой информации воедино и создание единой модели окружающего, как это происходит в теменной зоне - это уже задачка другого порядка

Да, разумеется, нужны новые модели, более сложная архитектура, другие стратегии обучения нейросети. Тут не только иерархия, но и обучение сети в процессе работы, более сложные обратные связи. Но самое главное, математической модели как это должно работать в случае "сильного ИИ", пока что нет (ну может MenFrame нам ссылку на Википедию подскажет и все встанет на свои места ).

либо есть сознание у машины (это ИИ), либо его нету (тогда просто экспертная система, обозванная "ИИ" рекламщиками)

Не совсем уж нелепо. Нейронные сети уже вполне используются для разных задач - распознавание текста, обработка изображений и пр. Только в сути их работы довольно простая арифметика (сам по себе нейрон это совсем упрощенно сумматор с весовыми коэффициентами + функция активации), и думать такая нейросеть увы не умеет.

Про нейросеть в куске стекла читали наверно?
https://habr.com/ru/post/460353/
Это MPL (многослойный перцептрон), по своей сути настолько прост, что ему даже электроники не надо, может быть сделан полностью на аналоговых компонентах. Но сознания он при этом разумеется, не имеет, и было бы странно если б имел.

[николай теллалов]

думать такая нейросеть увы не умеет

и если сделать ей комплимент, назвав ее "слабым ИИ", вдруг примется думать?