ИИ: какого понимания нам не хватает?

[Combinator]

пара вопросов к статье
"Суперкомпьютер способен самостоятельно "серфить" по просторам Интернета, по крупицам выискивая медицинские данные, которыми он пополняет свой банк данных." - из Интернета такого понахвататься можно...

Очевидно, подобно человеку Ватсон способен оценивать надёжность полученной информации в зависимости от её  источника, а так же её непротиворечивости с другими альтернативными источниками.

"Во время соревнования, проходившей в клинике Кливленда (Cleveland Clinic), «Watson» набрал в два раза больше баллов за точность выставления диагнозов, чем две команды опытных и уважаемых медиков-кардиологов клиники" - а кто и как проверял эту "точность" тогда?

Обычно делают так. Выбирают случайным образом истории болезни (или их начальные части) статистически значимого числа пациентов с уже известным (например, по результатам вскрытия) диагнозом и дают их почитать  "командам" экспертов. На основе этих историй болезни эксперты дают свой прогноз о возможном диагнозе, который сверяется с уже известным. Потом в зависимости от статистики верного угадывания делают выводы.

[Муха_]

И не заблуждайтесь в вопросе о краже. Все люди знают, что красть нельзя. Просто у многих доминирует принцип " если очень хочется, то можно и нужно ".

Тут возможно несколько стадий развития личности.
1. Человек считает,  что красть нельзя и считает что это вселенский принцип вроде теоремы Пифагора. Кто его не понимает - ущербен или врет. Это я бы назвал "наивный ребенок".
2. До человека доходит, что принцип "красть нельзя"  - просто установка, привитая ему обществом. На самом деле красть нельзя потому что посадят. При этом человек еще не понимает, что желание заполучить вещи - точно такая же установка привитая ему природой. Только от нее избавиться сложнее. Эту стадию я бы назвал "недалекий эгоист".
3. Человек осознает запрограммированность и бессмысленность как эгоистичных желаний, так и принципов типа "красть нельзя". А что тогда имеет реальный вес и смысл? Осознание мира? Эволюция мира? Или таки альтруистичные принципы чем-то лучше чем эгоистичные и они как-то связаны с этим реальным смыслом?
Если человек считает, что он знает ответы на этот вопрос, то он находится на стадии 1 или 2. Тут и к гадалке не ходи.

Я думаю, что все то же будет распространяться и на ИИ.
Мы запрограммируем ему на базовом уровне примитивное желание выжить и на более высоком сложное желание быть хорошим членом общества.
Эти два желания вступят в конфликт. Запрограммированность второго желания он по достижении определенного уровня разоблачит. Дальше, он разоблачит и запрограммированность первого. И повиснет в тех же вопросах что мы.
Это в худшем случае.
На самом деле существует множество людей зависает на 1 уровне до конца своих дней, действуя эгоистично только когда цена высока. Учитывая, что ИИ легко клонируется, достаточно создать одного такого недалекого ИИ-альтруиста и клонировать его до бесконечности.

[незлой]

а в чём, собственно, проблема с "самоощущением" ии и набором связанных с этим мотиваций?

таймер, набор датчиков, компаратор. берём сводную "картинку" от датчиков, сравниваем с аналогичной в предыдущий такт времени: всё, мы уже "живём". только откалибровать, что "приятно", а что "больно" -- к нас калибровкой эволюция полмиллиарда лет минимум занимается.. 

[Муха_]

Просто у многих доминирует принцип " если очень хочется, то можно и нужно ".  Ум человека так устроен: знать одно, думать по-другому, говорить третье, а делать четвертое. От него все беды у современного человека.

Да, это интересный момент. Человек создан лицемером. Эгоистичные желания запрограммированы в части мозга, которая не доступна для интроспекции и не может говорить. Напротив, альтруистичные желания запрограммированы в части мозга, которая умеет говорить и анализировать саму себя.
Поэтому, если у человека спросить о его мотивах, он всегда отчитывается, что дескать но сам (т.е. говорящая часть мозга) хочет как лучше, а его грешная природа ему мешает.

На самом деле, при необходимости принятия решения мозг взвешивает эгоистичные и альтруистичные мотивации и выбирает те, которые в данном случае сильнее.
Затем, говорящая часть мозга начинает сокрушаться и плакати (она думает, что это она принимает решения и за них отвечает), но этот плачь - не более чем пустой шум от работающей машины. Поднаплягшись, этот номер можно наблюдать в других людях и даже в себе. Когда я наблюдаю это в себе, кто это наблюдает ? Фишка в том, что последний вопрос не важен для решения такой простой задачи как создание ИИ. Природа создавая человека им не задавалась.

Поразительно, но по тому же принципу строят свою политику современные развитые государства. Эгоизм государства по отношению к окружающим странам заложен у них в самой системе устройства общества. Но при этом говорящая часть государства говорит о высоких материях. В итоге принимается наиболее выгодное решение, а говорящая часть делает то, что и должна - посыпает голову пеплом и все такое.

[незлой]

как ни странно, порой у задач на оптимизацию есть и "альтруистические" решения, и подсознание ("часть мозга, которая не доступна для интроспекции и не может говорить" - это вы хорошо определили ) вполне может приходить и к ним. примеров море: любой случай эмпатии, для чистоты эксперимента -- в живой природе, где у особей нет другой, "говорильной" части в голове.

некоторые этологи вообще вон намекают, что цивилизация только благодаря этому и появилась

[Муха_]

как ни странно, порой у задач на оптимизацию есть и "альтруистические" решения, и подсознание ("часть мозга, которая не доступна для интроспекции и не может говорить" - это вы хорошо определили ) вполне может приходить и к ним. примеров море: любой случай эмпатии, для чистоты эксперимента -- в живой природе, где у особей нет другой, "говорильной" части в голове.

Интересно что именно связанные с эмпатией установки переползли в говорящую и самоанализирующую часть.
Легко представить, что было бы наоборот. Тогда самооправдания человека после принятия спорного трудного решения выглядели бы примерно так: "я понимаю, что человек должен есть и заботиться о своих шкурных интересах, я понимаю, что именно на заботе каждого о себе держится весь мир, я понимаю, что истинная природа человека проявляется в эгоизме и мы все должны быть эгоистами, но мое низменное природное желание помочь другим людям было так сильно, что я не смог с собой справиться. Простите меня за мою слабость, что я поддался проклятому инстинкту...".
И так далее.
Хотя, если подумать, то понятно, что речь возникла для общения с другими людьми а не с собой. Если у человека говорящая часть на стороне эгоизма а не альтруизма, то он сильно рискует, что соплеменники при первом проступке проломят ему голову. Самый лучший случай уболтать соплеменников и получить их прощение - самому быть искренним противником своего эгоизма.

[незлой]

Интересно что именно связанные с эмпатией установки переползли в говорящую и самоанализирующую часть.
Легко представить, что было бы наоборот. Тогда самооправдания человека после принятия спорного трудного решения выглядели бы примерно так: "я понимаю, что человек должен есть и заботиться о своих шкурных интересах, я понимаю, что именно на заботе каждого о себе держится весь мир, я понимаю, что истинная природа человека проявляется в эгоизме и мы все должны быть эгоистами, но мое низменное природное желание помочь другим людям было так сильно, что я не смог с собой справиться. Простите меня за мою слабость, что я поддался проклятому инстинкту...".
И так далее.

откровенно говоря -- трудно. просто бы небыло цивилизации, а значит и слов в голове.
словам нужно множество голов для нормального функционирования и развития, разум -- занятие коллективное. у набора индивидуалистов цивилизации просто не возникнет.

Хотя, если подумать, то понятно, что речь возникла для общения с другими людьми а не с собой. Если у человека говорящая часть на стороне эгоизма а не альтруизма, то он сильно рискует, что соплеменники при первом проступке проломят ему голову. Самый лучший случай уболтать соплеменников и получить их прощение - самому быть искренним противником своего эгоизма.

ага.

[ВадимZero]

Единственно возможное развитие этих технологий лежит в горизонтальной плоскости - быть вечным инструментом для человека.

Ктож с этим спорит? Вопрос в том почему вы разум считаете чем то самостоятельным, а не таким же инструментом? Инструментом психики, инструментом выживания гена? Нет ли здесь нарушения принципа причинности...?

[незлой]

это какраз просто и вполне наглядно наблюдаемо: интересы человека и его разума в общем случае несовпадают.

[Аstrocity]

как объяснить компу, что красть грешно и недопустимо? Только в виде приказа, программы. Сам он этого понять не в состоянии, ибо эмоции, связанные с этим поступком, не рождаются физическими (пятью) чувствами.

Объясняется просто, в рамках нечеткой логики. "Хорошо-плохо", "приятно-больно", "грех-праведность" и т.д., все это термины относящиеся к ней. Следовательно, ИИ должен работать именно на основе алгоритмов нечеткой логики, которая приводит в процессе обучения к такому феномену как образное мышление .  Если субъект начинает делать выводы на основе его то он "мыслит". Следовательно это и есть интеллект!
Образное мышление на порядки быстрее абстрактно-логического. Второе используется нами (и будет юзаться ИИ) в виде речевого и вербального и т.д. интерфейсов.

[Aquarius]

Единственно возможное развитие этих технологий лежит в горизонтальной плоскости - быть вечным инструментом для человека.

Ктож с этим спорит? Вопрос в том почему вы разум считаете чем то самостоятельным, а не таким же инструментом? Инструментом психики, инструментом выживания гена? Нет ли здесь нарушения принципа причинности...?

Можно, конечно, сказать, что и человек является инструментом в чьих то руках. Однако учитывая индивидуальность каждого, свободу воли и выбора, мне трудно с этим согласится. Разум не вкладывается в нас изначально, а обретается постепенно, в уникальных для каждого условиях.
Что же касается нарушения принципа причинности, то "каждое следствие имеет свою причину. Бесконечный поиск предыдущей причины бессмыслен. Следовательно, должна существовать «беспричинная причина», первопричина всего последующего."

[Ssid]

Разум не вкладывается в нас изначально

Изначально...
Разум это не только объем знаний, опыта, умений
Это в первую очередь способность к ним
Приводили пример ребенка выросшего у животных... Да вырастет неразумным...

Но ведь котенок или щенок выросший у людей человеческий разум не получает!!!
Значит человеческий разум - что-то изначально даденное....

[bob]

нравственности, которая существует в мире и без человека.

Зело сумнительно. Камень, падающий с горы, или бегемот в родимом болоте - нравственны? 

[Aquarius]

как объяснить компу, что красть грешно и недопустимо? Только в виде приказа, программы. Сам он этого понять не в состоянии, ибо эмоции, связанные с этим поступком, не рождаются физическими (пятью) чувствами.

Объясняется просто, в рамках нечеткой логики. "Хорошо-плохо", "приятно-больно", "грех-праведность" и т.д., все это термины относящиеся к ней. Следовательно, ИИ должен работать именно на основе алгоритмов нечеткой логики, которая приводит в процессе обучения к такому феномену как образное мышление .  Если субъект начинает делать выводы на основе его то он "мыслит". Следовательно это и есть интеллект!
Образное мышление на порядки быстрее абстрактно-логического. Второе используется нами (и будет юзаться ИИ) в виде речевого и вербального и т.д. интерфейсов.

Комп не умеет "мыслить образно". Он для этого слишком прямолинеен. Он видит соответствие слова понятию, но теряется в комбинациях слов, во фразах. Попробуйте хотя бы создать для начала нормальную программу-переводчик. (Ведь, это минимальное необходимое умение для ИИ - адекватно понимать мысли человека и также адекватно излагать свои). И Вы поймёте, что я имею ввиду .

[Ssid]

Попробуйте хотя бы создать для начала нормальную программу-переводчик. (Ведь, это минимальное необходимое умение для ИИ - адекватно понимать мысли человека и также адекватно излагать свои).

Вот это точно, Аstrocity, объясните как перевести американцу по разному русский и россиянин... (вы же из-за этого так переживали в соседнем топике).

[Aquarius]

Разум не вкладывается в нас изначально

Изначально...
Разум это не только объем знаний, опыта, умений
Это в первую очередь способность к ним
Приводили пример ребенка выросшего у животных... Да вырастет неразумным...

Но ведь котенок или щенок выросший у людей человеческий разум не получает!!!
Значит человеческий разум - что-то изначально даденное....

Безусловно. Но способность, это ещё не разум. Не каждый, обладающий способностью, реализует её. Разум - это качественное использование количества знаний. Современные супер-компьютеры уже давно превышают человека по способностям в усвоении количества знаний, но никогда не достигнут его в качестве их использования.

[Аstrocity]

Комп не умеет "мыслить образно". Он для этого слишком прямолинеен. Он видит соответствие слова понятию, но теряется в комбинациях слов, во фразах. Попробуйте хотя бы создать для начала нормальную программу-переводчик. (Ведь, это минимальное необходимое умение для ИИ - адекватно понимать мысли человека и также адекватно излагать свои). И Вы поймёте, что я имею ввиду .

А кто сказал что он это умеет? Распознавание образов это типичная проблема. Почему? Потому что регистровая архитектура процессора  представляет из себя по сути деревянные счеты использовавшиеся еще до н.э.
Нечеткая логика это кубитовая, и по сути не дискретная. Вы даете кубитовому процессору возможность уже именно думать вероятностно и самостоятельно на основе заложенных алгоритмов. Это и будет прорывной технологией для создания ИИ.

Попробуйте хотя бы создать для начала нормальную программу-переводчик. (Ведь, это минимальное необходимое умение для ИИ - адекватно понимать мысли человека и также адекватно излагать свои).

Вот это точно, Аstrocity, объясните как перевести американцу по разному русский и россиянин... (вы же из-за этого так переживали в соседнем топике).

Я то не переживаю что я русский. А вот ваши комплексы по поводу того что вы "россиянин"-это ваши проблемы 

[Ssid]

Разум - это качественное использование количества знаний. Современные супер-компьютеры уже давно превышают человека по способностям в усвоении количества знаний, но никогда не достигнут его в качестве их использования.

Так о том и речь
Разум - это не показатели мощности, производительности (с чего этот топик и начинался), частоты и объема памяти.
Это тип организации мышления.

Созданный ИИ будет в разы медленней считать простые арифметические примеры, чем мой нынешний мобильник.
Но когда он мне среди ночи раскажет, как отмазаться от жены за позднее возвращение домой - я ему прощу медленный счет, но все равно признаю разумным 

[PathFinder]

Комп не умеет "мыслить образно". Он для этого слишком прямолинеен. Он видит соответствие слова понятию, но теряется в комбинациях слов, во фразах. Попробуйте хотя бы создать для начала нормальную программу-переводчик. (Ведь, это минимальное необходимое умение для ИИ - адекватно понимать мысли человека и также адекватно излагать свои). И Вы поймёте, что я имею ввиду .

А кто сказал что он это умеет? Распознавание образов это типичная проблема. Почему? Потому что регистровая архитектура процессора  представляет из себя по сути деревянные счеты использовавшиеся еще до н.э.

"Образное мышление" и "распознавание образов" - два разных понятия. Вы очень небрежно обращаетесь с этими терминами.
"Распознавание образов" - это всего лишь задача отнесения объектов к разным классам на основе признаков этих объектов. Это задача классификации. И с ней вполне справляются и самые обычные "тупые" компьютеры.

"Образное мышление" - это мышление целостными образами, картинками. Невербальное мышление, вобщем. Для его реализации необходимо, чтобы "мыслящий образно" обладал чувствами, квалиа (http://ru.wikipedia.org/wiki/Квалиа), чего современные компьютеры и даже нейросети пока не умеют. (Еще совсем недавно задача создания искусственных квалиа казалась мне совершенно непостижимой. Однако сейчас про решение этой задачи я уже могу сказать что-то определённое.)

[PathFinder]

Нечеткая логика это кубитовая, и по сути не дискретная. Вы даете кубитовому процессору возможность уже именно думать вероятностно и самостоятельно на основе заложенных алгоритмов. Это и будет прорывной технологией для создания ИИ.

Как вы думаете, кубитовый процессор эквивалентен вероятностной машине Тьюринга? (http://ru.wikipedia.org/wiki/Вероятностная_машина_Тьюринга)