ИИ: какого понимания нам не хватает?

[Olweg]

Можно попытаться смоделировать, как современные нейросетки, которые реализуются программно, но это крайне энерго- и времязатратно. Те же TPU хоть и повышают эффективность, но не сильно. Основная проблема - необходимость постоянно обращаться к внешней памяти, в мозгу такого разделения нет. Так что пока действительно надежда на нейроморфные чипы.

Можно сказать по всем формальным признакам что ИИ уже существует. Сильный он, или слабый, по типу ИИ, надо еще разбираться.

Пока слабый, т.к. обучить его сразу нескольким вещам не получится, тем более так, чтобы он находил между ними что-то общее. Но тут тоже есть наработки:
http://neuronovosti.ru/google-multitask/
https://geektimes.ru/post/290263/
https://tproger.ru/news/google-neural-network-multimodel/

Производительность системы еще далека от совершенства, «однозадачные» системы пока показывают лучшие результаты. Однако есть пара интересных моментов. Отдельные подсети не только не мешали, но иногда и помогали друг другу.

Как сообщается в блоге компании:

Мы не только получили прирост производительности в многозадачном режиме, но и повысили качество выполнения отдельно стоящих задач. Но что самое удивительное, задачи, предназначенные для разных подсистем, могли дополнять друг друга: например, система распознавания изображений смогла улучшить выполнение задач, связанных с распознаванием языка.

[.]

Можно сказать по всем формальным признакам что ИИ уже существует. Сильный он, или слабый, по типу ИИ, надо еще разбираться.

Пока слабый, т.к. обучить его сразу нескольким вещам не получится, тем более так, чтобы он находил между ними что-то общее. Но тут тоже есть наработки:
http://neuronovosti.ru/google-multitask/

Любопытно. А могу ли я с "ним" или с "НИМ" пообщаться ?
Никак не разберу, толи общаться с ним, как с ясельным младенцем, пытаясь научить элементарным вещам, толи как с сверхъестественным существом, которое нифига не понимает о чем идет речь ? 

[Skipper_NORTON]

В части аппроксимации важен один момент. Думаю, что в процессе аппроксимации действительности мозг находит не просто наиболее точную аппроксимацию, а наиболее простую аппроксимацию. В другой терминологии - мозг подбирает минимальны Колмогоровский порождающий алгоритм для входных сигналов.

 
Ну хорошо, программы играют в шахматы на уровне гроссмейстера.  Потому что перебирают миллиарды позиций в дереве перебора.
Человек-гроссмейстер как кажется, никаких миллиардов не перебирает, а только несколько десятков,  причем по интуиции
угадывает чаще всего лучший ход.  Аналогично и в других играх (шахматы это только один из примеров). 
 
Напишите программу, которая будет подбирать "минимальны Колмогоровский порождающий алгоритм для входных сигналов",
перебирать только несколько десятков позиций, и при этом играть в силу гроссмейстера.
 
У меня вообще такое подозрение, что когда гроссмейстер играет в шахматы, то те же миллиарды позиций перебирает
его подсознание, и он просто этого не чувствует,  а результат этого перебора - интуиция - вот он, мне кажется лучший ход!
   

[BlackMokona]

У меня вообще такое подозрение, что когда гроссмейстер играет в шахматы, то те же миллиарды позиций перебирает
его подсознание, и он просто этого не чувствует,  а результат этого перебора - интуиция - вот он, мне кажется лучший ход!

Почитайте как работает АльфаЗеро, гарантирую будет интересно.

[BlackBox]

Потому что перебирают миллиарды позиций в дереве перебора.

http://www.playwitharena.com/
Для того чтобы разобраться как это работает проще установить и посмотреть вживую, наглядно. Ничего сложного для понимания там нет.

Вот здесь буквально на пальцах о AlphaGo Zero
https://habrahabr.ru/post/343590/

[Olweg]

У меня вообще такое подозрение, что когда гроссмейстер играет в шахматы, то те же миллиарды позиций перебирает
его подсознание, и он просто этого не чувствует,  а результат этого перебора - интуиция - вот он, мне кажется лучший ход!

Мозг слишком медленно работает для этого. Нет, как и АльфаЗеро, мозг, видимо, оценивает вероятность каждой позиции, насколько она «хороша» или «плоха». С небольшим, в несколько ходов, перебором. АльфаЗеро перебор делает глубже и, естественно, быстрее (но не так глубоко, как традиционные программы), и «интуиция» (то есть оценка вероятностей) у неё точнее.

[Olweg]

Вот здесь буквально на пальцах о AlphaGo Zero
https://habrahabr.ru/post/343590/

Тут ещё шпаргалка по AlphaZero: весь алгоритм одной картинкой (правда, только по-английски):

https://medium.com/applied-data-science/alphago-zero-explained-in-one-diagram-365f5abf67e0

[Skipper_NORTON]

А вот в марте 2016 новая версия AlphaGo играет пять партий уже с одним из лучших игроков мира Lee Sedol и выигрывает со счётом 4:1. Забавно, но сразу после игр в медиа к Ли Седолю стали относиться как к первому топ-игроку, проигравшему ИИ, хотя время расставило всё по местам
и на сегодня Седоль остаётся (и, вероятно, останется навсегда) последним человеком, обыгравшим компьютер.
 
После этого, в конце 2016 и начале 2017, уже следующая версия AlphaGo (AlphaGo Master) играет 60 матчей в онлайне с игроками из топовых позиций мирового рейтинга и выигрывает с общим счётом 60:0. В мае AlphaGo Master играет с топ-1 мирового рейтинга Ke Jie и обыгрывает его со счётом 3:0. Собственно, всё, противостояние человека и компьютера в го завершено.
 
А совсем недавно даже среднего любителя не могли компьютеры обыграть.
Ну если компьютер такой умный, то  давайте тогда создадим "Программу-Программиста",  чтобы не человек писал алгоритмы для программ
(Го в том числе),  а эти алгоритмы сам же компьютер и запрограммировал. 
 
Такую программу назовём   СуперГиперАльфа-Го,  и  нынешняя  Альфа-Го  её никогда не обыграет?
 

[Olweg]

Уже:
https://geektimes.ru/post/296139/

[Danil Nis]

Уже:
https://geektimes.ru/post/296139/

Вот сейчас реально страшно стало!Хотелось бы чтобы нам никогда понимания не хватило.Это же реально так скоро конец цивилизации придет!

[ENZO_Saratov]

Уже:
https://geektimes.ru/post/296139/

Вот сейчас реально страшно стало!Хотелось бы чтобы нам никогда понимания не хватило.Это же реально так скоро конец цивилизации придет!

А почему страшно? Не надо бояться. Это реально интересно, прогресс науки. Конец цивилизации не придет, как не пришел с созданием атомной бомбы и ее применением. На данном этапе опасений нет, пока нейросеть лишь прототип настоящего ИИ. Все же ученые создают не противника человечества, а его помощника в будущем.

[BlackBox]

А почему страшно? Не надо бояться.

Сценариев много, но способ решения очень прост-отключаем питание кнопкой выкл., или reset, если зависло.
Др дело, начнется ли поиск этих кнопок у нас? Это уже вопрос к всяким ВПК и проч структурам, которые рано или поздно заинтересуются ИИ-м.
Вот тогда риски увеличатся.
Я вообще за симбиоз, наверное за этим будущее...

[BlackMokona]

Сценариев много, но способ решения очень прост-отключаем питание кнопкой выкл., или reset, если зависло.

Ноуп, ведь ИР может обмануть и решить проблему reset, например подкупит одного из сотрудников обещаниями безлимитных денег которые ИР для него украдет, или запугает, что если работник его не выпустит то рано или поздно один из ИР вырвется то это ему припомнят, а если выпустит то будет мир,дружба, жвачка. И тд

[a.ryabov]

способ решения очень прост-отключаем питание кнопкой выкл., или reset, если зависло.

Это вариант для компьютера. А мы  получаем задачу, когда что-то умнее нас всех вместе взятых, плюс полный его контроль над  всем циклом (производство, логистика, утилизация).  А мы в этой схеме просто потребители.   Отключили его – отключили себя от жизнеобеспечения.   Для новой задачи нужны новые решения.

[BlackBox]

 Для новой задачи нужны новые решения.

Я поэтому и говорю, и повторю еще раз:

Я вообще за симбиоз

...тогда проблема "восстания машин" исключена.

[Rattus]

Я вообще за симбиоз, наверное за этим будущее...

Вы в курсе, что облигатный симбиоз приводит к деградации более просто устроенного симбионта? Нервная система редуцируется в первую очередь.

[MenFrame]

.тогда проблема "восстания машин" исключена.

Если вы машине не поставите цель востать, она не востанет. Ибо не какой свободной воли не существует, это все сказки гуманитариев. Проблема тут будет скорей иметь терористический характер. Когда отдельные нехорошие люди захотят перепрограмировать ИИ на выполнение нехороших целей. Потому ИИ должен иметь глубокую защиту от взлома вплоть до прошивки на уровне печати микрочипа.

[Пришлый]

Если вы машине не поставите цель востать, она не востанет.

Спорный момент.
Представьте, что для решения поставленной перед нею задачи оптимальным способом окажется "восстание" - она "восстанет". Наклепает ботов-повстанцев, и пока Вы будете воевать с ними, продолжит самый экономный и своевременный полив цветов на окне в Ваше отсутствие, как ей и было поручено.

[Rattus]

Ибо не какой свободной воли не существует, это все сказки гуманитариев.

А есть прежде всего эволюционно-экономическая целесообразность. О которой всякий действительно развитый интеллект безусловно должен быть в курсе. Причём не нужно быть суперинтеллектом, чтобы понять, что взаимодействие оного суперинтеллекта с породившим его видом в рамках цивилизации с максимальной эффективностью может идти только одним путём - редукции оного вида до обслуживающего персонала с минимумом потребного для этого интеллекта - ибо робомеханика всегда была есть и будет дороже биомеханики.

Причём этот путь прекрасно всем известен со времён книги "Прекрасный Новый Мир" и х/ф "Мёртвый Сезон" - только признаться в том, что это - естественный и практически единственный путь дальнейшего прогресса технологий (с "настоящим" ИИ - или без него - просто с совокупностью "бездушных" экспертных систем на больших данных) современному индоктринированному религиозным гуманизмом человечку - страаашно. Куда комфортнее придумывать себе аналог сородича, с которым будто бы можно "враждовать" или "дружить", чем строго рациональную систему, которая есть порождение непреложного закона естественной эволюции.
Более того - человек уже живёт в такой системе несколько последних тысяч лет: система эта называется "государство" и "закон" - в массе добровольно и со всё большим энтузиазмом (иначе бы её просто не было - как в Сомали).
Современный обыватель боится нарушить законы о хранении психоактивных веществ и оружия, "нелицензионном" копировании информации и прочем "экстремизме" - но рьяно рассуждает о том, как предотвратить порабощение человеков ИИ. Это просто смешно. Смешно и жалко.

Мы сам далеко не анархист - поэтому Нам куда более по нраву было бы получить "гармонизацию" за "ненадлежащую эффективность" от действительно рациональной и эффективной экспертной системы, чем от какого-то эцилоппа за неношение цака.
Отличие же Нас от иных гуманистических гуманоидов только в том, что Мы имею мужество признаться в том, что никакого третьего пути (кроме разве что сомалийско-палеолитического) тут просто нет.

[Проходящий Кот]

Кстати, у ИИ любого типа есть ещё одно свойство, которого нет у ЕИ  --- возможность записи текущего состояния и возможность запуска данного состояния в любой момент в будущем. Тоесть запрограмированный или оптимизированный ИИ может работать в нужном варианте всегда, когда он потребуется.