Пределы автоматизации и внедрения роботов

[BlackMokona]

В книжке довольно четко сказано, что да, эмоции у человека выполняют функцию кнута и пряника, но эту функцию можно реализовать и без эмоций/чувств. Также как функция полета у самолетов реализована не за счет махания крыльями, что не мешает ему эффективно летать.

Но в данный момент идут именно по пути эмоций

[MenFrame]

Но в данный момент идут именно по пути эмоций

Ну тогда любая управляющая обратная связь есть эмоция.

[BlackMokona]

Ну тогда любая управляющая обратная связь есть эмоция.

Фактически так и есть. 

[MenFrame]

что да, эмоции у человека выполняют функцию кнута и пряника,

Эмоции у человека это просто орущие "голоса". Кто переорет, тот и получит контроль над управлением. То есть взаимодействие мотиваторов очень тупо устроено.

[Dim Dim]

У Курпатова хорошие книжки (и видео) по психологии, зачем он полез не в свою тему - непонятно.

А, то есть хирург Амосов в "Исскуственном разуме" своей темой занимается, а психолог Курпатов, рассуждающий о том же самом, - не своей.

[Olweg]

Про Амосова я ничего не писал.

[loky1109]

В книжке довольно четко сказано, что да, эмоции у человека выполняют функцию кнута и пряника, но эту функцию можно реализовать и без эмоций/чувств.

Её можно реализовать иначе, но по сути, это всё-равно будут эмоции, просто по другому реализованные. Если что-то "выполняет функции кнута и пряника" - это эмоции.

Ну тогда любая управляющая обратная связь есть эмоция.

Именно.

[MenFrame]

это всё-равно будут эмоции, просто по другому реализованные.

Я тут кликнул "цитировать выделенное" тож видимо иначе реализованная эмоция.

[loky1109]

Я тут кликнул "цитировать выделенное" тож видимо иначе реализованная эмоция.

Да нет, абсолютно так же.

[-Asket-]

Все уже знают, конечно, что консультантом The Queen's Gambit был Каспаров. Не все знают, что три года назад он написал книгу про свои матчи против компьютера. Где подробно описывает, как шло противостояние, как он столкнулся с манерой игры, не похожей на человеческую, и как пытался искать бреши. Много интересных деталей и наблюдений.
Однако его книга больше, чем просто рассказ о поединках - она про взаимодействие людей и машин (на примере шахмат). Именно эти рассуждения там самое ценное. Написана на удивление здраво, чего не ждешь от импульсивного человека, поклонника “Новой хронологии” с налетом паранойи. Одним словом, книга хороша: даже если шахматы не увлекают, все равно читать интересно. Раньше не было повода сказать о ней, а благодаря Netflix появился. Рекомендую.
Приведу короткий отрывок.
“Сегодня ход все чаще оценивается как хороший или плохой не потому, что он кажется таковым, и не потому, что его никогда не делали раньше. Ход считается хорошим, если он работает, и плохим, если не приносит пользы. Хотя для того, чтобы стать успешным шахматистом, нам по-прежнему нужны развитая интуиция, знание общих принципов и логика, сегодня игра человека все больше похожа на игру компьютера.
В рамках программы «Молодые звезды» Шахматного фонда Каспарова я уже больше десятка лет работаю с детьми в возрасте от восьми до восемнадцати. Все они играют с сильными шахматными движками еще с тех пор, как делали свои самые первые ходы, и, несомненно, они развиваются иначе, чем дети, с которыми я работал в середине 1980-х годов в школе Ботвинника в Советском Союзе.
Поскольку сам я в прямом и переносном смысле являюсь представителем «старой школы», мне трудно полностью принять подход этих юных шахматистов к игре и отсутствие у них структурированного, догматического шахматного мышления. Но я признаю, что с результатами не поспоришь. В таком свободном от догм обучении есть свои преимущества и недостатки. Умение объяснить, почему данный ход теоретически хорош или плох, — вовсе не то же самое, что умение продемонстрировать это на практике”.
Здесь он пишет о том, что теперь дети учатся игре не по книжкам, а во взаимодействии с шахматными программами, и от этого страдает глубина понимания игры. Он их спрашивает: “почему это лучший ход?”, и они не могут внятно объяснить. Каспаров толком не развивает тему, но это, вообще говоря, фундаментальный вопрос, с которым нам придется столкнуться -- как не утратить креативность и сохранить глубину мышления, взаимодействуя с мощным ИИ.
Занятно, что Мигель Николелис, работающий с нейроинтерфейсами уже третий десяток лет, подмечает, что при подключении к компьютеру мозг адаптируется почти сразу, принимая характеристики машины и подражая ее бинарному процессу принятия решений: «Цифровая технология не превзойдет качества нашего мозга, но она может их сформировать, и это самая большая опасность.»
Для когнитивных философов тут поле непаханное. Тот редкий случай, когда они реально могут внести решающий вклад.   
Кстати, наш перевод названия (“Человек и компьютер. Взгляд в будущее”) не передает посыла книги,  оригинал гораздо точнее и удачнее: Deep Thinking: Where Machine Intelligence Ends and Human Creativity Begins (заодно обыгрывается имя компьютера Deep Blue).
https://www.facebook.com/photo?fbid=3731998793524391&set=a.294174093973562

[ivanij]

Именно эти рассуждения там самое ценное. Написана на удивление здраво, чего не ждешь от импульсивного человека, поклонника “Новой хронологии” с налетом паранойи.

  Думаю, это вполне естественно. Ведь он пишет о вещах, которые знает лучше всего. Со своей стороны, почти не разбирающего в шахматах человека, рискну предположить, что человек имеет шанс выиграть (не только в шахматы!) у машины тогда, когда примет нестандартное решение, не укладывающееся в рамки "электронной" логики, пусть даже и этакого самосовершенствующегося автомата/киборга.
  Наподобие такого, какое принял пилот Пиркс из соответствующего фильма.     

[Olweg]

Здесь он пишет о том, что теперь дети учатся игре не по книжкам, а во взаимодействии с шахматными программами, и от этого страдает глубина понимания игры. Он их спрашивает: “почему это лучший ход?”, и они не могут внятно объяснить.

Занятно, что Мигель Николелис, работающий с нейроинтерфейсами уже третий десяток лет, подмечает, что при подключении к компьютеру мозг адаптируется почти сразу, принимая характеристики машины и подражая ее бинарному процессу принятия решений

Нет ли здесь противоречия? Неспособность объяснить свидетельствует скорее об интуитивности, а не о «бинарности» подхода.

[BlackMokona]

Со своей стороны, почти не разбирающего в шахматах человека

Компьютеры окончательно и бесповоротно победили текущие человечество в шахматах и в боях между собой вознеслись на недосегаймый инопланетный уровень. Это лучшие гроссы сейчас с удивлением смотрят на матчи и пытаются разгадать смысл нестандартных ходов лучших шахматных систем.

Нет ли здесь противоречия? Неспособность объяснить свидетельствует скорее об интуитивности, а не о «бинарности» подхода.

Думаю просто раньше это объяснялось на основе. Вот шахматист Икс в такой ситуации сделал так же и выйграл шахматиста Игрек. А теперь просто одна из миллиона комбинаций которую проанализировал с машиной ученик

[ivanij]

Это лучшие гроссы сейчас с удивлением смотрят на матчи и пытаются разгадать смысл нестандартных ходов лучших шахматных систем.

  Наверное, это потому, что программу составляют всё равно - люди. 

  Вот когда компьютер напишет книгу о своих впечатлениях об игре с лучшими гроссмейстерами, тогда, пожалуй, можно будет скрепя сердце признать, что
 

Компьютеры окончательно и бесповоротно победили текущие человечество в шахматах

[Olweg]

Думаю просто раньше это объяснялось на основе. Вот шахматист Икс в такой ситуации сделал так же и выйграл шахматиста Игрек. А теперь просто одна из миллиона комбинаций которую проанализировал с машиной ученик

Думаю (конечно, я не специалист, это всего лишь предположение), что раньше под определённые этапы игры пытались подвести теоретическую базу. Сейчас же ученики сталкиваются с огромным количеством комбинаций, которые им предлагают машины, и у них вырабатывается чисто интуитивный подход к игре. Чувствую, что надо сходить конём, а доказать не могу )

Кстати, интуитивность в игре в го считалась преимуществом против машинных алгоритмов. В го, в отличие от шахмат, неимоверное количество комбинаций, неподвластных никакому перебору. Как-то видел статью, написанную вскоре после победы Дип Блю над Каспаровым, автор которой утверждал, что победа компьютера в го - дело ближайших ста лет. AlphaGo сделала это всего через двадцать.

[BlackMokona]

Наверное, это потому, что программу составляют всё равно - люди. 

Текущий чемпион от Гугла, самостоятельно научился игре в шахматы, ему были не нужны игры людей, ему не нужна была помощь людей. Ему только дали базовые правила и дали играть со своими бессчисленными мутирующими копиями, сражающихся в битве за выживание.

В го, в отличие от шахмат, неимоверное количество комбинаций, неподвластных никакому перебору

В шахматах тоже никто не перебирает все варианты даже рядом. А та же Альфа от Гугла чемпион текущей борьбы, даже перебирает в разы меньше второго места.

[ivanij]

В шахматах тоже никто не перебирает все варианты даже рядом.

 Только позавчера Анатолий Карпов называл конкретную цифру. Если правильно запомнил, то порядок величины где-то 10 в 58 степени вариантов.

[BlackMokona]

В шахматах тоже никто не перебирает все варианты даже рядом.

 Только позавчера Анатолий Карпов называл конкретную цифру. Если правильно запомнил, то порядок величины где-то 10 в 58 степени вариантов.

АльфаЗеро делает перебор 80 тысяч позиций в секунду.
Чтобы перебрать с такой скоростью все позиции в шахматах нужно всего энное число миллиардов лет.
Играл против Стокфиша с контролем времени 3 часа плюс 15 секунд на ход. Сами понимаете что даже 0,0001% шахматных позиций за игру не анализируется

[ivanij]

 Наверное. Собственно, о том и речь.

[Olweg]

В шахматах тоже никто не перебирает все варианты даже рядом.

Да, естественно. Но всё же в шахматах можно использовать деревья поиска большой глубины, с определёнными ограничениями. В го такой подход в чистом виде уже невозможен. Требуется «интуитивная» оценка позиций на базе обучения.