ИИ: какого понимания нам не хватает?

[BlackBox]

Да, но оценки-то будут заложены людьми.

Оценочная функция это метод. Оценки меняются в зависимости от приоритетов, целей и прогресса в игре например, которые в свою очередь тоже меняются по ходу. В шахматах распространена от -2 до +2. Но мб и др. Я раньше давал ссылку на gui Arena где все это показано наглядно.
Хотя, конечно, основы заложены людьми. На то он и искусственный. 

[Nucleosome]

шахматах например

шахматы, также как и го, и любая игра подобного рода - полностью формализированная, там нельзя сдвинуть не совсем коня немножко в ту сторону. в живописи можно.

Ставим вывод улыбающегося смайлика

тогда заем вообще что-то рисовать? ставте заранее прописанные символы и всё.

И, что же?

не, ну если исходить из такого, то можно поручить компьютеру вообще всё угодно, в том числе и написание сообщений тут. "передать образ" это понятно - пустой звук потому что формализовать не получается? конйепция развития с прицелом на ИИ у нас теперь такова?

[BlackMokona]

не, ну если исходить из такого, то можно поручить компьютеру вообще всё угодно, в том числе и написание сообщений тут. "передать образ" это понятно - пустой звук потому что формализовать не получается? конйепция развития с прицелом на ИИ у нас теперь такова?

Формилизовывать теперь не нужно, после появления глубокого обучения. Теперь можно заставить ИИ самого формолизовать. Но нужно контролить результат, т.е нужно дать ему понять, что мы хотим таки. Т.е ему нужны примеры. Например можно загрузить ему все мои посты на астрофоруме(Представим, что я тут ещё тысяч 100 накручу учитывая текущие ограничения на минимальный объём для достойного результата ИИ) После чего можно запустить ИИ с целью предсказывать мои посты на основе окружающих постов и новостей по определенным ресурсам. После чего сравнивать его результат с контрольной частью постов. Как только обучение закончится, если форум не будет подозревать во мне бота, то никто тут не заметит подмены.

[Nucleosome]

Теперь можно заставить ИИ самого формолизовать.

он что уже может перестать быть цифровым?

[BlackMokona]

он что уже может перестать быть цифровым?

Так нейронная сети же. Там сигнал не 1 и 0.

[Olweg]

Это уже необязательно. Главное, чтобы автору нравилось )

Так берем Basic, ставим полный рандом на рисование. Ставим вывод улыбающегося смайлика. Миссия выполнена. Автору нравится

Кого это обманет? Тут что-то поизощрённей надо.

Да, но оценки-то будут заложены людьми.

Оценочная функция это метод. Оценки меняются в зависимости от приоритетов, целей и прогресса в игре например, которые в свою очередь тоже меняются по ходу. В шахматах распространена от -2 до +2. Но мб и др. Я раньше давал ссылку на gui Arena где все это показано наглядно.
Хотя, конечно, основы заложены людьми. На то он и искусственный. 

Ну да, я имел в виду, что задаётся функция (и значит, в какой-то степени и оценки тоже). Для искусства это слишком топорно, ведь там всё основано на интуиции, и оценка тоже желательно должна быть интуитивной - а для этого нужно обучать на данных.

[Nucleosome]

Там сигнал не 1 и 0.

ну ступенек можно вставить сколько угодно - проблема только в том, что приближаясь к процессам реального мира их число, то есть число необходимыых параметров возрастает настолько, что всего кремния земной коры не хватит для процессора... и ещё проблема - каким образом эти параметры подбирать - всё замерить не получится по той же причине.

[Olweg]

А зачем? Основа работы мозга - цифровая, пороговый потенциал действия не просто так же существует. Конечно, есть и много аналоговых процессов, но это не значит, что при создании ИИ без них нельзя будет обойтись. Пока прекрасно обходятся.

[neolopus]

Для искусства это слишком топорно, ведь там всё основано на интуиции, и оценка тоже желательно должна быть интуитивной - а для этого нужно обучать на данных.

Мне почему-то кажется, что интуитивно "красиво - не красиво" будет зависеть ещё и от того, кто на это смотрит.

Красивое ли зрелище, скажем, полная тарелка сырого мяса, истекающего кровью? (простите уж за такой пример)
Ну, наверно, смотря для кого.
Для кошки - думаю, да. Она "оценила" бы этот своего рода "натюрморт". Ведь это - её еда.
Для какого-нибудь каннибала - возможно тоже да. Такая куча мяса.
Для современного, цивилизованного человека? Ой, вряд ли. Даже детей уводить начнут. Кошка, напротив, ещё и котят позовёт - а люди детей уводить станут от такой "картины".

То есть у каждого своё понимание красивого. С видовой точки зрения.
И оно весьма субъективно.
Но почему же компьютер должен стать именно на видовую точку зрения хомо сапиенса?
Возможно компьютеру показались бы забавнее его родные единицы и нули? Картины из ноликов и палочек?

Ну либо же нужно "научить" компьютер эстетике, причём эстетике именно человеческой. И ведь тогда это будет уже не его "заслуга", а наше научение...

[BlackMokona]

Кого это обманет? Тут что-то поизощрённей надо.

Зачем обманывать?

ну ступенек можно вставить сколько угодно - проблема только в том, что приближаясь к процессам реального мира их число, то есть число необходимыых параметров возрастает настолько, что всего кремния земной коры не хватит для процессора... и ещё проблема - каким образом эти параметры подбирать - всё замерить не получится по той же причине.

Поставить аналоговый нейроморфный проц и делов то.  Не говоря, что тут как со звуком, в один момент цифровой звук уже не получится отличить от аналогового и это стоит недорого.

[BlackBox]

Мне почему-то кажется, что интуитивно "красиво - не красиво" будет зависеть ещё и от того, кто на это смотрит.

Вы удивитесь насколько несовершенен мозг, когда узнаете например о эффекте Пиаже.
Этого мало? Тогда почитайте еще и о когнитивных искажениях. И все это считается нормой для человека! О больных психически и говорить нечего...
Так что неудивительно что "будет зависеть ещё и от того, кто на это смотрит".

[Olweg]

Кого это обманет? Тут что-то поизощрённей надо.

Зачем обманывать?

Внутри-то ничего не будет. Пустая оболочка, обманка для внешнего наблюдателя. Для того, чтобы автору понравилось, нужна хотя бы оценочная функция, о которой писал BlackBox, пусть даже примитивная. Но лучше, если оценка бы делалась на основе собственного опыта, может быть, с какими-то предзаданными параметрами (nature vs nurture). Таким предзаданным параметром, кстати, будет и сама архитектура нейронной сети - у ИИ одной модели будет больше общих черт в поведении, даже если их обучать на разных наборах данных, ну как у разделённых близнецов )

[Olweg]

А вы уверены, что сеть, которая это генерирует, может оценить ею созданное? Сейчас, правда, применяют генеративно-состязательные сети со встроенным «самокритиком», но критерии отбора пока слишком примитивны для полноценного искусства.

Оказывается, есть и такая штука, как креативно-состязательная сеть:

https://nplus1.ru/news/2017/07/05/creative-adversarial-network

Авторы новой работы дополнили принцип работы GAN, предложив новую разновидность нейросети — креативную состязательную сеть (creative adversarial network, коротко CAN). Нейросеть была обучена на выборке из более чем 81 тысячи картин 1119 художников различных стилей, творивших в XV–XX веках.

Принцип работы CAN отличается от других порождающих сетей тем, что генератор получает от дискриминатора не один сигнал, а два: первый, как в классической GAN, определяет, является ли сгенерированный объект произведением искусства, схожим с теми, что даны в обучающей выборке, и к какому стилю он может быть отнесен; второй сигнал передает информацию о том, насколько близко сгенерированное изображение относится к тому или иному стилю. Так как основная цель CAN — креативность, успех ее генератора зависит от того, удастся ли ему создать новое изображение, которое дискриминатор, с одной стороны, отнесет к произведениям искусства из данной ему выборки, но с другой, не сможет определить его стиль.

В результате CAN смогла создать большое количество совершенно новых произведений искусства. Полученные изображения были продемонстрированы реальным людям, которые оценивали схожесть сгенерированных изображений с работами современного искусства, их реальность («Создана эта работа художником или компьютером?») новизну и эстетические характеристики («По шкале от 1 до 5, насколько вам нравится картина?»). Стоит отметить, что выборка опрошенных была небольшой (10 человек), однако, авторы смогли сделать первые выводы о том, что созданные CAN изображения рассматриваются как настоящие произведения искусства и превосходят в этом работы, полученные при работе классической GAN.

Можно ли считать произведением искусства что-то сгенерированное только по критерию новизны? Не знаю, да и вряд ли тут найдутся эксперты. Вполне возможно, что и многие художники руководствуются только принципом создать что-нибудь пооригинальнее.

Вспомнилось:

Фрост открыл камеру, Мордел спустился на землю. Он увидел скульптуру: старая женщина, сгорбленная, как вопросительный знак, костлявыми руками охватила голову. Пальцы были расставлены так, что видна была только часть лица с выражением глубочайшей грусти.
— Это отличная копия, — заключил Мордел, — оригинал мы видели в Сияющем Ущелье. Почему тебе захотелось это сделать?
— Произведение искусства порождает различные человеческие чувства: очищение, гордость за достижения, любовь, удовлетворение.
— Да, Фрост, — сказал Мордел, — но произведение искусства может быть только оригинальным. Оно существует в единственном экземпляре. Если его повторить, это будет уже копия.
— Вероятно, поэтому я ничего не почувствовал.
— Возможно, Фрост.
— Что значит «возможно»? Получается, я должен сделать оригинальное произведение искусства.
Он взял другой камень и набросился на него со своими инструментами. Фрост работал. Через некоторое время он сообщил:
— Я закончил.
— Здесь просто куб из камня, — сказал Мордел. — Что это значит?
— Это мой автопортрет, — произнес Фрост, — в масштабе, конечно. Но ведь произведение искусства и должно давать представление об объекте, а не о его размерах.
— Подобную скульптуру нельзя назвать искусством, — сказал Мордел.
— Каковы твои критерии?
— Я не понимаю, что такое искусство, но знаю, что искусством не является. Искусство не может быть точным воспроизведением предмета в масштабе.
— В этом, наверное, и заключается причина того, что я ничего не могу почувствовать.
— Возможно, — сказал Мордел.
Фрост посадил Мордела в камеру и поднялся в воздух. Он летел с большой скоростью, оставив в пустыне свои скульптуры: старую женщину, согнувшуюся над кубом.
Они опустились в маленькой долине, окаймленной пологими зелеными холмами и разрезанной пополам узким ручейком. Тут же располагалось озерцо с прозрачной водой, окруженное группами по-весеннему зеленых деревьев.
— Зачем мы пришли сюда? — спросил Мордел.
— Здесь благоприятная обстановка для того, чтобы написать картину маслом, — сказал Фрост. — Я попробую перейти от точного воспроизведения к чистой образности.
— Как ты хочешь это сделать?
— Я не буду копировать цвета или представлять объекты в масштабе. Вместо этого я составил программу, в которой предусмотрены случайные отклонения изображения на моей картине от натуры.
Вернувшись из пустыни, Фрост сделал инструменты, необходимые для написания картины. После этого он принялся рисовать озеро и деревья, отраженные в воде.
Используя механические подобия рук, Фрост уложился менее чем в два часа.
На берегу озера, как горы, возвышались голубые деревья, чьи отражения яркой охрой горели в красной воде; холмов за деревьями не было, но их зеленые контуры виднелись на поверхности воды; в верхнем правом углу полотна небо было синим, а ниже — ярко-оранжевым; создавалось впечатление, что деревья охватил огонь.
— Смотри, — сказал Фрост.
Мордел долго изучал картину, но промолчал.
— Это искусство?
— Не знаю, — засомневался Мордел, — может быть, и искусство. Очевидно, элемент случайности может считаться одним из приемов при создании художественного произведения. Я не могу судить об этой работе, потому что не понимаю ее.

[Nucleosome]

Основа работы мозга - цифровая, пороговый потенциал действия не просто так же существует

вообще-то говоря это ниоткуда не следует... пороговый потенциал существует для того чтобы не передавать тепловой шум, но для основы этого недостаточно: нужно чтобы были чёткие данные что нейроны не воспринимают ничего, чтобы могли бы как-то передать до порога и никак не изменяют свойства передаваемого сигнала после.

Пока прекрасно обходятся.

но и ИИ тоже не получается чтобы заменил нас, да и даже чтобы мегафрагму (перепончатокрылый паразит) какую смоделировать...

[Rattus]

Основа работы мозга - цифровая, пороговый потенциал действия не просто так же существует. Конечно, есть и много аналоговых процессов,

Гораздо больше, чем в случае наследственной информации (которая как раз таки цифровая практически целиком, ибо важнейший для неё параметр - надёжность передачи). Поэтому-то с мозгом "всё сложно".

но это не значит, что при создании ИИ без них нельзя будет обойтись.

Но это значит, что их оцифровка с нужным разрешением породит немалые объёмы данных, которые также нужно будет обрабатывать в реал-тайм.

[Olweg]

Во всяком случае, вопрос остаётся открытым: так ли уж нужна вся эта тёплая ламповая аналоговость не для имитации мозга, а для построения общего ИИ с нуля. Думаю, уже в следующем десятилетии сможем узнать.

[Nucleosome]

(которая как раз таки цифровая практически целиком, ибо важнейший для неё параметр - надёжность передачи)

и это тоже только моделирование, но никаких фактов реально подвреждающих отсутвие чего-то иного нет. ну конечно ещё тот ещё вопрос что тут считать цифровым, а что нет - что тоже только наше субъективно деление, необходимое для моделирования...

Думаю, уже в следующем десятилетии сможем узнать.

посмотрим... правда если следующие дестилетие ответа не даст (а ведь наверное расчитывали уже на это), то сколько ещё смотреть придётся останется только гадать...

[Rattus]

но никаких фактов реально подвреждающих отсутвие чего-то иного нет

Вот сейчас кости Бертрана Рассела сделали ещё один оборот в могиле.

[Nucleosome]

Вот сейчас кости Бертрана Рассела сделали ещё один оборот в могиле.

да хоть десять! хоть один приведите

[Rattus]

хоть один приведите

Чайник Рассела? Немогу-съ. Но это, разумеется, не говорит о том, что их нету вовсе.