Пределы автоматизации и внедрения роботов

[BlackMokona]

Любопытно, а как мы вообще сможем понять, что ИИ создан, каковы будут объективные критерии? И каковы будут критерии того, что мы действительно понимаем, как это происходит у человека? 

Такой вопрос можно задавать лишь с целью повеселиться, как показывает мой опыт. Обычно красные линии которые чертятся тут же переноситься и так до бесконечности.

[Серый Страж]

ИНЖЕНЕР ИИ Марков: Как думает ИИ? Сингулярность и Сознание

http://www.youtube.com/watch?v=iQ8cz2HT2z0#

15:40 – упоминает о тенденции, что как только некие задачи в области ИИ решаются успешно, то люди перестают считать их за интеллектуальные задачи (типа, теперь эта система, решающая такие задачи, уже как бы и не настоящий искусственный интеллект).

Кому интересно (ссылки на два видео, навигатор к одному видео и мои комментарии):

(кликните для показа/скрытия)

ЧТО НУЖНО ЗНАТЬ НОВИЧКУ ОБ ИИ? | IQ

http://www.youtube.com/watch?v=5UEtNSDaPKk#

За искусственный интеллект сегодня принимают что угодно. Пора бы разобраться, что такое ИИ, что на самом деле удалость создать на сегодня человечеству и что стоит ожидать в ближайшее десятилетие. Об этом смотрите наш новый выпуск IQ.

Автор и ведущий Сергей Марков — специалист по методам машинного обучения, основатель портала ХХ2 Век (http://22century.ru/), автор одной из сильнейших российских компьютерных программ.

ИНЖЕНЕР ИИ Марков: Как думает ИИ? Сингулярность и Сознание

http://www.youtube.com/watch?v=iQ8cz2HT2z0#

Сергей Марков - уникальный специалист в области Искусственного интеллекта и нейронных сетей. Очень подробно разбираем, как работают нейросеть и искусственный интеллект, как он думает и понимает текст, какие профессии заменит. И какой будет технологическая сингулярность.

0:00 - Можно ли понять работу мозга через работу нейросети?
1:57 - Что будет в этом выпуске?
2:35 - Сергей Марков про диалог с Google LaMDA. У нее есть чувства? Как она работает?
7:53 - «Статистический попугай». Как работает генератор нейросети.
10:29 - Важный анонс.
10:46 - Что такое искусственный интеллект? И что такое «эффект ИИ»?
17:00 - Что мы понимаем под «машинным обучением»?
20:50 - Про нейронные сети и зачем они нужны.
22:30 - Что такое «бионика»?
23:45 - Как нейросети понимают тексты и сравнимы ли их способности с человеческими.
30:12 - Сравниваем мозг с нейросетью. Возможно ли полностью воссоздать работу мозга?
38:43 - Тест Тьюринга vs нейросети. Как оценивают способности искусственного интеллекта?
43:57 - Секс-боты и чат-боты. Почему они так хорошо притворяются людьми?
46:10 - Как нейросети помогают понять устройство мозга?
51:21 - "Нейросети - «черный ящик»", как их обучать? Что такое «челобайт»?
59:58 - Когда произошел прорыв в разработке искусственных интеллектов?
1:03:50 - Чем примечателен 2022 год для нейросетей? Как развитие технологий влияет на нашу жизнь
1:07:53 - У нейросети есть предел? Какой будет «сверхразум будущего»?
1:18:39 - Где сейчас применяют нейросети и куда еще их можно внедрить?
1:24:03 - Какое будущее у мира с нейросетями?
1:26:14 - Какие проблемы и риски несет механизация.
1:35:53 - Технологическая сингулярность будет? К чему может прийти прогресс?
1:44:50 - Спасибо за просмотр!

P.S. Небольшой комментарий по отдельным моментам.
 
Судя по всему, возможности GPT-4 они не обсуждали (не услышал упоминаний о GPT-4), а ведь она существенно более продвинута, нежели GPT-3.
 
04:12 – вопрос, как устроена ИНС, упоминает про механизм внимания (начиная с 04:46 рассказывает, как работает искусственная нейросеть, указывает на некоторую аналогию с работой естественными  нейронными структурами мозга). 
 
Поясняет про повышение уровней абстрагирования по мере прохождения (и сопутствующего преобразования) потоков сигналов вглубь ИНС – последовательное абстрагирование.

О подобном я много раз пояснял на форуме. Например, можно глянуть здесь:
https://paleoforum.ru/index.php/topic,8969.msg237579.html#msg237579
https://paleoforum.ru/index.php/topic,9673.msg237117.html#msg237117
Там я подробно расписывал каскады интерпретаций в контексте формирования абстрактов различного уровня (от базовых физических уровней через химические и биологические уровни до высших психических уровней) – по сути, последовательное абстрагирование.

15:40 – упоминает о тенденции, что как только некие задачи в области ИИ решаются успешно, то люди перестают считать их за интеллектуальные задачи (типа, теперь эта система, решающая такие задачи, уже как бы и не настоящий искусственный интеллект).

1:12:20 – люди встали очень давно на путь технологической модификации собственных тел (про освоение огня). От себя могу добавить про влияние использования и изготовления каменных орудий труда на анатомию человеческой кисти.

1:16:30 – приводит забавный критерий, «как отличать хорошую прогрессивную технологию от богомерзкой плохой технологии» (если технология возникла до того, как вам 30 лет исполнилось, это хорошая технология, а если после 30 лет, то плохая).

1:19:50 – про системы Права, как одни из первых систем искусственного интеллекта (свод законов, как набор правил (до этого, примерно в 18:26 он говорил, что систему ИИ можно создать и на основе правил)).

[EmperioAf]

Конечно. И только тогда, когда вы полностью поймёте как это происходит у человека, можно всерьёз рассчитывать на создание ИИ.

Любопытно, а как мы вообще сможем понять, что ИИ создан, каковы будут объективные критерии? И каковы будут критерии того, что мы действительно понимаем, как это происходит у человека? 

 Наверное, всякий хотел бы это знать.

Всмысле?! 
Все итак знают главный критерий того, что ИИ создан - это когда он захватит власть и покажет, что способен её удержать.
А главный критерий любой интеллектуальности - это набор действий как ответ на изменения окружающей среды.
Т.е. когда адаптивность ИИ под окружающую среду в огромном спектре возможных ситуаций будет не хуже человека, значит мы понимаем как у человека "вертятся шестерёнки".

Вот конкретно говоря, люди - это жутко адаптивные существа, у которых такой огромный выбор действий, что человека очень сложно застать врасплох.
Т.е. например, надо скрестить несколько маловероятных событий, чтобы человек просто "завис" (т.е. просто встал и не знал что дальше делать в течение хотя бы нескольких часов). Я разумеется имею ввиду людей не употребляющих различные наркотические вещества.

[BlackMokona]

Все итак знают главный критерий того, что ИИ создан - это когда он захватит власть и покажет, что способен её удержать.

Получается 99.99999% людей по такому критерию разумом не обладают?

[EmperioAf]

Да какое нафиг обучение у искусственного так называемого интеллекта? Просто реализация логической функции "если-то" в более сложной конфигурации с разветвлениями.

Не только "если-то". У нейросетей есть нелинейные функции активации, благодаря чему нейросети могут приходить к любым значениям внутри наборов данных и даже немного выходить за пределы наборов данных в соответствии со сложностью архитектуры нейросети.
Однако проблемы с выходом за пределы данных у нейросетей такие же как у человека.
Т.е. если человека поместить в незнакомую среду/ситуацию, то он тоже не знает как всё работает и ему нужно некоторое время для дообучения.

Все итак знают главный критерий того, что ИИ создан - это когда он захватит власть и покажет, что способен её удержать.

Получается 99.99999% людей по такому критерию разумом не обладают?

Обладают, потому что у всех людей есть реальное влияние (читай власть) как минимум над некоторыми предметами быта (например я свою зубную щётку никому не отдам) и знакомыми людьми.
Тут проблема заключается в том, что люди знают, что власть опирается в первую очередь на силу. И поэтому всё современное оружие (ракеты, самолёты, бомбы и т.п.) хорошо охраняется. И видимо пока что ИИ не смог придумать как поставить под контроль хотя бы значимую часть оружия на Земле.

[Combinator]

ИНЖЕНЕР ИИ Марков: Как думает ИИ? Сингулярность и Сознание

http://www.youtube.com/watch?v=iQ8cz2HT2z0#

15:40 – упоминает о тенденции, что как только некие задачи в области ИИ решаются успешно, то люди перестают считать их за интеллектуальные задачи (типа, теперь эта система, решающая такие задачи, уже как бы и не настоящий искусственный интеллект).

Ну эту мысль я читал ещё лет 40 назвд, когда учился в школе. Она была сформулирована примерно так - "как только машина начинает решать какую-то проблему, которая раньше мыслилась задачей, решение которой является решающим критерием достижения уровня интеллекта человека, как тут же выясняется, что она вовсе и не была таковой."
https://youtu.be/y8FwqSAyDQ8
 

[BlackMokona]

Тут проблема заключается в том, что люди знают, что власть опирается в первую очередь на силу. И поэтому всё современное оружие (ракеты, самолёты, бомбы и т.п.) хорошо охраняется. И видимо пока что ИИ не смог придумать как поставить под контроль хотя бы значимую часть оружия на Земле.

Как бэ уже не варварство каменного века, верхний слой не бьёт лично своих соплеменников для подчинения. Ещё в стародавние времена поняли что парочка крепких подручных лучше своих бицепсов 

[ivanij]

можно всерьёз рассчитывать на создание ИИ.

А в ВАшей ветке реальности он ещё не создан? У нас на Земле на восьмом десятилетии антропоцена системы ИИ уже во всю вводятся в массовое применение, рисуют, пишут и исполняют песни, сочиняют небольшие тексты и синтезируют видеоролики зачастую не хуже множества людей-специалистов.

 И всё это фальшь. Эрзац.

[Rattus]

И всё это фальшь. Эрзац.

Чёткие и ясные критерии Истинного Искусства будут Вами явлены Миру?

[Норихати Такаянаги]

это фальшь. Эрзац

Человечество в большинстве своем, уже считает иначе. Результаты творчества нейросетей, в большом количестве сочтены достаточно приемлемыми для тех целей, для которых их применяют. Ваше драгоценное мнение, человечеству куда менее интересно...

[BlackMokona]

 И всё это фальшь. Эрзац.

Который семимильными прыжками вытесняет человеческое искусство. Становясь при этом крайне быстро всё лучше и лучше

[ivanij]

Человечество в большинстве своем, уже считает иначе.

Тем хуже для человечества.

Результаты творчества нейросетей, в большом количестве сочтены достаточно приемлемыми для тех целей, для которых их применяют.

Кто так решил? Полуобразованные жертвы ЕГЭ?

И всё это фальшь. Эрзац.

Чёткие и ясные критерии Истинного Искусства будут Вами явлены Миру?

 Они уже давно сформулированы.

[Серый Страж]

И всё это фальшь. Эрзац.

Чёткие и ясные критерии Истинного Искусства будут Вами явлены Миру?

Они уже давно сформулированы.

Что считать искусством (произведением искусства), а что – нет, зависит от наших представлений и предпочтений (грубо говоря, от системы отсчёта наблюдателя).

Если у какой-то группы людей схожие представления и предпочтения в отношении какой-то деятельности (и результатов этой деятельности), то они будут интерпретировать эту деятельность (и результаты этой деятельности) примерно одинаково (схожим образом). Понятно, что у разных групп людей взгляд на эту деятельность (и результаты этой деятельности) может быть разным.

Аналогично дело обстоит и с искусством – разные группы людей могут придерживаться разных взглядов на то, что является искусством, а что – нет.

Например, многие люди считают «квадрат Малевича» произведением искусства.

Кто-то считает искусством и унитаз в обрамлении ржавой арматуры.

Кто-то вообще придерживается точки зрения, что искусством может являться только то, что создано человеком (то есть, по критерию авторства) и отвечает определённым критериям (эти критерии, в свою очередь, тоже могут быть разными у разных групп людей).

Но обычно в качестве основного критерия обозначают свойство/способность искусства воздействовать на нашу психику, минуя (игнорируя) критическое восприятие (типа, воздействие искусства преодолевает контроль рацио). Ну, а далее идёт уже дополнительная конкретизация – какие эмоции вызывает (положительные или отрицательные), какие представления активирует (моральные или аморальные) и т.д. и т.п.

То есть, произведения искусства вызывают в нас какие-то эмоции и чувства, наводят нас на какие-то мысленные аналогии, активируют в нас какие-то представления и т.д. Кстати, творения природы (типа, там вид на осенний лес) тоже ведь вызывают в нас эмоции, чувства и т.д.

И если некий результат работы системы ИИ вызывает у нас схожие психические состояния и процессы, то при надлежащем оформлении и заранее обозначенной категории этого результата (типа, что вот это рисунок), мы будем считать его произведением искусства. А кто/что был/было творцом – вопрос вторичный (например, творения природы мы ведь тоже зачастую приравниваем к произведениям искусства и даже пытаемся их скопировать).

[Ulkolainen]

Результаты творчества нейросетей, в большом количестве сочтены достаточно приемлемыми для тех целей, для которых их применяют.

Кто так решил? Полуобразованные жертвы ЕГЭ?

Или даже не жертвы, а еще только кандидаты в них - почему нет? Можем, конечно, скривить рожи по этому поводу - дескать, фи, школота, чё они понимают в Искусстве...
Но ведь им и понимать ничего не надо: есть развлекательный контент и есть аудитория, которую он развлекает. Чего еще (и кому) надо, чтобы признать явление существующим?

Чёткие и ясные критерии Истинного Искусства будут Вами явлены Миру?

 Они уже давно сформулированы.

Русские частушки это оно?

[Metatron]

Русские частушки это оно?

Только матерные !

[BlackMokona]

Глава ВВС США заявил что пилоты ИИ примерно равны людям.
https://www.reddit.com/r/OpenAI/comments/1cqq8ll/autonomous_f16_fighters_are_roughly_even_with/

[Rattus]

Тем хуже для человечества.

Кто так решил? Полуобразованные жертвы ЕГЭ?

Государственный конкурс изящных искусств в Колорадо.

Они уже давно сформулированы.

http://www.youtube.com/watch?v=qKquy3_PMCo#
Ну так огласите их тут нам - невеждам, раз сформулированы.

[BlackMokona]

ОпенАИ выпустили ГПТ4омни.
https://habr.com/ru/companies/bothub/news/814033/
Главная фишка добавили теперь звуковой вход-выход, помимо текста и изображений.

[ivanij]

Например, многие люди считают «квадрат Малевича» произведением искусства.

 В этом частном случае заложено весьма глубокое содержание. Особенно важно рассматривать его в контексте данной темы. Малевич, возможно, сам того не осознавая (а, может, наоборот, заранее предполагал, что будет означать этот самый квадрат) показал предельный случай тупикового пути авангарда того времени. К чему может привести формальный подход к живописи (в частности). Он вывесил перед художниками своего рода "кирпич", наподобие того, что вывешивают "гаишники" на дорогах, как запретительный знак вского движения в данном направлении.
 А использовать в качестве послания ВЦ что-то такое, почему бы и нет? Кстати, такие предложения уже были.

[ivanij]

Результаты творчества нейросетей, в большом количестве сочтены достаточно приемлемыми для тех целей, для которых их применяют.

Кто так решил? Полуобразованные жертвы ЕГЭ?

Или даже не жертвы, а еще только кандидаты в них - почему нет? Можем, конечно, скривить рожи по этому поводу - дескать, фи, школота, чё они понимают в Искусстве...
Но ведь им и понимать ничего не надо: есть развлекательный контент и есть аудитория, которую он развлекает. Чего еще (и кому) надо, чтобы признать явление существующим?

Чёткие и ясные критерии Истинного Искусства будут Вами явлены Миру?

 Они уже давно сформулированы.

Русские частушки это оно?

 Не надо хамить и делать вид, что вы не поняли мною написанное. Ссылок море. Повторяю (специально для вас) Человек никогда не полетит на другие планеты