Пределы автоматизации и внедрения роботов

[Maki]

Технически там все так же, стиральная машинка стирает на основе заданной программы стирки, а самообучающийся ИИ обучается на основе заданной программы обучения. Не какого волшебства делающего ИИ чем то сказочным, там нет.

О сказочном речь не идёт, конечно же. Машинка работает по заданному алгоритму, хотя даже там, ЕМНИП, присутствует нечёткая логика. Но она - внимание - не обучается ничему. Это просто автомат.
Нейросетка, пусть даже в заданных пределах, обучается. Сама. Человек ставит задачу. Но способы решения он делегирует машинному интеллекту. Так что "технически" здесь принципиальная разница.

Собственно, тут незачем разводить дискуссии. Я просто предположил, что цепочка: человек постановщик задач, ИИ создатель алгоритма, и автомат-исполнитель - это вполне перспективный путь автоматизации и внедрения роботов. КМК, примерно к этой схеме, сейчас промышленность и идёт.

[MenFrame]

Но она - внимание - не обучается ничему. Это просто автомат.

Автомат обучения тоже не обучается. Он делает тоже что и стиральная машинка стирает белье производит ту работу на которую он запрограммирован, то есть учит нейросеть.

обучается. Сама.

Не чему сама она не обучается, ее обучают на специальном ПО.  После этого она уже не чему не учиться.

Но способы решения он делегирует машинному интеллекту. Так что "технически" здесь принципиальная разница.

Не вижу тут принципиальной разницы, машинка стирает сама, обучение нейросети генерит нужные данные. И в том и другом случае происходит работа жосткого алгоритма. Один алгоритм стирает, другой генерит данные и проводит их через фильтра отбора заданные пользователем. Разницап здесь сугубо для человека который не понимает что происходит. Для вас это чудо самообучения, по факту результат работы машины с данными. Белье должно быть чистым, данные должны соотвесвовать заданному фильтру.

[BlackMokona]

IBM тоже решили влететь на рынок ИИ LMM и сделали свою опенсорсную модель Гранит
https://analyticsindiamag.com/ibm-releases-open-source-granite-code-models-outperforms-llama-3/

[Ый]

Да какое нафиг обучение у искусственного так называемого интеллекта? Просто реализация логической функции "если-то" в более сложной конфигурации с разветвлениями.
Наверно, самой первой логической функцией, выполненной, правда, в механическом исполнении, это золотник в паровой машине, который перенаправляет энергию пара.

[Combinator]

Да какое нафиг обучение у искусственного так называемого интеллекта? Просто реализация логической функции "если-то" в более сложной конфигурации с разветвлениями.
Наверно, самой первой логической функцией, выполненной, правда, в механическом исполнении, это золотник в паровой машине, который перенаправляет энергию пара.

Вы думаете, у человека принципиально по другому?

[Olweg]

Да какое нафиг обучение у искусственного так называемого интеллекта? Просто реализация логической функции "если-то" в более сложной конфигурации с разветвлениями.

Нет, это так не работает.

[ivanij]

Да какое нафиг обучение у искусственного так называемого интеллекта? Просто реализация логической функции "если-то" в более сложной конфигурации с разветвлениями.
Наверно, самой первой логической функцией, выполненной, правда, в механическом исполнении, это золотник в паровой машине, который перенаправляет энергию пара.

Вы думаете, у человека принципиально по другому?

 Конечно. И только тогда, когда вы полностью поймёте как это происходит у человека, можно всерьёз рассчитывать на создание ИИ.

[Rattus]

можно всерьёз рассчитывать на создание ИИ.

А в ВАшей ветке реальности он ещё не создан? У нас на Земле на восьмом десятилетии антропоцена системы ИИ уже во всю вводятся в массовое применение, рисуют, пишут и исполняют песни, сочиняют небольшие тексты и синтезируют видеоролики зачастую не хуже множества людей-специалистов.

[Combinator]

Конечно. И только тогда, когда вы полностью поймёте как это происходит у человека, можно всерьёз рассчитывать на создание ИИ.

Любопытно, а как мы вообще сможем понять, что ИИ создан, каковы будут объективные критерии? И каковы будут критерии того, что мы действительно понимаем, как это происходит у человека? 

[ivanij]

Конечно. И только тогда, когда вы полностью поймёте как это происходит у человека, можно всерьёз рассчитывать на создание ИИ.

Любопытно, а как мы вообще сможем понять, что ИИ создан, каковы будут объективные критерии? И каковы будут критерии того, что мы действительно понимаем, как это происходит у человека? 

 Наверное, всякий хотел бы это знать.

[ivanij]

 Создание "искусственного" интеллекта пока на уровне (1000 извинений за пространную цитату, но в запасе есть ещё длиннее)

 

   Печатаем отрывок из «Писем с воздушного шара» Эдгара По.
   «Воздушный шар «Жаворонок». 1 апреля 2848 г.
   Я изнываю на грязном воздушном шаре с компанией человек в сто или двести… Мы делаем не более ста миль в час… Сегодня переговаривались со станцией плавучего телеграфа. Говорят… никто не верил в возможность положить проволоку по морю. А теперь… Что бы мы стали делать без атлантического телеграфа!»
   Телеграфная проволока через океан!
   Писатель считал это дерзкой мечтой, исполнение откладывал на тысячу лет и не в силах был предвидеть, что трех лет еще не пройдет, как уже проложат подводный кабель из Европы в Америку, через Атлантический океан. И что за семь лет до того, как писатель взялся за перо, уже лежал под водой в Европе первый телеграфный кабель.

 создания очередного воздушного шара.
Или на уровне царя Гороха и генерала профессора Рукосуева

 

Предлагается вашему вниманию грамота из воображаемого архива — докладная записка царю Гороху о ревизии научно-исследовательского учреждения, почтовый ящик № 3333.
 
   Царь государь!
   По твоему веленью, по твоему хотенью, заслуженным деятелем науки, профессором генералом Рукосуевым произведена ревизия научно-исследовательского учреждения, почтовый ящик № 3333.
   Докладываю, что учеными, конструкторами, изобретателями здесь проводится большая, плодотворная работа. Под твоим испытанным руководством еще теснее стала связь науки с производством. Успешно решаются важные задачи, продиктованные сложными требованиями сегодняшней международной обстановки.
   Есть, однако, и отдельные недостатки. Немалый вред науке приносят бездельники, уводящие исследования в область пустопорожних проблем.
   Особо выдающихся результатов добилась лаборатория артиллерийских систем. Здесь сооружается катапульта с рычагами из прочнейшего столетнего дуба, в которой будут впервые применены особенно тугие жгуты из сухожилий специально выведенной крепчайшей породы быков. Имеются все основания предполагать, что это уникальное орудие окажется способным метать камни на целый пуд тяжелее и на сто шагов дальше, чем все существовавшие ранее мощнейшие системы. Вхожу, государь, с просьбой наградить этих смелых и дерзких конструкторов полшапкой серебра.
   Только попустительством и беспринципностью руководства лаборатории можно объяснить, что в данном творческом коллективе длительное время подвизался бездельник. Не называю его имени, потому что он уволен с запрещением занимать должности в научно-исследовательских учреждениях. Проходимец занимался тем, что из серы, селитры и угля пытался составить какой-то порошок, пригодный разве в качестве слабительного для желудка, и пытался втереть очки доверчивой администра-ции, утверждая, что в нем будто бы и заключается «будущее» (??) артиллерии.
   Крупнейшие результаты достигнуты в лаборатории навигационных приборов. Здесь построена новая астролябия для определения положения кораблей по звездам, отличающаяся от прочих применением бронзовых шарниров и поэтому обладающая повышенной точностью. Коллектив ее создателей также достоин, государь, награждения полшапкой серебра.
   Но и тут, в этом здоровом коллективе, благодаря слепоте руководства, затесался бездельник. Боюсь прослыть лжецом, государь, докладывая, что один из здешних «работников» целый год убил на игру с кусочком руды, притягивающим железные предметы. Когда я не без горечи спросил дармоеда, какова его программа на будущий год, наглец цинично ответил, что намерен подвесить кусок руды на нитке () и глядеть, что получится. Разумеется, что финансирование работ было мною сейчас же прекращено, а дармоед сдан в пехоту. Полезно было бы судить его показательным судом, чтоб другим было неповадно пускать по ветру государственную казну. Вот, великий государь, лишь несколько примеров нашей неустанной заботы по дальнейшему укреплению связи науки с производством, по борьбе с бездельем и бесплодьем в науке.
   К сему руку приложил
   профессор генерал Рукосуев.
 
   Разумеется, царь Горох, полагавший, что командование и администрирование есть лучший способ руководства наукой, наложил на докладную записку резолюцию: «Одобряю».

[Combinator]

Конечно. И только тогда, когда вы полностью поймёте как это происходит у человека, можно всерьёз рассчитывать на создание ИИ.

Любопытно, а как мы вообще сможем понять, что ИИ создан, каковы будут объективные критерии? И каковы будут критерии того, что мы действительно понимаем, как это происходит у человека? 

 Наверное, всякий хотел бы это знать.

Тогда остаётся только сослаться на критерий фальсифицируемости гипотез Поппера.
 

[ivanij]

Тогда остаётся только сослаться на критерий фальсифицируемости гипотез Поппера.

 А ещё лучше обратиться к практике создания ИИ.

[Metatron]

Несколько лет назад (до появления chatGPT-2) тут писали - что неплохим критерием ИИ будет - если она будет способна делать короткий пересказ длинных текстов. Выдавать суммари основных пунктов.

Ну так chatGPT-4 и Grok это уже делают.

Просто с достижением очередного рубежа - рубеж "достижения" ИИ - тут же отодвигается еще дальше.

Про тест Тьюринга - уже никто не вспоминает - потому что очевидно, что chatGPT проходит его в большинстве случаев.

[BlackMokona]

Любопытно, а как мы вообще сможем понять, что ИИ создан, каковы будут объективные критерии? И каковы будут критерии того, что мы действительно понимаем, как это происходит у человека? 

Такой вопрос можно задавать лишь с целью повеселиться, как показывает мой опыт. Обычно красные линии которые чертятся тут же переноситься и так до бесконечности.

[Серый Страж]

ИНЖЕНЕР ИИ Марков: Как думает ИИ? Сингулярность и Сознание

http://www.youtube.com/watch?v=iQ8cz2HT2z0#

15:40 – упоминает о тенденции, что как только некие задачи в области ИИ решаются успешно, то люди перестают считать их за интеллектуальные задачи (типа, теперь эта система, решающая такие задачи, уже как бы и не настоящий искусственный интеллект).

Кому интересно (ссылки на два видео, навигатор к одному видео и мои комментарии):

(кликните для показа/скрытия)

ЧТО НУЖНО ЗНАТЬ НОВИЧКУ ОБ ИИ? | IQ

http://www.youtube.com/watch?v=5UEtNSDaPKk#

За искусственный интеллект сегодня принимают что угодно. Пора бы разобраться, что такое ИИ, что на самом деле удалость создать на сегодня человечеству и что стоит ожидать в ближайшее десятилетие. Об этом смотрите наш новый выпуск IQ.

Автор и ведущий Сергей Марков — специалист по методам машинного обучения, основатель портала ХХ2 Век (http://22century.ru/), автор одной из сильнейших российских компьютерных программ.

ИНЖЕНЕР ИИ Марков: Как думает ИИ? Сингулярность и Сознание

http://www.youtube.com/watch?v=iQ8cz2HT2z0#

Сергей Марков - уникальный специалист в области Искусственного интеллекта и нейронных сетей. Очень подробно разбираем, как работают нейросеть и искусственный интеллект, как он думает и понимает текст, какие профессии заменит. И какой будет технологическая сингулярность.

0:00 - Можно ли понять работу мозга через работу нейросети?
1:57 - Что будет в этом выпуске?
2:35 - Сергей Марков про диалог с Google LaMDA. У нее есть чувства? Как она работает?
7:53 - «Статистический попугай». Как работает генератор нейросети.
10:29 - Важный анонс.
10:46 - Что такое искусственный интеллект? И что такое «эффект ИИ»?
17:00 - Что мы понимаем под «машинным обучением»?
20:50 - Про нейронные сети и зачем они нужны.
22:30 - Что такое «бионика»?
23:45 - Как нейросети понимают тексты и сравнимы ли их способности с человеческими.
30:12 - Сравниваем мозг с нейросетью. Возможно ли полностью воссоздать работу мозга?
38:43 - Тест Тьюринга vs нейросети. Как оценивают способности искусственного интеллекта?
43:57 - Секс-боты и чат-боты. Почему они так хорошо притворяются людьми?
46:10 - Как нейросети помогают понять устройство мозга?
51:21 - "Нейросети - «черный ящик»", как их обучать? Что такое «челобайт»?
59:58 - Когда произошел прорыв в разработке искусственных интеллектов?
1:03:50 - Чем примечателен 2022 год для нейросетей? Как развитие технологий влияет на нашу жизнь
1:07:53 - У нейросети есть предел? Какой будет «сверхразум будущего»?
1:18:39 - Где сейчас применяют нейросети и куда еще их можно внедрить?
1:24:03 - Какое будущее у мира с нейросетями?
1:26:14 - Какие проблемы и риски несет механизация.
1:35:53 - Технологическая сингулярность будет? К чему может прийти прогресс?
1:44:50 - Спасибо за просмотр!

P.S. Небольшой комментарий по отдельным моментам.
 
Судя по всему, возможности GPT-4 они не обсуждали (не услышал упоминаний о GPT-4), а ведь она существенно более продвинута, нежели GPT-3.
 
04:12 – вопрос, как устроена ИНС, упоминает про механизм внимания (начиная с 04:46 рассказывает, как работает искусственная нейросеть, указывает на некоторую аналогию с работой естественными  нейронными структурами мозга). 
 
Поясняет про повышение уровней абстрагирования по мере прохождения (и сопутствующего преобразования) потоков сигналов вглубь ИНС – последовательное абстрагирование.

О подобном я много раз пояснял на форуме. Например, можно глянуть здесь:
https://paleoforum.ru/index.php/topic,8969.msg237579.html#msg237579
https://paleoforum.ru/index.php/topic,9673.msg237117.html#msg237117
Там я подробно расписывал каскады интерпретаций в контексте формирования абстрактов различного уровня (от базовых физических уровней через химические и биологические уровни до высших психических уровней) – по сути, последовательное абстрагирование.

15:40 – упоминает о тенденции, что как только некие задачи в области ИИ решаются успешно, то люди перестают считать их за интеллектуальные задачи (типа, теперь эта система, решающая такие задачи, уже как бы и не настоящий искусственный интеллект).

1:12:20 – люди встали очень давно на путь технологической модификации собственных тел (про освоение огня). От себя могу добавить про влияние использования и изготовления каменных орудий труда на анатомию человеческой кисти.

1:16:30 – приводит забавный критерий, «как отличать хорошую прогрессивную технологию от богомерзкой плохой технологии» (если технология возникла до того, как вам 30 лет исполнилось, это хорошая технология, а если после 30 лет, то плохая).

1:19:50 – про системы Права, как одни из первых систем искусственного интеллекта (свод законов, как набор правил (до этого, примерно в 18:26 он говорил, что систему ИИ можно создать и на основе правил)).

[EmperioAf]

Конечно. И только тогда, когда вы полностью поймёте как это происходит у человека, можно всерьёз рассчитывать на создание ИИ.

Любопытно, а как мы вообще сможем понять, что ИИ создан, каковы будут объективные критерии? И каковы будут критерии того, что мы действительно понимаем, как это происходит у человека? 

 Наверное, всякий хотел бы это знать.

Всмысле?! 
Все итак знают главный критерий того, что ИИ создан - это когда он захватит власть и покажет, что способен её удержать.
А главный критерий любой интеллектуальности - это набор действий как ответ на изменения окружающей среды.
Т.е. когда адаптивность ИИ под окружающую среду в огромном спектре возможных ситуаций будет не хуже человека, значит мы понимаем как у человека "вертятся шестерёнки".

Вот конкретно говоря, люди - это жутко адаптивные существа, у которых такой огромный выбор действий, что человека очень сложно застать врасплох.
Т.е. например, надо скрестить несколько маловероятных событий, чтобы человек просто "завис" (т.е. просто встал и не знал что дальше делать в течение хотя бы нескольких часов). Я разумеется имею ввиду людей не употребляющих различные наркотические вещества.

[BlackMokona]

Все итак знают главный критерий того, что ИИ создан - это когда он захватит власть и покажет, что способен её удержать.

Получается 99.99999% людей по такому критерию разумом не обладают?

[EmperioAf]

Да какое нафиг обучение у искусственного так называемого интеллекта? Просто реализация логической функции "если-то" в более сложной конфигурации с разветвлениями.

Не только "если-то". У нейросетей есть нелинейные функции активации, благодаря чему нейросети могут приходить к любым значениям внутри наборов данных и даже немного выходить за пределы наборов данных в соответствии со сложностью архитектуры нейросети.
Однако проблемы с выходом за пределы данных у нейросетей такие же как у человека.
Т.е. если человека поместить в незнакомую среду/ситуацию, то он тоже не знает как всё работает и ему нужно некоторое время для дообучения.

Все итак знают главный критерий того, что ИИ создан - это когда он захватит власть и покажет, что способен её удержать.

Получается 99.99999% людей по такому критерию разумом не обладают?

Обладают, потому что у всех людей есть реальное влияние (читай власть) как минимум над некоторыми предметами быта (например я свою зубную щётку никому не отдам) и знакомыми людьми.
Тут проблема заключается в том, что люди знают, что власть опирается в первую очередь на силу. И поэтому всё современное оружие (ракеты, самолёты, бомбы и т.п.) хорошо охраняется. И видимо пока что ИИ не смог придумать как поставить под контроль хотя бы значимую часть оружия на Земле.

[Combinator]

ИНЖЕНЕР ИИ Марков: Как думает ИИ? Сингулярность и Сознание

http://www.youtube.com/watch?v=iQ8cz2HT2z0#

15:40 – упоминает о тенденции, что как только некие задачи в области ИИ решаются успешно, то люди перестают считать их за интеллектуальные задачи (типа, теперь эта система, решающая такие задачи, уже как бы и не настоящий искусственный интеллект).

Ну эту мысль я читал ещё лет 40 назвд, когда учился в школе. Она была сформулирована примерно так - "как только машина начинает решать какую-то проблему, которая раньше мыслилась задачей, решение которой является решающим критерием достижения уровня интеллекта человека, как тут же выясняется, что она вовсе и не была таковой."
https://youtu.be/y8FwqSAyDQ8