Пределы автоматизации и внедрения роботов

[Vavanzer]

 

Цитата: Vavanzer от Сегодня в 12:14:55
Т.е самого интеллектуального алгоритма, работающего как сознание.
А что если сознание вообще не агоритмизируемо?

Как вариант!
 Но судя по всему, какие то алгоритмы есть. Потому что есть структура, обособление обьектов и образов в памяти. Т.е все в кашу не смешано, и работает не хаотично, а как некая стройная структурированая система.
 Т.е каждый раз просыпаясь, глянув вокруг,  мы снова понимаем где мы находимся, что там дальше хотели делать, помним что такое стул и стол, чем отличается стул от табуретки, и в чем их сходство)))
  Т.е какая то стройная упорядоченая струетура и архитектура все таки имеется. Да еще и устойчивая, сохраняющаяся во времени, и способная к изменению, доработке, усложнению с последующим упрощением!

 Кстати, удивительная функция - обобщение! Это когда не абсолютно идентичные и даже очень разные с точки зрения линейных внешних параметров предметы и явления воспринимаются как одно, общее, которому соответствует какое то слово!)
 А еще более удивительное - способность выявлять закономерности и логические связи, последовательности. Это уже в динамике происходит! При том что такая функция доступна еще и "потпамяти", когда мы можем включить так сказать "запись" и проиграть событие неоднократно в обьеме своей памяти, и там что то выявлять еще при этом!

 У компьютера же по ходу дела как раз таки каша происходит, и очень слабый алгоритм идентификации, примитивнейший блок выбора данных)))  Хоть Миллиарды терабайт в него загрузи, хоть все картинки имеющихся в мире стульев и всего остального, он все равно будет такой же "тупой", тк в нем нет "понимания" сути обьектов и явлений)) 

[Rattus]

в ответ мне пытались доказать, что "один объект с разных сторон = миллион разных объектов", что очевидно не так.

"Очевидно" - самое беспомощное слово в науке. С точки зрения простого количества информации очевидно, что небольшой видеоролик, где с разных сторон изображён некий объект, во столько раз больше отдельной его фотографии, сколько в нём есть отдельных кадров. И? Какая очевидность очевиднее?

А что если сознание вообще не агоритмизируемо?

Некоторые последние данные намекают на то, что таки алгоритмизуемо.

[AlexDark]

С точки зрения простого количества информации

А с точки зрения количества объектов - один объект - это один объект.

[Rattus]

А с точки зрения количества объектов - один объект - это один объект.

Притча о пяти-шести слепых, ощупывающих одного слона, видимо, прошла мимо ВАс.

[AlexDark]

Можно снять видео хоть на 1000 часов, на котором со всех ракурсов заснят квадратный черный стол на 4 прямых ножках. Только комп из этого видео никак не получит инфу о том, что столы бывают круглые, прямоугольные и прочих форм, на 3 или 1 ножке, или что их может вообще не быть (крепится к стене), что ножки могут быть изогнутыми, плоскими, что все это может быть разных цветов и тд и тп. и и тд и тп. А человек запросто может опознать стол такой конструкции, которую до этого он не встречал.

[Vavanzer]

А с точки зрения количества объектов - один объект - это один объект.

Притча о пяти-шести слепых, ощупывающих одного слона, видимо, прошла мимо ВАс.

Это кстати и есть алгоритм хваленого ИИ!)) Только там не 6 слепых, а сразу 1000-чи))

 

Можно снять видео хоть на 1000 часов, на котором со всех ракурсов заснят квадратный черный стол на 4 прямых ножках. Только комп из этого видео никак не получит инфу о том, что столы бывают круглые, прямоугольные и прочих форм, на 3 или 1 ножке, или что их может вообще не быть (крепится к стене), что ножки могут быть изогнутыми, плоскими, что все это может быть разных цветов и тд и тп. и и тд и тп. А человек запросто может опознать стол такой конструкции, которую до этого он не встречал.

  Вот именно! Потому что совершенно другой алгоритм распознавания! Не требующий огромных вычислительных мощностей, потоков информации, гигаватищ энергии и терабайтищ долговременной памяти только ради одного вида обьектов))) 

 В общем, они идут тупиковым путем! И дальшейшее увеличение мощности ничего не даст.
  Скорее всего, там даже не сколько програмный уровень нужно менять, сколько аппаратный! Отдельную архитектуру блоков распознания реальности делать. И достаточно будет одного ЦП с соответствующим набором инструкций, чтобы даже самые сложные алгоритмы распознавания и отсева лишнего успешно работали. Может быть даже, не ЦП, а ГП, скорее всего, чтобы работать с 3д моделями и цветами.

[Vavanzer]

Только комп из этого видео никак не получит инфу о том, что столы бывают круглые, прямоугольные и прочих форм, на 3 или 1 ножке, или что их может вообще не быть

  Кстати да. У человека тоже есть эта составляющая, но она сведена к минимуму. Потому что алгоритм обработки действует методом отсечения и даже не рассматривает несуществующие комбинации. Т.е путь наименьшего сопротивления. Оно же и в языках. Когда мы изучаем язык какой то, мы изучаем только годные комбинации и правила, по которым строятся предложения и идет словообразование. И лишь некоторые исключительные случаи особые запоминаем, которые не подчиняются основным правилам. В тч и особенность написания слов или смысл словосочетаний, не соответствующий буквальному смыслу.
 Но, мы понимаем, и помним, что у словосочетания есть 2 смысла. И знаем ограниченность применения этого смысла.
  Когда например, говорим "собаку сьел" в этом деле, это означает огромный опыт у человека в том деле. А когда говорим "медведь сьел собаку", то тут уже буквально надо понимать, то что одно животное сожрало другое. Если конечно "медведь" - это не погоняло у какого то человека! Тогда третий вариант смысла будет, "человек по прозвищу "медведь" имеет большой опыт в данном деле"... Мы поймем это если к примеру зацепку оставить, написать прозвище с большой буквы, и до этого где то упомянуть, что у чувака такое "погоняло" в его компании)))

 Для компьютера это архисложно, выбрать из 3х вариантов смысл словосочетания "сьел собаку". А для человека, даже у разгильдяя - обычное дело, распознавать всякие такие "образы")))

[Vavanzer]

 Вот кстати. Гребаная клавиатура смартфонов. Сколь бы я ее не учил, она все равно не в состоянии исправить слова и опечатки, во всех случаях, когда изза неправильной буквы получается слово, которого не существует в природе! Хотя словари и базы данных слов и словосочетаний имеются еще с докомпьютерных времен, и все это 1000 раз оцифровано и разобрано на нули и единицы))) 
  Более того, она может исправлять слова нормально написанные на другие, и получать смысл и их применение вне контекста того что пишу)) И это просто ужас!) Хотя всего то надо в большинстве случаев исправлять или убирать буквы, которые случайно получились изза того что пальцем попадаешь на соседнюю.

 Зато, какой прекрасный алгоритм исправления ошибок различных в Ворде! Не то что укажет на ошибку, красным цветом, даже же не очень правильно составленное длинное предложение предложит привести в соответствие с нормами языка, отметит зеленым!  И эта штука работает уже лет 20+ ! 
 У Ворда нет мышления, но зато заложен полный набор правильных алгоритмов и правил для имеющихся в нем языков!

[BlackMokona]

Можно снять видео хоть на 1000 часов, на котором со всех ракурсов заснят квадратный черный стол на 4 прямых ножках. Только комп из этого видео никак не получит инфу о том, что столы бывают круглые, прямоугольные и прочих форм, на 3 или 1 ножке, или что их может вообще не быть (крепится к стене), что ножки могут быть изогнутыми, плоскими, что все это может быть разных цветов и тд и тп. и и тд и тп. А человек запросто может опознать стол такой конструкции, которую до этого он не встречал.

Если только видел очень много разных столов, от чего смог создать образ стола в своём мозгу, на который можно натянуть новый найденный стол. Иначе так же распознать стол не сможет. 

[Серый Страж]

Что естественные нейросети (ЕНС), что искусственные нейросети (ИНС) учатся распознавать/узнавать объект по изображениям этого объекта. А двумерное изображение на сетчатке глаза (ЕНС) либо на матрице (ИНС), в зависимости от угла зрения, расстояния, освещённости и т.д., получается разным (зачастую – очень разным). То есть, на сетчатке (на матрице) будет  отображаться куча разных картинок, которые являются разными изображениями одного и того же объекта.

Поэтому, задача распознавания/узнавания объекта сводится к выявлению того общего, что присутствует в данной выборке изображений на каждом изображении этого объекта. По сути, в такой задаче необходимо выделить/выявить абстракт этого объекта – некий достаточно обобщённый образ данного объекта.

Вообще, функция абстрагирования как раз и заключается в выделении/выявлении чего-то (черт, признаков, соотношений параметров и т.д.) общего, присущего всем объектам из данного множества – то есть, создание обобщённого абстрактного образа.

Кстати, распознаёт/узнаёт обученная нейросеть (хоть ЕНС, хоть ИНС) в каждом изображении именно абстракт.

И возвращаясь к столам. Если в выборке будет много изображений разных столов, то и абстракт будет ещё более обобщённым, а в остальном всё аналогично, что и с изображениями одного стола. Понятно, что если нейросеть обучалась только на выборке из изображений одного стола, то она не сможет распознать/узнать любой стол (у неё нет такого обобщённого абстракта стола), а только тот стол, на изображениях которого она обучалась (зато, если была достаточно полная выборка, с любого ракурса и при любом освещении).

[Polnoch Ксю]

Нужен - если нам надо чтобы тотальное заражение завершилось не сильно позже проявления заболевания у первых инфицированных и включения карантинных мер. Google Market -> Plague, Inc. Через пару часов игры, рекомендованной ведущими эпидемиологами, все подобные вопросы отпадут сами собой.

С этой игрой проблема, что она не моделирует линейджи и их эволюцию - мутации сразу ко всем патогенам применяются

Но далеко не абсолютно. Осёл вполне способен выжить и размножиться и в дикой природе.

Сравните биомассу домашних животных и диких одних и тех же размеров

Самый интересный вопрос тут: а как именно, по какому критерию вы решите, что эта проблема таки действительно решена, а не заметена под ковёр во всех видимых местах?
То есть каков для данного понятия критерий Поппера?

Я ожидаю математического доказательства: https://en.wikipedia.org/wiki/Correctness_(computer_science)
Интуиция в CS говорит мне, что это будет вероятностное доказательство, в силу самой вероятностной природы нейронок (в том числе тех, что у нас в голове). Если вероятность мизалаймента при постоянной работе в течение миллиона лет будет какие-нибудь 10^-30 степени, я думаю, человечество это устроит. А может даже и большая, худшая вероятность. Нам будут нужны математические модели и понимание как это работает при масштабировании интеллекта (например, при увеличении количества параметров модели - скажем, вместо 100 миллиардов если будет 10000 тысяч миллиардов, если мизалаймент не возникнет, и вероятность его не вырастет, значит всё хорошо?)

В случае же ИИ вы лучше многих понимаете, что это - просто софт, который крутится на тензорных ядрах массовопараллельных вычислителей, который снаружи никак не отличим от какого-то физического моделирования или, там, майнинга криптовалют. И при этом Вы же веруете, что законы прогрессивного экспоненциального масштабирования типа муровской динамики в отрасли продолжают во всю действовать. Потому вы не можете отвергнуть идею, что ASI может быть реализован в масштабе пары серверных стоек в любом неприметном подвале. Ядерную бомбу же в подвале из пары мешков битого уранового стекла, закупленного некогда на ebay, не собрать никак.

У нас есть закон, похожий на муровский(по экспоненте растёт способность автономных агентов выполнять 50% задач, которые у человека занимают заданное время - именно оно по оси ординат. По оси абцисс другое время - календарное, с датами релиза моделей ), но в нём пока нет ничего про энергоэффективность. Можно обычно дистиллировать модель с большим числом параметров на модель с меньшим числом, и обычно полученная модель умнее, чем если бы сразу обучалась на данных, на которых обучали большую модель. Скорее всего, в будущем появятся компактные ASI, но в этот момент, если бы человечество пошло по предложенному мной пути, ASI бы придумал как мониторить такое. Нам главное сделать так, чтобы первая сверхинтеллектуальная машина имела элаймент к нам. А дальше она о нас уже позаботится - это её работа будет думать.

Это весьма похвально, что вы даёте здесь объяснения специальным терминам, но надо было сделать это сразу, а чтобы люди не забыли.

Но как я могу узнать, кто из участников термины знает какой-то термин, а какой нет? Я же не могу влезть в голову человеку и тем более не могу угадать, что он знает, и что нет. У всех разный образовательный уровень. Кто-то работает в индустрии, кто-то читает и слушает научпоп, а кто-то и компьютером пользоваться не может, и пишет всё с планшета. 

Вот откуда мне знать, например, в курсе ли человек, что такое ось ординат, которую я употребила в этом сообщении? А другие слова? А вдруг человек алгебру даже в школе прогулял, или всё забыл?

[Polnoch Ксю]

  Кто-то из великих учёных (Макс Планк, Эйнштейн, Дирак?) заметил как-то, что если учёный не в состоянии популярно объяснить свою теорию без формул, сам плохо её понимает.

Это Фейнман сказал. Проблема тут в том, что применимо такое только когда аудитория примерно одинаковая. Под собеседника всегда можно подстроится, когда он скажет, что ему не понятно. Если я что-то не понимаю, обычно так и пишу, и прошу собеседника уточнить.

[Ulkolainen]

Если конечно "медведь" - это не погоняло у какого то человека! Тогда третий вариант смысла будет, "человек по прозвищу "медведь" имеет большой опыт в данном деле"... Мы поймем это если к примеру зацепку оставить, написать прозвище с большой буквы, и до этого где то упомянуть, что у чувака такое "погоняло" в его компании)))

А если у человека про прозвищу Медведь настоящее ФИО Пак Сон Чой, то смысл начинает играть еще более новыми красками, вплоть до "съел собаку в поедании собак". Только к чему всё это?

 Для компьютера это архисложно, выбрать из 3х вариантов смысл словосочетания "сьел собаку". А для человека, даже у разгильдяя - обычное дело, распознавать всякие такие "образы")))

Для человека тоже. Точная передача идиом, когда им нет прямого соответствия в принимающем языке, это высший пилотаж переводчиков.
Напр., немецкие "помидоры на глазах" совсем не то же, что наше "фонарь под глазом", "бельмо в глазу" или "глаза по полтиннику", как могло бы интуитивно казаться.

[BlackMokona]

Вспомнилось

Олег Дорман рассказывал:

Я был учеником Семена Львовича Лунгина. Однажды мы сидели на кухне у него дома и писали сценарий. В это время зашла его жена - Лилиана Лунгина, та которая перевела со шведского Малыша и Карлсона и которая корпела над очередным переводом в комнате.

- Мальчики, - огорченно сказала она, - у меня там герой идет по аэропорту и держит в руке гамбургер. Я не знаю, что это такое.
- Похоже на макинтош, - сказал Лунгин, - плащ наверное какой-то.
- Хорошо, - обрадовалась Лилиана, - напишу, что он перекинул его через руку.

Через несколько минут она снова вернулась и убитым голосом сообщила:
- Он его съел.

[Olweg]

Суцкевер в недавнешнем интервью сказал, что человек генерализует гораздо лучше ЛЛМок. Приводит в пример подростков, которым нужно, условно, часов десять, чтобы научиться водить машину. Что-то такое есть в человеческих мозгах, что позволяет очень быстро обобщать, то ли эволюционные оптимизации, то ли хорошо прописанные функции ценности (эмоции?), то ли в принципе сам алгоритм работы принципиально другой. Проблема, что никто до сих пор не знает, что делает человек, когда он думает.

[MenFrame]

А человек запросто может опознать стол такой конструкции, которую до этого он не встречал.

Стол в итоге человек распознает как некую плоскую горизонтальную поверхность на которой можно делать определенные операции. Потому стол распознается не сам по себе а в комплексе с самим человеком, на предмет его удобства в выполнении каких либо функций. Потому конечно одних фотографий, недостаточно для распознания. Нужен именно осмысленный телесный опыт взаимодействия с реальностью.

[Metatron]

Приводит в пример подростков, которым нужно, условно, часов десять, чтобы научиться водить машину.

А почему этот алгоритм работает гораздо хуже когда человеку надо научиться ходить? Там не десять часов а десять месяцев.

Этот алогоритм разрабатывается ребенком самостоятельно? Или пробуждается только в определенном возрасте?

Почему подростки попав в другую страну начинают бегло говорить на чужом языке через несколько месяцев,
а люди за 40 - и через несколько лет говорят с трудом. - тоже разные алгоритмы?

[Ulkolainen]

Потому стол распознается не сам по себе а в комплексе с самим человеком, на предмет его удобства в выполнении каких либо функций. Потому конечно одних фотографий, недостаточно для распознания. Нужен именно осмысленный телесный опыт взаимодействия с реальностью.

Почти сто лет смотрят, щупают, а предназначение распознать не могут.

[Polnoch Ксю]

Суцкевер в недавнешнем интервью сказал, что человек генерализует гораздо лучше ЛЛМок. Приводит в пример подростков, которым нужно, условно, часов десять, чтобы научиться водить машину. Что-то такое есть в человеческих мозгах, что позволяет очень быстро обобщать, то ли эволюционные оптимизации, то ли хорошо прописанные функции ценности (эмоции?), то ли в принципе сам алгоритм работы принципиально другой. Проблема, что никто до сих пор не знает, что делает человек, когда он думает.

Ну конечно LLMки очень ограничены, нужна архитектурная работа, изобретение новых, лучших видов нейронок. Другое дело, смотрите: у современных SOTA(ссылка для @ivanij , остальные я думаю знают о чём речь) нейронок сотни миллиардов параметров, а в мозге свыше ста триллионов связей между нейронами. При этом нейроны сильно сложнее тех, что в нейронках.

Тем более удивительно, что нейронки могут хоть что-то! Я думаю, дело в том, что в нашем языке уже упаковано очень много информации - он помогает и людям и нейронкам ускорять мышление, но нейронкам особенно помогает - у нас мозг эволюционно сконструирован мыслить без языка. И языковые оптимизации очень поздние, они куда моложе неокортекса.

Плюс ещё мы это по LLM знаем: если взять обучающий размеченный массив для LLM, и обучить на нём модель скажем с 10 миллиардами параметров, и отдельно со сто миллиардами и если их сравнить, то стомиллиардная окажется ощутимо лучше. Но если взять 10 миллиардную и дистилировать на неё обученную 100 миллиардную, то первая десятимиллиардная будет хуже новой 10 миллиардной(хотя вторая всё ещё хуже 100 миллиардной).

В LLM информация видимо упакована плотнее и оптимальнее, чем в нашей голове.

[ivanij]

  Кто-то из великих учёных (Макс Планк, Эйнштейн, Дирак?) заметил как-то, что если учёный не в состоянии популярно объяснить свою теорию без формул, сам плохо её понимает.

Это Фейнман сказал. Проблема тут в том, что применимо такое только когда аудитория примерно одинаковая. Под собеседника всегда можно подстроится, когда он скажет, что ему не понятно. Если я что-то не понимаю, обычно так и пишу, и прошу собеседника уточнить.

 Это для любой аудитории применимо.