Пределы автоматизации и внедрения роботов

[MenFrame]

Отличается хотябы тем что текст не существует в мозге. Вообще никак.

Текст он только в мозге и существует, как и вся прочая субъективная реальность.

Попробуйте что-нибудь понять находясь в бессознательном состоянии.

Приведу пример....как то собирал клюкву на болоте, увидел кочку просто усыпанную крупными ягодами. Уже потянул руки чтобы собирать... Далее мой организм совершенно безсознательно отошел от кочки на метр, и только тогда я увидел что на кочке лежит змея. Мое сознание было настолько сконцентрировано на ягодах что змеи я просто не заметил. А мое бессознательное прекрасно все понимало и правильно отреагировало. Так что в чуйке, интуиции, бессознательном понимание прекрасно работает...
Я уже молчу про опыты с расщепленном мозгом, там доказательной базы про понимание в обход сознания вообще полно.

[Olweg]

Векторы?  И вообще, это он про механику познания пытается рассказать в трех вариантах.
Когда он говорит это похоже на цитата "символические манипуляции с вещами, которые похожи на цепочки языковых символов"
Прям по фрейду. Манипуляции, одним словом. Сам не в курсе, но ведь похоже и никто не проверит.

А что не так с векторами? Почему в человеческом мозгу так не может работать? Причём семантическое пространство, пространство смыслов можно построить не только из слов, но и, например, из картинок. Объекты той или иной категории будут располагаться в нём в одной области.

Кстати, тут прочитал, что достаточно большие модели вполне умеют обучаться с одного раза. Это так называемое обучение без примера, zero-shot learning (есть ещё one-shot и few-shot learning, с одной или несколькими подсказками). Хорошо предобученная сеть уже «понимает», в какие категории попадают объекты на картинке, а если дать подсказку, запомнит название этих объектов.

Жёстко связанные у человека.

У рыбок тоже.

Да, я поначалу хотел написать «и у животных», но решил не отвлекаться от главного. Согласен, в основе мышление невербально, но у человека всё-таки речь оказывает на мышление сильное воздействие, поэтому у людей всё не так однозначно.

[Сергей Н]

А что не так с векторами? Почему в человеческом мозгу так не может работать? Причём семантическое пространство, пространство смыслов можно построить не только из слов, но и, например, из картинок. Объекты той или иной категории будут располагаться в нём в одной области.

Математические модели пытаются применять для моделирования предмета или процесса, когда имеются достоверные данные об этом предмете или процессе. Тогда, более менее понятно, какие именно вектора и характеристики пространства брать за основу. Лингвистика это одно, в ней есть и семантика и другие области. Реальные нейросети это совсем про другое.

Кстати, тут прочитал, что достаточно большие модели вполне умеют обучаться с одного раза. Это так называемое обучение без примера, zero-shot learning (есть ещё one-shot и few-shot learning, с одной или несколькими подсказками). Хорошо предобученная сеть уже «понимает», в какие категории попадают объекты на картинке, а если дать подсказку, запомнит название этих объектов.

А что разве могло быть по другому? У них там наверняка суперкомп из видеокарт, где в каждой сотни миллиардов транзисторов. В чем достижение то?

Согласен, в основе мышление невербально, но у человека всё-таки речь оказывает на мышление сильное воздействие, поэтому у людей всё не так однозначно.

Про сознание говорили. Медицинский темин если что. У рыбки примитивная обработка входящих сигналов. Это значит, что она мало информации из них извлекает. Но например, себя она может узнать по изображению. Вообще, что касается касается простейшей самоидентификации у нервных систем это обязательное явление. Примерно как способность отличать съедобное от несъедобного. Если любая искусственная система не может даже этого, значит слово интеллект в её названии лишнее.

[Сергей Н]

Текст он только в мозге и существует, как и вся прочая субъективная реальность.

Текст на бумаге не существует, серезно? А где он в мозге?

[Сергей Н]

Приведу пример....как то собирал клюкву на болоте, увидел кочку просто усыпанную крупными ягодами. Уже потянул руки чтобы собирать... Далее мой организм совершенно безсознательно отошел от кочки на метр, и только тогда я увидел что на кочке лежит змея. Мое сознание было настолько сконцентрировано на ягодах что змеи я просто не заметил. А мое бессознательное прекрасно все понимало и правильно отреагировало. Так что в чуйке, интуиции, бессознательном понимание прекрасно работает...
Я уже молчу про опыты с расщепленном мозгом, там доказательной базы про понимание в обход сознания вообще полно.

Вы были в сознании и все видели. Остальное не важно.

[Maki]

Так что в чуйке, интуиции, бессознательном понимание

Полагаю, вы как раз привели пример безусловного, бессознательного рефлекса (которых у нас, в отличие от инстинктов), хоть отбавляй. Ваше жёлтое пятно в глазу увидело клюкву и доложило вашему сознанию. А остальная часть сетчатки заметила змею, и сработал древний рефлекс.
Так же вы сперва отдёргиваете руку, коснувшись горячей сковородки, и только потом осознаёте, что надо было одеть кухонную рукавицу. 

[ivanij]

Текст он только в мозге и существует, как и вся прочая субъективная реальность.

Текст как раз объективная реальность!

[Olweg]

Лингвистика это одно, в ней есть и семантика и другие области. Реальные нейросети это совсем про другое.

Почему? Может быть, бесплодные попытки создать нормальную программу-переводчик в прошлом веке обычным, "символьным" подходом как раз и объясняются тем, что у семантики и понимания смысла текста гораздо более глубокие корни, связанные с нейросетями в мозге?

А что разве могло быть по другому?

Конечно, могло. В развитии LLM проявляется эмерджентность, которую заранее сложно предсказать.

В чем достижение то?

В том, что не нужно больше дообучать под каждый новый случай. Сеть быстро усваивает новое на основе уже выученного.

Про сознание говорили. Медицинский темин если что. У рыбки примитивная обработка входящих сигналов. Это значит, что она мало информации из них извлекает. Но например, себя она может узнать по изображению.

Речь не шла про сознание. Сознание обсуждаем в соседней теме.

Если любая искусственная система не может даже этого, значит слово интеллект в её названии лишнее.

Языковые модели прекрасно себя самоидентифицируют. Что вовсе не говорит о наличии у них сознания. Впрочем, это уже оффтоп. Я имел в виду совсем другое - мышление появляется до языка, и речь пытается символьно передать значение нейронных паттернов в мозгу, которые изначально с языком вообще никак не были связаны, что порождает определённые трудности (мысль изречённая есть ложь).

[vika vorobyeva]

Текст как раз объективная реальность!

Прошу прощения, но нет.
Объективная реальность – это плоские листы целлюлозы, на которых нанесены черные пятнышки сложной формы. То, что это именно ТЕКСТ – это в мозге, а не в реальности.

[Maki]

Объективная реальность – это плоские листы целлюлозы, на которых нанесены черные пятнышки сложной формы.

Попробуйте посадить обезьяну за пишущую машинку, и она вам произведёт именно такую "объективную реальность". Это будет "текст"?

[Rattus]

Это будет "текст"?

Зависит от интерпретатора.

[Maki]

Зависит от интерпретатора.

И как можно интерпретировать бессмысленный набор печатных знаков? По нему даже не угадать саму обезьяну. Почему не олигофрен или малыш? Ну разве что можно догадаться о разумности того, кто целенаправленно вставил в машинку лист бумаги...
ИМХО, но, например, гены - это безусловно "текст". А "мусорная ДНК" - вряд ли.

[vika vorobyeva]

Объективная реальность – это плоские листы целлюлозы, на которых нанесены черные пятнышки сложной формы.

Попробуйте посадить обезьяну за пишущую машинку, и она вам произведёт именно такую "объективную реальность". Это будет "текст"?

Не поняла вопроса.
С точки зрения объективной реальности текст, настуканный обезьяной, и текст, например, Л.Н.Толстого ничем отличаться не будут. Точнее, слегка будут отличаться формой пятнышек типографской краски. На мой взгляд, это очевидно.
Увидит ли кто нибудь сообщение в тексте, настуканном обезьяной – вопрос к читателю. Может, это текст на другом языке. Может, это зашифрованный текст, где символы только выглядят случайными. Знаете, что такое одноразовый шифроблокнот? С учетом этого, наличие осмысленного содержания в случайном наборе символов принципиально невыявляемо.

[Maki]

С точки зрения объективной реальности текст, настуканный обезьяной, и текст, например, Л.Н.Толстого ничем отличаться не будут. Точнее, слегка будут отличаться формой пятнышек типографской краски. На мой взгляд, это очевидно.

Не очевидно. Это будет именно набор пятнышек, и не более того. Это текст: "яжыдвлмяжчсдмлвюаждмловам"?

С учетом этого, наличие осмысленного содержания в случайном наборе символов принципиально невыявляемо.

В случайном наборе - нет. В осмысленном - содержание понятно, как минимум автору текста. Ну и тому, кому он адресован. А если некий, условный "Тьюринг" не может эту мнимую абракадабру взломать - то это его проблемы. А является ли смысл, содержащийся в тексте, реальностью объективной или субъективной - это уже вопрос философский.

[vika vorobyeva]

Добавьте в число возможных символов пробел. И будет "яж ыдвлм яжчсдм лвюаждмло вам", например. И чем это отличается от осмысленной фразы? Объективно.

[Maki]

Можно. Знаки препинания тоже полезны. Но и без них можно. Даже без букв - картинками. Кнорозов и кошка Майя не дадут соврать... )

И будет "яж ыдвлм яжчсдм лвюаждмло вам", например. И чем это отличается от осмысленной фразы? Объективно.

Отсутствием информации?

[Rattus]

И как можно интерпретировать бессмысленный набор печатных знаков?

C чьей точки зрения бессмысленный? Всегда может существовать язык или алгоритм, который из ЛЮБОЙ, но конкретной конечной последовательности символов сможет извлечь какой-либо смысл.
Вы с принципом работы программ-архиваторов знакомы? Ну так познакомьтесь.

ИМХО, но, например, гены - это безусловно "текст". А "мусорная ДНК" - вряд ли.

Вот только 4/5 этой junk DNA таки считывается РНК-полимеразой. т.е. экспрссируется. Да - это главным образом эгоистические элементы или поломанные последовательности, но раз клетка их читает - значит для неё это однозначно не бессмысленно. Другое дело, что неадаптивно в данном конкретном поколении - но речь же о смысле, а не о пользе - иначе и "Война и Мир" - бессмыслица. ибо не содержит никаких конкретных технических описаний каких-либо полезных изделий или полезных алгоритмов хозяйственной деятельности.

[troglodit888]

Объективная реальность – это плоские листы целлюлозы, на которых нанесены черные пятнышки сложной формы.

Если речь идёт о некой модели мира с точки зрения физики - там нет даже этого. Пятнышки в воображении.

Более того, что что там листы есть - это вообще очень приблизительная экстраполяция каких то законов. Которые могут интерпретироваться совершенно иначе, по мере развития науки. Если речь о объективной реальности.

[Maki]

Всегда может существовать язык или алгоритм

Ну да. Именно язык и алгоритм, несущий в себе информацию. В хаотическом наборе символов её нет. Есть разница?

Вот только 4/5 этой junkDNA таки считывается РНК-полимеразой. т.е. экспрссируется. Да - это главным образом эгоистические элементы или поломанные последовательности, но раз клетка их читает - значит для неё это однозначно не бессмысленно.

Точно так же и вам приходится читать 4/5 абсолютно бессмысленных сообщений этого форума. Но ведь ахинея не создаёт ни знаний, ни, даже, положительных эмоций?

[vika vorobyeva]

Отсутствием информации?

Это для вас там нет информации. А для меня, получателя информации, там зашифровано сообщение "вечером отдай папку с документами Васе". Или это координаты передатчика на языке глизейских хомяков.
Нет никакого способа отличить хаотический набор символов без информации от хаотического (казалось бы) набора символов с зашифрованной информацией.

Рассказ Борхеса "Вавилонская библиотека" прочитайте, там много о случайных символах и их смысле.