Пределы автоматизации и внедрения роботов

[Maki]

Нет никакого способа отличить хаотический набор символов без информации от хаотического (казалось бы) набора символов с зашифрованной информацией.

А умение читать и расшифровывать текст (которое есть, как минимум, у автора текста) - это что,  не способ?

Рассказ Борхеса "Вавилонская библиотека"

Так вы меня отсылаете к осмысленному авторскому тексту, а не к абракадабре?

[vika vorobyeva]

Нет никакого способа отличить хаотический набор символов без информации от хаотического (казалось бы) набора символов с зашифрованной информацией.

А умение читать и расшифровывать текст (которое есть, как минимум, у автора текста) - это что,  не способ?

У вас нет ни автора, ни получателя. У вас есть только набор символов. И нет способа узнать, есть ли в этом наборе символов информация или ее нет. Текст от случайного набора символов отличается в точке отправления или в точке приема (у Автора или Получателя), но не посередине. Посередине и то, и другое является последовательностью символов и ничем больше.

Так вы меня отсылаете к осмысленному авторскому тексту, а не к абракадабре?

А вы все-таки прочитайте, он короткий. Там как раз про абракадабру и ее смыслы.

[Maki]

Посередине и то, и другое является последовательностью символов и ничем больше.

Кнорозов и его усато-полосатый соавтор с вами бы поспорили. Тьюринг же просто бы разулыбался.
Понятие "дешифровка" вам ведь знакомо?

А вы все-таки прочитайте, он короткий. Там как раз про абракадабру и ее смыслы.

Спасибо, всенепременно, но вечерком и с пивком.)

[Сергей Н]

Почему? Может быть, бесплодные попытки создать нормальную программу-переводчик в прошлом веке обычным, "символьным" подходом как раз и объясняются тем, что у семантики и понимания смысла текста гораздо более глубокие корни, связанные с нейросетями в мозге?

Ну потому это продукт работы человека. В основном мозга. Но это не значит, что оно имеет с устройством мозга что-то общее. Мозг синтезирует это на основе получаемой информации, чтобы потом использовать с пользой.

Конечно, могло. В развитии LLM проявляется эмерджентность, которую заранее сложно предсказать.

Нет, тогда бы те люди лишились финансирования.

В том, что не нужно больше дообучать под каждый новый случай. Сеть быстро усваивает новое на основе уже выученного.

Как нейросеть из нескольких нейронов рыбки. До целой рыбки еще далеко. Это провал. Вы их разоблачили.)

Речь не шла про сознание. Сознание обсуждаем в соседней теме.

Вы сказали "Получается, что понимание и сознание - вещи совершенно необязательно связанные между собой, просто ещё один антропоморфизм."
Я же сказал, что это невозможно. Эти вещи жеско связаны и т.д.

Языковые модели прекрасно себя самоидентифицируют.

Конечно нет. Они даже и не пытались.

Я имел в виду совсем другое - мышление появляется до языка, и речь пытается символьно передать значение нейронных паттернов в мозгу, которые изначально с языком вообще никак не были связаны, что порождает определённые трудности (мысль изречённая есть ложь).

Мышление - это термин из другой оперы. Он привязан к так называемой высшей нервной деятельности человека. А мы тут про нейроны, реальные и не очень. Обработка сигналов, извлечение информации. Короче, надо использовать терминологию ближе матаматике и физике.

[troglodit888]

Как нейросеть из нескольких нейронов рыбки. До целой рыбки еще далеко. Это провал. Вы их разоблачили.)

Человек ранее признавался, что чат гпт в глаза не видел и вообще полный чайник в вопросе.  Не читал но мнение имеем как бы. Нет ну я ж ничего не говорю - обсуждать интересно. Но к чему категоричность такая тогда.

Причем непонятно с чего бы там что то дообучать не нужно. За счет каких решений. Кстати само слово обучение тут с толку может сбивать - оно не сильно имеет общее с обучением человека.

[Сергей Н]

Текст - это по определению продукт работы человека, как субъекта индивидуальной и интеллектуальной трудовой деятельности.
Результ такого труда выражается в записанных словах и тд. На бумаге или как либо еще, но не в мозге. Потому что мозг не является усройством записи и воспроизведения.

Сгенерированный в LLM текст - это другое. Он является результатом труда всех людей чей текст попал в обучающие выборки и тех, кто вообще создавал данный AI.

Обезьяны же ничего пока не настучали на печатной машинке.

[Rattus]

Именно язык и алгоритм, несущий в себе информацию. В хаотическом наборе символов её нет. Есть разница?

Похоже надо уточнить до самых деталей: вполне возможен алгоритм, описание которого в том же алфавите что и сама данная (псевдо)случайная последовательность вполне может иметь меньший объём, чем эта самая последовательность, и извлекать из неё какой-либо смысл. Где тогда будет информация об этом самом смысле? В алгоритме её нет заведомо - он извлекает смысл именно из этой последовательности. Так где информация о нём? Самозарождается из платоновского мира чистых идей?

Точно так же и вам приходится читать 4/5 абсолютно бессмысленных сообщений этого форума. Но ведь ахинея не создаёт ни знаний, ни, даже, положительных эмоций?

Абсолютно бессмысленные сообщения удаляются в соответствии с п.3.1.д Правил Форума. Если не удаляются - значит признаны небессмысленными.

Тьюринг же просто бы разулыбался.

Тьюринг бы всецело согласился. Ибо он работал с последовательностями, у которых был совершенно точно известный отправитель и круг получателей. Вы же здесь зачем-то пытаетесь рассуждать о сферическом смысле в вакууме.

Понятие "дешифровка" вам ведь знакомо?

Более чем - "Книга шифров" Саймона Сингха давно прочтена от корки до корки.

[Maki]

На бумаге или как либо еще, но не в мозге. Потому что мозг не является усройством записи и воспроизведения.

Может быть всё наоборот? Мозг, полагаю, как раз и является таким устройством. А текст, жесты, мимика, позы - просто способы передачи информации другому мозгу.

[Maki]

В алгоритме её нет заведомо - он извлекает смысл именно из этой последовательности. Так где информация о нём? Самозарождается из платоновского мира чистых идей?

Очевидно, смысл содержится в комбинации последовательности и алгоритма. По отдельности они, разумеется, пусты.

Абсолютно бессмысленные сообщения удаляются в соответствии с п.3.1.д Правил Форума. Если не удаляются - значит признаны небессмысленными.

И поделом. Но ведь только после прочтения и признания чушью, верно?

Тьюринг бы всецело согласился. Ибо он работал с последовательностями, у которых был совершенно точно известный отправитель и круг получателей.

Неправда. Пока Тьюринг не нащупал "Хайль censored", ничего бы он не взломал. Хотя круг и даже язык общения был ему ясен.

Более чем - "Книга шифров" Саймона Сингха давно прочтена от корки до корки.

Спасибо, прочту.

[BlackMokona]

Сгенерированный в LLM текст - это другое. Он является результатом труда всех людей чей текст попал в обучающие выборки и тех, кто вообще создавал данный AI.

Получается ваш пост написали ваши родители и авторы книг которые вы читали?

[Сергей Н]

Может быть всё наоборот? Мозг, полагаю, как раз и является таким устройством. А текст, жесты, мимика, позы - просто способы передачи информации другому мозгу.

Попробуте воспроизведите текст, который вы написали ранее. А если он был длинный, а задом наперед?
Конечно, текст используется как способ хранения и передачи информации. Именно хранения потому что в мозгу он не сохраняется.

[Rattus]

Очевидно, смысл содержится в комбинации последовательности и алгоритма.

Надо же! Как же так?! Вы же страницей ранее объявили её совершенно бессмысленной?

Но ведь только после прочтения и признания чушью, верно?

Безуспешности прочтения.

Неправда.

Он взламывал код пришельцев?

Хотя круг и даже язык общения был ему ясен.

Добъёмся неукоснительного соблюдения взаимоисключающих параграфов?

[Сергей Н]

Получается ваш пост написали ваши родители и авторы книг которые вы читали?

Нет, потому, что я их тексты не хранил в голове. А информация, которая осталась уменя в голове, после прочтения книг например, текстами не является. Такая информация остается как индивидуальный отпечаток. Зависит вообще от всего происходящего с момента рождения и от чисто биологических процессов в том числе.

[BlackMokona]

Нет, потому, что я их тексты не хранил в голове. А информация, которая осталась уменя в голове, после прочтения книг например, текстами не является. Такая информация остается как индивидуальный отпечаток. Зависит вообще от всего происходящего с момента рождения и от чисто биологических процессов в том числе.

Представьте себе в нейросетке ровно так же. Она тексты, картинки и прочее не хранит в себе в их первоначальном виде.

[Maki]

Попробуте воспроизведите текст, который вы написали ранее. А если он был длинный, а задом наперед?
Конечно, текст используется как способ хранения и передачи информации. Именно хранения потому что в мозгу он не сохраняется.

Если потренироваться - воспроизведу. Просто это не нужно.
Люди с фотографической памятью вполне себе могут хранить в голове именно текст. А в общем случае, в мозгу сохраняется смысл текста, который есмь только способ передачи этого смысла. Но, да, и хранения, тоже. Кот бы, как говорится, спорил...

[Maki]

Надо же! Как же так?! Вы же страницей ранее объявили её совершенно бессмысленной?

Попробуйте процитировать. Текст должен иметь смысл, как минимум для его автора. Дневники Леонардо, который их наивно шифровал при помощи зеркала - яркий пример. Этот текст не предполагал читателя.

Безуспешности прочтения.

Не понял. Разве вы не успешно читаете, в т.ч. неподобающую бредятину, и не транклюкируете её именно по причине отсутствующего или извращённого содержания по прочтении?

Он взламывал код пришельцев?

Вопрос не моего уровня. ИМХО, язык как средство коммуникации, и шифр, как алгоритм в принципе взламываемы. Но тут лучше бы ответил какой-нибудь структуральнейший лингвист. Я - пас.

Добъёмся неукоснительного соблюдения взаимоисключающих параграфов?

Каких? Я что, писал что А.Т. хакнул зелёных человечков? Нет, конечно. Так что мимо.

[Сергей Н]

Представьте себе в нейросетке ровно так же. Она тексты, картинки и прочее не хранит в себе в их первоначальном виде.

Хранятся отдельно, но по сути это не важно, они никуда не удаляются и используются разработчими периодически.
И что это за неросетка такая если ей скормили в миллионы раз больше лингвистической информации чем средний человек потребляет, а в результате мы имеем слаборелевантный текст на выходе. Гуглопоиск мне больше пользы приносит. Почему?

[BlackMokona]

Хранятся отдельно, но по сути это не важно, они никуда не удаляются и используются разработчими периодически.

Но сама нейросетка их не использует в своей работе.

И что это за неросетка такая если ей скормили в миллионы раз больше лингвистической информации чем средний человек потребляет, а в результате мы имеем слаборелевантный текст на выходе. Гуглопоиск мне больше пользы приносит. Почему?

Потому что вам не нужен такой специалист полагаю. А так у той же ГПТ сотни дипломов о высшем образовании. 

[Сергей Н]

Если потренироваться - воспроизведу. Просто это не нужно.
Люди с фотографической памятью вполне себе могут хранить в голове именно текст.

Еще как нужно, но не работает к сожалению. Про людей с фотографической памятью много говорят, но никто их не видел. Это или миф или трюкачество, вроде мнемотехники запоминания.

А в общем случае, в мозгу сохраняется смысл текста, который есмь только способ передачи этого смысла.

Смысл текста содержится в самом тексте, иначе его бы невозможно было передать как вы хотели. Но да, в мозге человека читающего содержится все необходимое для понимания или расшифровки текста. Вот только это совсем не текст и он должен быть унифицирован, иначе другой человек не поймет ничего. Навык владения языком это называется. У человека пишущего текст, есть какая-то информация, которую специально переводит в текст, но сама она не текстовая. Трюкачи запоминатели всего и вся не в счет.

[Maki]

Это или миф или трюкачество, вроде мнемотехники запоминания.

Нет. Это просто ваше незнание, уж извините. Google: "Эйдетизм"

Смысл текста содержится в самом тексте, иначе его бы невозможно было передать как вы хотели. Но да, в мозге человека читающего содержится все необходимое для понимания или расшифровки текста. Вот только это совсем не текст и он должен быть унифицирован, иначе другой человек не поймет ничего. Навык владения языком это называется. У человека пишущего текст, есть какая-то информация, которую специально переводит в текст, но сама она не текстовая.

Несомненно. Хотя... Иногда возникает вопрос, есть ли случаи, когда люди думают словами (неписанным текстом)? Как думают математики или шахматисты? А художники? Возможно, наш мыслительный аппарат неоднозначен, и работает при помощи разных инструментов.