Пределы автоматизации и внедрения роботов

[Сергей Н]

Но сама нейросетка их не использует в своей работе.

Так она и субъектом этого процесса не является. Вот если бы она была устроена так, чтобы у нее возникали потребности в получении информации и она бы извлекала из этого пользу для себя в первую очередь, тогда другое дело.

[troglodit888]

могут хранить в голове именно текст

Текст хранится там, где он записан. А в памяти хранится интерпретация текста, по которой можно текст заново воспроизвести. Чтобы сохранить в голове именно текст, боюсь придется делать трепанацию черепа. Но это на какое то варварство уже смахивает или садизм даже.

[Сергей Н]

Нет. Это просто ваше незнание, уж извините. Google: "Эйдетизм"

Да, но это какой-то ужас:

Тренировка эйдетических способностей и эйдотехника
И. Шульц описал неоднократные случаи шизофрении с попытками самоубийств, возникшие в итоге неумелых, но настойчивых попыток вызвать эйдетические образы. М. Зощенко описал ряд подобных случаев в писательской среде в своей книге «Перед восходом солнца».

В качестве лечения И. Шульц предложил вновь вызывать эйдетические образы, только делать это грамотно. Этот подход изложен, в частности, в довоенной работе одного из сотрудников Шульца К.Томаса[7]. Подход оказался успешным.

Так, шахматист и психолог А. де Гроот, который заинтересовался эйдетизмом как явлением, утверждал, что развить способности могут многие. В качестве примера он приводил шахматных гроссмейстеров, способных запоминать множество комбинаций и сценариев развития событий во время партии.

Ну нафиг такие способности.
Но в целом понятно, почему эти способности редкие и иногда вызывают проблемы с психикой.
Мозг потребляет слишком много энергии, а такой механизм тотального запоминания, если им постоянно пользоваться приведет к нарушениям. Что-то вроде нарушения топологии нейроных связей.

[BlackMokona]

Так она и субъектом этого процесса не является. Вот если бы она была устроена так, чтобы у нее возникали потребности в получении информации и она бы извлекала из этого пользу для себя в первую очередь, тогда другое дело.

Это называется агентский подход, который реализуется примитивным сложением двух нейросеток.
Только вот никакого отношения к разуму это не имеет, а просто к инициативе

[Olweg]

Ну потому это продукт работы человека. В основном мозга. Но это не значит, что оно имеет с устройством мозга что-то общее. Мозг синтезирует это на основе получаемой информации, чтобы потом использовать с пользой.

Вы о речи?

Как нейросеть из нескольких нейронов рыбки. До целой рыбки еще далеко. Это провал. Вы их разоблачили.)

Я, видимо, неправильно расставил акценты. Про распознавание с первого раза я написал не с точки зрения сравнения с биообъектами, а с точки зрения того, о чём мы говорили - понимания. В нейросетке возникает семантическое пространство, или, можно сказать, некая модель мира, и ей уже не составляет труда опознавать предметы, в чём-то похожие на то, чему её обучали.

Что касается разоблачений, то не думаю, что эксперты в области нуждаются в моих разоблачениях или, наоборот, в моей защите )

Вы сказали "Получается, что понимание и сознание - вещи совершенно необязательно связанные между собой, просто ещё один антропоморфизм."
Я же сказал, что это невозможно. Эти вещи жеско связаны и т.д.

Вы меня поймали! ) Да, действительно оффтоп начал я, но всё же предлагаю продолжить не здесь, чтобы не зафлуживать.

Языковые модели прекрасно себя самоидентифицируют.

Конечно нет. Они даже и не пытались.

Они, может, и не пытались, но вот пользователи пытаются у них выяснить постоянно, и есть интересные результаты. Выше в теме обсуждали.

Мышление - это термин из другой оперы. Он привязан к так называемой высшей нервной деятельности человека. А мы тут про нейроны, реальные и не очень. Обработка сигналов, извлечение информации. Короче, надо использовать терминологию ближе матаматике и физике.

Мы, вроде, обсуждали такую штуку, как понимание. Я, по крайней мере, с этого начал. Нейроны же есть в обоих системах.

[Olweg]

И что это за неросетка такая если ей скормили в миллионы раз больше лингвистической информации чем средний человек потребляет, а в результате мы имеем слаборелевантный текст на выходе. Гуглопоиск мне больше пользы приносит. Почему?

Возможно, потому, что по количеству параметров - весов, аналога синапсов - даже GPT-4 пока ещё на уровне обезьян, даже, вероятно, не человекообразных. А то и меньше.

[Olweg]

По поводу эйдетической памяти где-то читал про случай Соломона Шерешевского. Но у него, оказывается, ещё и синестезия была…

[troglodit888]

В нейросетке возникает семантическое пространство, или, можно сказать, некая модель мира, и ей уже не составляет труда опознавать предметы, в чём-то похожие на то, чему её обучали.

Предположим аналоговое устройство, способное дать определение - близок ли объект к форме шара или нет. Состоит оно из металлической пластины с круглой прорезью посередине  и присоединённой к ней трубой. В случае, если объект близок, он покатится по трубе и будет слышен характерный звук, что даст понимание оператору, работающему с этим устройством, о форме предмета. Возникает ли там в этом устройстве - некая модель мира?

[Olweg]

Возникает, но очень низонькая.

[troglodit888]

Возникает, но очень низонькая.

Мысль конечно интересная. А как определили?

Кстати к вопросу об обучении - данное устройство можно даже обучить. В случае, если процент верных предположений будет недостаточно велик до некоего показателя - можно изменить рельеф трубы.

[BlackMokona]

https://www.businesstoday.in/technology/news/story/gpt-4-outsmarts-wall-street-ai-predicts-earnings-better-than-human-analysts-431062-2024-05-27

GPT-4 перехитрил Уолл-стрит: ИИ предсказывает прибыль лучше, чем человеческие аналитики
Исследователи провели свое исследование, предоставив GPT-4 стандартную финансовую отчетность, тщательно очищенную от названий компаний и дат, чтобы модель не могла использовать предыдущие знания.

[troglodit888]

Исследователи провели свое исследование

Неизвестные исследователи провели исследование. Ссылка на исследование отсутствует. Похоже ученый изнасиловал журналиста.

[Olweg]

Мысль конечно интересная. А как определили?

Ну, тут уж, я думаю, дурачку понятно, что модель эта далека от всеобъемлющей.

Кстати к вопросу об обучении - данное устройство можно даже обучить. В случае, если процент верных предположений будет недостаточно велик до некоего показателя - можно изменить рельеф трубы.

Ну и хорошо. Выходит нейронная сеть с одним синапсом )

[troglodit888]

Почему нет? Вопрос в масштабе и эффективности применения.

Дело в том, что если я работаю над чем то в команде - сознание у меня сохраняется личным. Оно не становится общим с командой. Хотя обмен информацией, обучение и обработка информации - присутствуют, нейронная сеть становится более сложной, но распределенной. 

[Сергей Н]

Вы о речи?

О речи и о семантических пространствах если такая модель реально примерима к мозгу или его частям.

В нейросетке возникает семантическое пространство, или, можно сказать, некая модель мира, и ей уже не составляет труда опознавать предметы, в чём-то похожие на то, чему её обучали.

Это вряд ли. Она только по примитивным категориям работает. Такие которые очевидны типа круглое с зелеными точками на таком то расстоянии друг от друга. А в некоторых случаях нужна действительно "некая модель мира" максимально возможно полная модель.

 

Они, может, и не пытались, но вот пользователи пытаются у них выяснить постоянно, и есть интересные результаты. Выше в теме обсуждали.

Пробовал, глупости это. Имитация и словоблудие. 4о такой же как и 4 в смысле адекватности ответов.

Мы, вроде, обсуждали такую штуку, как понимание. Я, по крайней мере, с этого начал. Нейроны же есть в обоих системах.

Ага, если понимание это результат мыслительного процесса, то мы на верном пути. )
А кстати, вы уверены, что реальные ученые бесзастенчиво называют эти штуки нейронами? Мне кажется у них для этого свои названия. А нейронами кличут только для хайпа, нет?

[Olweg]

Это вряд ли. Она только по примитивным категориям работает. Такие которые очевидны типа круглое с зелеными точками на таком то расстоянии друг от друга.

Объекты они вполне надёжно распознают уже давно. Перимущество LLM - именно в создании взаимосвязанной через векторы модели взаимоотношения этих объектов.

А кстати, вы уверены, что реальные ученые бесзастенчиво называют эти штуки нейронами? Мне кажется у них для этого свои названия. А нейронами кличут только для хайпа, нет?

Общая архитектура сходна. Насколько важна аналоговость и специфика передачи сигнала электрохимическим путём в реальных нейронах - конечно, пока никто не сможет сказать. Во всяком случае, успехи второй весны ИИ (с 2012) пока доказывают верность подхода.

Про сознание ответил тут:
https://astronomy.ru/forum/index.php/topic,86900.msg6073020.html#msg6073020

[Сергей Н]

Объекты они вполне надёжно распознают уже давно. Перимущество LLM - именно в создании взаимосвязанной через векторы модели взаимоотношения этих объектов.

Людей не распознает когда на лицо что-то намазано. Работы еще непочатый край. LLM против старых алгоритмов конечно крут.

Общая архитектура сходна. Насколько важна аналоговость и специфика передачи сигнала электрохимическим путём в реальных нейронах - конечно, пока никто не сможет сказать. Во всяком случае, успехи второй весны ИИ (с 2012) пока доказывают верность подхода.

А что тогда значит общая архитектура? Аналоговый нейрон например, он с этими электрохимическими сигналами что делает? У него есть какая-то заданная цель?

Успехи второй весны ИИ благодаря тому что появилось гигантское количество транзисторов в виде видеокарт.

[Сергей Н]

Почему нейросети головного мозга должны быть устроены иначе? В конце концов, разум возник только у животного с порядка ~1014 синапсов в коре ГМ. Это всё ещё на два порядка больше, чем у GPT-4 с её ~2 трлн. параметров, если верить утечкам. У шимпанзе синапсов больше, но этого им недостаточно. Размер всё-таки имеет значение.

Да, ChatGPT увеличил количество этих параметров на несколько порядков, но почти таким же и остался. А у человека имеется примерно такое же количество синапсов как и у гориллы.
Вот и я говорю - это провал. Но я согласен, что хайп еще долго будет развиваться по теме LLM. Тема новая и дает неплохие результаты. Еще и мощность видеокарт растет.

[troglodit888]

В конце концов, разум возник только у животного с порядка ~1014 синапсов в коре ГМ. Это всё ещё на два порядка больше, чем у GPT-4 с её ~2 трлн. параметров, если верить утечкам.

Дело в том, что все нейроны и все синапсы у человека - они ещё и взаимодействуют в реальном времени. А нейронная сеть она представляет из себя если грубо говорить - слепок одного мгновения. Это как если бы мозг заморозили и пользовались его архитектурой на момент заморозки, чтобы получать некий результат. Так что порядочков придется накинуть.

Но скорее всего - задача вообще не решаемая на цифровой технике, но в возможность аналогового искуственного интеллекта я верю. Скопировать который будет невозможно так же, как и невозможно скопировать процесс работы мозга. Потмоу что копия процесса - это другой процесс. Вот тогда черный ящик захлопнется и там и сознание возможно будет и что угодно.

Только такой ИИ никому особо не нужен. Потому что это будет подразумевать - отсутствие всех преимуществ того же чат гпт. Так как никаких ответов там не будет, пока он самостоятельно не усвоит и не осмыслит информацию, точь в точь как и человек делает.

[BlackMokona]

Людей не распознает когда на лицо что-то намазано. Работы еще непочатый край. LLM против старых алгоритмов конечно крут

У людей конечно не так, можете объяснить это этим людям?