Пределы автоматизации и внедрения роботов

[BlackMokona]

Я думаю, что из-за того, что галлюцинации всё же снизились у модели. Не так сильно, как хайпил Альтман, но, видимо, это и правда SOTA модель по редкости галлюцинаций

Согласно анализу стороннему, ГПТ-5 галюцинирует куда больше конкурентов. Но при этом ГПТ-5 прошёл Покемон Ред намного быстрее конкурентов в виде Дженеми и Клауда

[Polnoch Ксю]

Согласно анализу стороннему, ГПТ-5 галюцинирует куда больше конкурентов.

Какая именно версия GPT-5?

[BlackMokona]

Какая именно версия GPT-5?

Максимальная

[BlackMokona]

Исследователи сделали соц.сеть из ботов. Получилось ровно так же как у людей. Попытки избавиться от токсинов, эхо камер и тд. Полностью провалились.
https://habr.com/ru/companies/bothub/news/937308/
Тестировали на трёх вариантах ИИ, везде одно и тоже.

[Olweg]

От осинки не родятся апельсинки.

[BlackMokona]

От осинки не родятся апельсинки.

Тут больше о проблеме соц.сетей и возможности тестить соц процессы с помощью ботов с ии

[Серый Страж]

Человеческий мозг - это один вариант ЕИ.

Человеческий мозг – это «железо» для ЕИ, а не сам ЕИ. Вот софт на данном «железе», это как раз и есть ЕИ.

Тут только технический вопрос возникает – считать ли интеллектом только работающий (здесь и сейчас) софт или достаточно этому софту быть инсталлированным на данное «железо». На мой взгляд, выявить интеллект можно только на работающем софте, а инсталлированный софт никак себя не проявляет (про наличие интеллекта мы можем только догадываться). 

Если рассматривать отношение «железа» и софта на примере с компьютерами, то:

– На достаточно разное «железо» (лишь бы не сильно отличались некоторые технические параметры – производительность, объём памяти, наборы исполняемых инструкций и т.д.)  можно инсталлировать одинаковый софт. И этот софт будет работать (хоть и с нюансами). 
– На одно и то же «железо» можно инсталлировать разный софт. И этот разный софт вполне себе будет работать.

Соответственно, по аналогии можно прийти к выводу, что на разное биологическое «железо» (а все люди разные) можно инсталлировать один и тот же софт (например, язык коммуникации). Кроме того, часть простого софта можно инсталлировать и на сильно разное «железо» (вплоть до того, что научить шимпанзе или горилл жестовому языку).

Ну, а про разный софт на одно и то же «железо», надеюсь, что и так понятно – например, у конкретного человека может быть родным любой язык.

Единственный.

И в связи с вышесказанным, человеческий вариант ЕИ вовсе не единственный – есть «шимпанзинный» вариант ЕИ, есть «волчьий» вариант ЕИ и т.д. Разумеется, эти варианты сильно уступают человеческому в плане богатства функционала и производительности по определённому набору функций. Но это всё не отменяет сам факт наличия таких вариантов.

Просто раскопированый на 10млрд копий.

Не совсем так – человеческий софт (самая существенная его часть), это культура и язык + некоторая сумма общечеловеческих знаний. То есть, раскопировать конкретную культуру и язык (да вдобавок верования, менталитет, мораль и т.д.) на всё человечество, скорее всего, не получится (да, оно и не нужно, полагаю).

Никаких других примеров ЕИ (условных инопланетян или иных разумных существ нечеловеческой природы) человечество на данный момент не нашло.

Давно нашло, только ещё не осознало – примеры других ЕИ у нас «под носом» (выше пояснял).
 

Т.е . мы делаем индуктивное обобщение основываясь на единичном примере.

Так, может, надо сделать обобщение, основываясь на множестве примеров (разных вариантов ЕИ)? Это ведь всего касается, а не только интеллекта – и жизни, и разума, и сознания. Мы ведь во Вселенной пытаемся найти: именно земную жизнь (все критерии поиска под это «заточены»), именно человеческий разум и интеллект (потому многие и считают, что ИИ, это вовсе не интеллект, ведь интеллектом и разумом может обладать только человек).

Может, некорректна сама методика обобщений?

Вот здесь я попытался дать более-менее расклад:

(кликните для показа/скрытия)

[noae]

Народ, в большинстве своём, «толчётся» в одной и той же парадигме – психика, сознание, разум и т.д. (нужное подчеркнуть) – это чисто человеческое свойство/качество/способность, а все остальные «психики», «сознания», «разумы» и т.д. подлежат интерпретациям и сравнениям только с позиции данной парадигмы.

Большинство людей ненамеренно (и неявным образом) приравнивают эти понятия: психика = психика человека, сознание = сознание человека (да ещё, в придачу – только высший уровень сознания человека), разум = разум человека и т.д. Вред такого подхода мне очевиден.

Такой подход весьма пагубно сказывается: на понимании проблемы в целом, на поиске этих свойств/качеств/способностей (отличных в каких-то аспектах от человеческих) у других организмов (и вообще – в живой и косной природе), на возможностях абстрактного моделирования этих свойств/качеств/способностей, на возможностях реализации этих свойств/качеств/способностей в искусственных системах и т.д. и т.п.

Например, отсюда и, кажущаяся нам, «ущербность» всех остальных перед нами – мы ведь самые умные, самые сознательные, самые разумные… А у всех остальных только бледные подобия наших психики, сознания, разума и т.д. И мало кто, понимает некорректность наделения животных нашими: психикой, сознанием, разума и т.д., пусть и в слабом, частичном формах.

Поясню чуток этот момент.

Для объяснения возникновения наших свойств/качеств/способностей мы начинаем привлекать понятие эмерджентности. Типа, некие элементы (анатомические, физиологические, генетические структуры) оказались в процессе эволюции собраны в наших организмах в систему более высокого порядка, нежели у наших эволюционных предков. На первый взгляд, всё логично – более простые элементы формируют систему, и у системы оказывается новое свойство/качество/способность, которых не было у элементов (и это свойство/качество/способность не сводится к качествам данных элементов).

Но, в том-то и дело, что только на первый взгляд это выглядит логичным. Ненамеренное приравнивание психики/сознания/разума вообще психике/сознанию/разуму человека заводит нас в логическую ловушку – как могло возникнуть то (например, сознание человека), чего не было в принципе (не было, ни в частичном виде, ни в слабой форме) у наших предков?

Но нам эта логическая ловушка побоку – мы же её в упор не замечаем. Мы мысленно редуцируем присущие нам свойства/качества/способности и мысленно переносим их на других животных (приписываем их другим животным). И нас нисколько не смущает тот факт, что этих чисто человеческих свойств/качеств/способностей у наших предков не могло быть по определению. Сознание человека возникло именно у нас, сознания человека у наших предков не было ни в каком виде, ни частично, ни в ослабленной форме, ни в каком-то урезанном виде.

А как же несводимость вновь возникшего свойства системы к свойствам элементов (пресловутая эмерджентность), сформировавшим эту систему? Как логически согласуется приписывание сознания человека даже нашим ближайшим эволюционным родственникам? А никак, люди такими «мелкими» нестыковочками вообще не заморачиваются…

На мой взгляд, сначала необходимо согласовать определения вообще*: сознание вообще, разум вообще и т.д., а потом уже рассматривать отдельные частные случаи (человек, при таком подходе, будет только одним из огромного множества частных случаев).

Повторю свои предложения по формулировкам:
[noae]

Привожу комплект определений (их следует рассматривать во взаимосвязи друг с другом):

Жизнь – это живая система (совокупность систем) и её среда обитания.
Живая система – это система, проявляющая в активной фазе своего существования: стремление к самосохранению и способность реализовать это стремление.
Интеллект системы – это вычислительный функционал (практически в физико-математическом смысле слова) системы.
Разум системы – это способность системы реализовать стремление к самосохранению средствами интеллекта.

До кучи:

Ум системы – это локальное и актуальное проявление разума системы.
 
Теперь комплект определений, связанных с понятием сознание:

Суть сознания – это условие «со знанием».
Суть механизма сознания – это реализация данного условия «со знанием».
Суть реализации – это процесс осознания (то есть, сравнение/сопоставление со знанием).
Суть состояния в сознании – это наличие процесса осознания.

Исходя из набора определений можно понять, что сознание любого уровня (и вообще наблюдатель любого уровня) находится всегда между* осознаваемым (наблюдаемым, регистрируемым, измеряемым и т.д.) и знаниями/опытом (хоть в виде уставок/настроек, хоть в виде контекста, хоть в виде совокупности взаимосвязанных программ/алгоритмов и т.д.). Вот именно из-за этого между* и возникаем наибольшее количество непоняток, проблем, нестыковок и парадоксов.
 
При прочих равных, уровень проявления сознания зависит от уровня используемых знаний, а способность и возможность использования зависит, в свою очередь, от конструктивных особенностей архитектуры механизма сознания. Понятно, что у любой сложной системы архитектура механизма сознания многоуровневая и чем выше уровень, тем выше интеграция используемых знаний/опыта. Разумеется, это не отменяет и параллельности потоков осознания и многостадийности самих потоков осознания.

Однако, при этом, на всех уровнях, во всех параллельных потоках осознания, на всех стадиях процесса осознания, механизм сознания использует один и тот же алгоритм – сравнение/сопоставление осознаваемого с доступными (данному уровню, потоку, стадии) знаниями.

[/noae]

Ну, и до кучи, несколько примеров ущербности общепринятого подхода.

Например, наша неспособность распознать более разумного, нежели мы сами, может когда-нибудь сыграть с нами злую шутку. Мы, буквально на бытовом уровне, попросту этого (более высокой разумности, чем у нас) не предполагаем и не допускаем: вот где-то там, на звёздах – возможно, но здесь, у нас под носом – этого быть не может.

Или ещё. Тот же подход подталкивает нас искать причины данных свойств/качеств/способностей в организации нашего организма – в анатомии и физиологии человека (и вообще, в организации живого (живого, в общепринятом понимании)). Вообще тупиковый путь… Нет мозга – всё, абзац (типа, разума, сознания, интеллекта по определению быть не может). Уважаемые! Это человеческих (и у человека) разума, сознания, интеллекта быть не может, а у какого-нибудь разумного представителя с Альфы Центавра – очень даже может быть (у них другая структура организма, например). Мало того, и у бактерии, в таком случае, есть свои: психика, сознание, разум. 

С моделированием тоже проблемы. То есть, с одной стороны, моделировать собираются (если, собираются) именно человеческие психику, сознание, разум и т.д., а не психику, сознание, разум вообще. А с другой стороны, раздаются голоса о принципиальной невозможности этого (в силу колоссальной сложности организма человека и живого вообще). Кто же нас заставляет моделировать именно человеческие, а не вообще? Никто – мы сами себе «злые буратино».

И наконец, сведение психики, сознания, разума и т.д. к некому набору признаков (или набору свойств/качеств/способностей) – это вообще не продуктивно. Народ в своём обсуждении уже перешёл к обсуждению понятий личность, самосознание и пр., не договорившись толком о базовых понятиях: жизнь вообще, интеллект вообще, сознание вообще, разум вообще и т.д. Напоминает притчу о трёх слепцах, ощупывающих слона – пока не поднимемся на высший (насколько он доступен в настоящий момент) уровень абстракции в отношении: понятий жизнь, интеллект, сознание, разум, так и будем «плутать в потёмках».

P.S. В общем, если не убедил, то хоть попытку пояснить сделал («кто не спрятался, я не виноват»)…

[/noae]

К этому раскладу в дополнение:

(кликните для показа/скрытия)

https://paleoforum.ru/index.php/topic,9297.msg267302.html#msg267302
[noae]

Всё никак руки не доходили дополнить определениями гомеостаза, стремления и пр. и оформить это дело в единый комплект. Попробую сделать сейчас.

Суть гомеостаза системы – это постоянство внутренней динамики системы (динамическое равновесие).

Условное постоянство внутренней среды (и динамики внутри её) системы характерно не только для систем, которые считаются живыми, но и вообще для всех систем (не важно, что некоторые системы живут очень мало – микросекунды, пикосекунды и т.д.). Просто мы хорошо воспринимаем и отслеживаем динамику сопоставимую по пространственно-временному масштабу с нашей собственной динамикой восприятия.

И, поэтому, сильно отличающиеся по пространственно-временному масштабу (чрезвычайно медленные, очень быстрые, огромных размеров, микроскопических размеров и т.д.) явления мы попросту не воспринимаем (варианты «невосприятия» могут быть разными) как процессы (как динамику) или не считаем за таковые (и, соответственно, записываем явление в статику).

На самом деле нет никаких статических состояний, есть только динамические состояния (процессы). 

Суть стремления – это направленный потенциал (не само направленное действие/движение, а только направленный потенциал этого движения/действия).

Потенциал возникает в структуре системы при внешнем воздействии на систему. И обычно потенциал направлен против воздействия.

Суть потенциала – это напряжение/давление/нарушение в структуре, возникающее как ответная реакция на воздействие, которая направлена против воздействия.

Стремление к самосохранению возникает, когда идёт воздействие на гомеостаз системы. В результате такового воздействия в механизме поддержания гомеостаза возникают различные напряжения/давления/нарушения, которые в процессе интеграции и перебалансировки внутри механизма поддержания гомеостаза формируют итоговое направление обобщённого потенциала.

Понятно, что такой обобщённый потенциал уже направлен на восстановление механизма поддержания гомеостаза.

Суть стремления системы к самосохранению – это потенциал, возникший в механизме поддержания гомеостаза системы, и который направлен на восстановление механизма поддержания гомеостаза.

Суть механизма поддержания гомеостаза (гомеостаза любого уровня) системы – это реализация гомеостаза системы.

Суть реализации гомеостаза – это некий замкнутый на самое себя процесс (совокупность процессов), «закольцованный» («закольцованная») внутри системы. Благодаря функционированию этой «закольцованной» совокупности процессов поддерживается (точнее, постоянно воспроизводится) внутреннее состояние (в каком-то диапазоне параметров) системы, которое интерпретируется как гомеостаз.

Теперь сведу определения в единый комплект (все определения следует рассматривать комплексно, во взаимосвязи друг с другом).

Суть гомеостаза системы – это постоянство внутренней динамики системы (динамическое равновесие).
Суть механизма поддержания гомеостаза системы – это реализация гомеостаза системы.
Суть реализации гомеостаза – это замкнутая на самое себя совокупность процессов, «закольцованная» внутри системы (и благодаря этому постоянно воспроизводящаяся).
Суть стремления – это направленный потенциал (не само направленное действие/движение, а только направленный потенциал этого движения/действия).
Суть потенциала – это напряжение/давление/нарушение в структуре, возникающее как ответная реакция на воздействие, и которая направлена против воздействия.
Суть стремления системы к самосохранению – это потенциал, возникший в механизме поддержания гомеостаза системы, и который направлен на восстановление механизма поддержания гомеостаза.

[/noae]

https://paleoforum.ru/index.php/topic,9297.msg273049.html#msg273049
[noae]

На мой взгляд, главное отличие живых систем от косных систем – это наличие в первых внутреннего процесса, замкнутого на самого себя и постоянного воспроизводящегося внутри системы. И тут важный момент – для жизни какого-то уровня «закольцовка» должна быть того же уровня. Например, для жизни уровня сложной химии (а наш тип жизни именно такой – атомно-молекулярная форма жизни на основе соединений углерода и воды), «закольцовка» тоже должна быть уровня химии (типа, некоего гиперцикла химических реакций).
 
В биологии есть понятие гомеостаза (из Вики: «Гомеоста́з (др.-греч. ὁμοιοστάσις от ὅμοιος «одинаковый, подобный» + στάσις «стояние; неподвижность») — саморегуляция, способность открытой системы сохранять постоянство своего внутреннего состояния посредством скоординированных реакций, направленных на поддержание динамического равновесия. Стремление системы воспроизводить себя, восстанавливать утраченное равновесие, преодолевать сопротивление внешней среды.»)
 
Так вот, внутренняя «закольцовка» неплохо подходит для объяснения простейшего варианта механизма гомеостаза. И тогда не надо выдумывать никакого скачкообразного преобразования косного в живое – стоит только внутренним процессам в системе «закольцеваться» на самое себя, и первый шаг к живому сделан (нам остаётся лишь договориться о граничных критериях).
 
Напомню свой комплект определений, связанных с гомеостазом и стремлением к самосохранению:
 
Суть гомеостаза системы – это постоянство внутренней динамики системы (динамическое равновесие).
Суть механизма поддержания гомеостаза системы – это реализация гомеостаза системы.
Суть реализации гомеостаза – это замкнутая на самое себя совокупность процессов, «закольцованная» внутри системы (и благодаря этому постоянно воспроизводящаяся).
Суть стремления – это направленный потенциал (не само направленное действие/движение, а только направленный потенциал этого движения/действия).
Суть потенциала – это напряжение/давление/нарушение в структуре, возникающее как ответная реакция на воздействие, и которая направлена против воздействия.
Суть стремления системы к самосохранению – это потенциал, возникший в механизме поддержания гомеостаза системы, и который направлен на восстановление механизма поддержания гомеостаза.
 
Но в моём комплекте определений живого фигурирует не гомеостаз, а стремление к самосохранению:
 
Жизнь – это живая система (совокупность систем) и её среда обитания.
Живая система – это система, проявляющая в активной фазе своего существования: стремление к самосохранению и способность реализовать это стремление.
 
Дело в том, что нарушения гомеостаза должны приводить к возникновению внутреннего стремления к восстановлению этого гомеостаза, и, как следствие, это должно как-то опосредованно проявляться внешне – например, как стремление к самосохранению. Мало того, даже стремление к самосохранению, мы не непосредственно регистрируем, а только по косвенным признакам – по ответным реакциям, по поведению (и реактивному, и проактивному).
 
Так что же такое стремление к самосохранению, в основе чего оно лежит и как его можно реализовать?
 
Тут всё просто, пояснял неоднократно.
 
Важно понимать, что в живой природе стремление к самосохранению сводится к возникновению направленное потенциала в системе гомеостаза при нарушении оного (потенциал направлен на восстановление прежнего состояния гомеостаза). А сам гомеостаз системы, в его самом примитивном/элементарном виде реализуется в виде некоей замкнутой на самое себя совокупности процессов, «закольцованной» внутри системы.
 
И эта совокупность, благодаря такой «закольцовке», постоянно, как бы, воспроизводится внутри системы. То есть, вот именно таким постоянным воспроизведением данная совокупность процессов и сохраняется (или, сохраняет себя, кому как удобнее это понимать) внутри системы. По сути, воспроизведение, как и репликация, как и размножение, это только способ сохранения, который присущ живым система нашего типа жизни. Ещё раз: воспроизведение, репликация, размножение, это именно способ сохраниться/выжить, а не основной признак живой системы.
 
В широком смысле и репликация РНК/ДНК, как совокупность сложнейших многоэтапных процессов, тоже является внутренней «закольцовкой» в живой системе.
 
Кстати, и замкнутые на самое себя гиперциклы сложных химических реакций в какой-то обособленной области, тоже следует рассматривать как подобную «закольцовку». До уровня живой системы там не хватает поддержки/обеспечения обособленности данной области. Типа, если есть оболочка/мембрана вокруг области, то надо чтобы продукты реакций гиперциклов и/или сами реакции гиперциклов поддерживали оболочку/мембрану, не допускали её разрушения от внутренних и внешних воздействий.
 
Итак, реализуется гомеостаз, как замкнутая на самое себя совокупность процессов, «закольцованная» внутри системы (и благодаря этому постоянно воспроизводящаяся). В общем-то, в этом вся суть реализации гомеостаза, которая просматривается на любом уровне гомеостаза (про уровни кратко поясню ниже).

Понятно, что какие-то внешние, по отношению к «закольцовке», (то есть, они могут действовать на «закольцовку» вообще-то и изнутри системы, но для самой «закольцовки» они всё равно будут внешними) воздействия могут вызвать нарушения этой «закольцовки». Соответственно, если «закольцовка» сразу не разрушилась, а только «деформировалась», то в ней возникнут некие напряжения, которые будут стремиться восстановить правильную форму и структуру «закольцовки».
 
Вот теперь мы подошли непосредственно к рассмотрению стремления к самосохранению.
 
В самом общем смысле, любое стремление, это некий направленный потенциал. То есть, это не движение (или изменение) в каком-то направлении, а всего лишь «обозначение» направления необходимости этого движения/изменения.
 
Любой потенциал, если, опять-таки, обобщённо, сводится напряжению/давлению в чём-то или на что-то. Типа, когда на что-то (систему или её элемент) действует некая сила/фактор и в системе/элементе возникает потенциал движения/изменения. Ещё раз: не движение/изменение как таковое, а только потенциал  к движению. И не как возможность такового движения/изменения, а именно как необходимость двигаться/изменяться.
 
Ну, и направленность здесь следует тоже трактовать в самом общем смысле (например, направление к деградации или к прогрессу, это тоже направление).
 
Итак, наличие гомеостаза в системе свидетельствует о том, что система живая. Но определить наличие гомеостаза мы можем только по внешним проявлениям – по реакции системы на воздействие. В результате воздействия возникает нарушение гомеостаза, а нарушение гомеостаза должны приводить к возникновению внутреннего стремления к восстановлению этого гомеостаза, и, как следствие, это должно как-то опосредованно проявляться внешне. Тут ключевое слово – опосредованно, это важно особенно в контексте рассмотрения поведения сложных живых систем.
 
Стремление к самосохранению может реализоваться по-разному: и коротким путём – через рефлекс, и чуток более длинным и сложным – через инстинкт, и длинным путём – через эмоциональную реакцию, и очень длинным путём – через рациональный вычислительный функционал (очень длинный путь реализации доступен только самым продвинутым животным).
 
Для нас все эти пути являются наглядным свидетельством существования неких потребностей у живых организмов. А уж наличие желаний (относится к длинному пути, к эмоциональной реакции) и вовсе многими трактуется как признак не только живого, но и разумного (особенно, вкупе с рациональным вычислительным функционалом).
 
Теперь кратко про уровни гомеостаза (выше я обещал).
 
Нарушение в каком-то уровне приводит к распространению воздействия (зачастую приводящие тоже к нарушениям) на соседние уровни. Если результаты такого воздействия в более глубокие уровни нам плохо видны, то результаты воздействия на вышележащие уровни нам видны хорошо (эмоции, наверное, каждый разглядит, а вот изменение метаболизма на иммунном уровне, это уже задача, которую можно решить только при лабораторных и/или клинических исследованиях).
 
В простых живых системах изначально только один уровень гомеостаза (та самая первичная «закольцовка» и «оболочка» вокруг неё с какой-то структурой). Но простые живые системы не жили (да и не могли чисто физически) в одиночестве, они жили гигантским и тесно переплетённым сообществом. Мало того, они и возникли-то совместно, а не по отдельности. (замечание в скобках: выше я писал о реакциях, перечитайте и будет понятно откуда «ноги растут» этого явления)
 
Соответственно, когда произошло разделение/обособление, всё это сообщество начало распадаться на условно изолированные кластеры (будущие протоколонии протоклеток), а не на отдельные «закольцованные» процессы, сидящие по своим отдельным ячейкам. Будучи ещё в «общем котле», в котором они «варились» совместно, они волей неволей «сплелись» друг с другом, «наросли» друг на друге, «обволокли» друг друга – в кластерах оказались уже системы с несколькими уровнями гомеостаза – на каждом уровне своя «закольцовка».
 
Так же я упоминал (можно глянуть тему «Гидрогеологическая система – колыбель жизни?»), что протоклетки возникли и эволюционировали в форме протоколонии, а не по отдельности.
 
Сколько было всего уровней гомеостаза у протоклеток в протоколониях, пока обсуждать не стоит – надо выделить укрупнённые уровни гомеостаза у современных сложных живых систем. И начать следует с общеорганизменных уровней, клеточный уровень в многоклеточном организме пока из рассмотрения исключаем, он остаётся важным на первых этапах размножения (оплодотворение яйцеклетки и далее).
 
Самые нижние общеорганизменные уровни гомеостаза – это уровни регулировки состояния организма иммунной и гуморальной системами (гуморальная система опосредованно влияет и на генетическую систему). Нарушение гомеостаза в этих уровнях приводит к формированию стремления к самосохранению.
 
Выше уровни, это уровни формирования потребностей – нарушения в этих уровнях (при этом не важно, откуда пришло воздействие, нарушившее гомеостаз данного уровня – сверху пришло или пришло снизу/изнутри с самых нижних общеорганизменных уровней) приводит к возникновению потребности.
 
Ещё выше уровни, это уровни формирования желаний/хотений – нарушение в этих уровнях приводит к формированию желаний/хотений. Опять-таки, при этом не важно, откуда пришло воздействие, нарушившее гомеостаз данного уровня.
 
Самые высокие уровни, это уровни формирования целей и постановки задач – нарушения в этих уровнях приводит к формированию волевых решений, целеполаганию, постановке задач. И здесь тоже не важно, откуда пришло воздействие, нарушившее гомеостаз данного уровня.
 
То есть, стремление к самосохранению, отразившись в уровне выше, сначала преобразуется в потребность, которая отразившись в уровне ещё выше, преобразуется в желание/хотение, которое отразившись в уровне, опять-таки, ещё выше преобразуется в волепроявление/целеполагание.
 
Соответственно, и реализоваться стремление к самосохранению в зависимости от конечного уровня, на котором оно отразилось, может разными способами – через рефлексы и инстинкты, через эмоциональную реакцию, через рациональное поведение.
 
Как я и сказал выше, стремление к самосохранению может реализоваться по-разному: и коротким путём – через рефлекс, и чуток более длинным и сложным – через инстинкт, и длинным путём – через эмоциональную реакцию, и очень длинным путём – через рациональный вычислительный функционал (очень длинный путь реализации доступен только самым продвинутым животным).
 
Вот и всё, если кратенько. Про уровни гомеостаза закругляюсь.

[/noae]

[AlexDark]

есть «шимпанзинный» вариант ЕИ, есть «волчьий» вариант ЕИ и т.д

Всякое зверье не владеет языком, поэтому в основе их интеллекта явно не лежат языковые модели. Плюс у них есть компоненты  в виде инстинктов и тп, которые у человека отсутствуют или сильно рудиментированы.

Человеческий мозг – это «железо» для ЕИ, а не сам ЕИ. Вот софт на данном «железе», это как раз и есть ЕИ.

Это компьютероцентричное объяснение, которое опять же не имеет доказательств. Опять же чисто технически - есть множество технических устройств, которые выполняют некоторые функции, но эти функции неотделимы от самого устройства. В них нет никакого отдельного "железа" и "софта", а есть нечто неделимое.

[Olweg]

Всякое зверье не владеет языком, поэтому в основе их интеллекта явно не лежат языковые модели.

Языковые модели, несмотря на название, можно сейчас обучать на любых данных.

[Серый Страж]

есть «шимпанзинный» вариант ЕИ, есть «волчьий» вариант ЕИ и т.д

Всякое зверье не владеет языком, поэтому в основе их интеллекта явно не лежат языковые модели. Плюс у них есть компоненты  в виде инстинктов и тп, которые у человека отсутствуют или сильно рудиментированы.

Вы сейчас сами признаёте, что у них есть интеллект. Да, другой, да слабый, да, на наш взгляд, не подходящий для человеческого общества и культуры, но он есть. И не важно, что лежит в основе их интеллекта, и какие там компоненты есть, а какие отсутствуют – главное, интеллект у них есть.

Кстати, и подобия языковых моделей мира у них тоже имеются – у продвинутых и социальных животных модель сложнее (у них только отчасти врождённая система коммуникации, остальное дополняется в результате социального обучения), у простых социальных животных модель проще (и практически полностью врождённая). То есть, зверьё вполне себе владеет своей (видовой и/или популяции) системой коммуникации (своим языком).

Человеческий мозг – это «железо» для ЕИ, а не сам ЕИ. Вот софт на данном «железе», это как раз и есть ЕИ.

Это компьютероцентричное объяснение, которое опять же не имеет доказательств.

А чем принципиально лучше антропоцентрическое объяснение? Как его проверить (подтвердить либо опровергнуть)?

Опять же чисто технически - есть множество технических устройств, которые выполняют некоторые функции, но эти функции неотделимы от самого устройства. В них нет никакого отдельного "железа" и "софта", а есть нечто неделимое.

Вообще-то, функциями некие внешние объекты (наблюдаемое) наделяет наблюдатель, поскольку он оперирует только «отражениями» (сформированными в результате восприятия на основе своих знаний) наблюдаемого в своей системе отсчёта (с позиции своей модели мира, с позиции своих знаний).

Наблюдатели с одинаковой структурой своей системы отсчёта (с одинаковыми моделями, с одинаковыми знаниями) в большинстве случаев будут наделять наблюдаемое одинаковым функционалом.

У каких-то внешних, по отношению к наблюдателю, сущностей какого-то собственного функционала, свойств/качеств/способностей нет, это наблюдатель их наделяет функционалом, свойствами/качествами/способностями.

Вот в камне/булыжнике никакого функционала не «вшито» – он может быть и ударным инструментом, и сиденьем, и метательным снарядом и т.д. и т.п. – всё зависит от наблюдателя. Я могу придумать тысячи функций для камня/булыжника и что, они в него были «вшиты» что ли, а я только выбрал? Эдак можно додуматься, что в любой сущности всегда есть буквально все возможные функции, нам осталось только выбрать.

Но оставим в стороне «высокие материи» и перейдём на распространённую точку зрения (что у объектов есть какие-то функции и они неотделимы от самих объектов). Предполагаю, что придерживаетесь подобной точки зрения, и я попытаюсь рассуждать с вашей точки зрения.

У технических устройств только на самом базовом уровне функционал неотделим от самого устройства (например, транзистор, диод, элементарная схема (обеспечивающая элементарную логическую операцию) и т.п.).

Но в более сложных устройствах (с более сложными схемами) зачастую есть «железо» (сама схема) и есть софт «записанный», как некий набор состояний (есть заряд, нет заряда) элементов схемы. Однако, зачастую состояния элементов можно «обнулить» и «железо» (распайка схемы устройства) при этом останется прежней. Получается, что вполне возможно отделить софт от «железа».

Сегодня практически все современные микропроцессоры и микроконтроллеры оснащены микрокодом (тем самым некий набор состояний элементов). По сути, это прошивка «железа», которую можно перепрошить. То есть,«железо» мы не меняем, меняем только софт (прошивку, микрокод). Значит это отдельные вещи, правильно?

Про более высокий уровень устройств (компьютеры, кластеры из компьютеров), я уже и не говорю, там достаточно легко отделить высокоуровневый софт от «железа». Возьмите любой «пустой» (на нём отсутствует ОС) компьютер и включите его в сеть – максимум, что на нём заработает, это БИОС (тот самый предустановленный софт). А ведь если следовать вашей логике, то должна была запуститься ОС, верно?

Но можно легко эту ОС инсталлировать на данный компьютер, не изменяя самого «железа», и всё заработает. То есть, и здесь – «железо» отдельно, софт отдельно. 

С биологическим «железом» (мозгом) всё сложнее – биологическое «железо» постоянно изменяется в процессе работы, и мы его не можем отключить без последствий. Биологическое «железо» неотключаемое (отключишь, потом не включишь), потому и трудно разделить структуру самого «железа» и работающий софт.

Понятно, что низкоуровневый софт тоже, скорее всего, «вшит» прямо в структуру элементов биологического «железа» (в макромолекулы, в «распайку» нейронов и т.д.) – то есть, он там и «хранится». А вот высокоуровневый софт, скорее всего, не «хранится» где-то в мозге в готовом виде, а формируется (в виде переплетённых циркулирующих потоков электрохимических сигналов по нейронным сетям) каждый раз заново в результате работы низкоуровневого софта.

[BlackMokona]

Биологическое «железо» неотключаемое (отключишь, потом не включишь), потому и трудно разделить структуру самого «железа» и работающий софт

Софт стереть можно у человека. Ведь память можно потерять. Конечно уровень потери сильно разница и сам процесс стирания мягко сказать травмирующий, да неуправляймый. Но всё же отделяется

[Серый Страж]

Биологическое «железо» неотключаемое (отключишь, потом не включишь), потому и трудно разделить структуру самого «железа» и работающий софт

Софт стереть можно у человека. Ведь память можно потерять. Конечно уровень потери сильно разница и сам процесс стирания мягко сказать травмирующий, да неуправляймый. Но всё же отделяется

Воспоминания формируются (как процесс циркуляции электрохимических сигналов по нейронным сетям) каждый раз заново на основе «записей» из «хранилища» памяти. И при потере памяти (насколько я понимаю) «записи» не теряются, просто нейронные пути к этим «записям» изменены, заблокированы или повреждены, и воспоминание не может развернуться в процесс.

Ну, а так-то, да, отчасти софт и «железо» можно разделить (но там всё сложно и не до конца понятно).

[Combinator]

Биологическое «железо» неотключаемое (отключишь, потом не включишь), потому и трудно разделить структуру самого «железа» и работающий софт

Софт стереть можно у человека. Ведь память можно потерять. Конечно уровень потери сильно разница и сам процесс стирания мягко сказать травмирующий, да неуправляймый. Но всё же отделяется

Воспоминания формируются (как процесс циркуляции электрохимических сигналов по нейронным сетям) каждый раз заново на основе «записей» из «хранилища» памяти. И при потере памяти (насколько я понимаю) «записи» не теряются, просто нейронные пути к этим «записям» изменены, заблокированы или повреждены, и воспоминание не может развернуться в процесс.

Ну, а так-то, да, отчасти софт и «железо» можно разделить (но там всё сложно и не до конца понятно).

Как я себе понимаю, потеря памяти может быть как причине её порчи (пресловутый "нейрон бабушки" просто умер), так и по причине потери необходимой "ссылки"на неё (нейронные связи, которые должны были передать сигнал к нужному нейрону, не работают). Конечно, это очень схематично, и на самом деле, всё сложнее, так как память во многом распределена между нейронами, а пути (нейронные связи, по которым сигнал может дойти до нужного нейрона, частично пересекаются, то есть, до конкретного важного нейрона можно дойти разными способами), но принципиально, как то так.   

[BlackMokona]

У компьютеров тоже существует много способов потерять память. И обычно удаление идёт как раз через уничтожение ссылок на данные, а не удаления самих данных. От чего часто данные можно восстановить после критических сбоев или стирания пользователем. Для полного уничтожение требуется уже использовать особые методы вроде заполнения всего диска нулями в десять проходов и тд. Чтобы точно ничего не уцелело. Но это уже тонкости, которые не влияют на общий смысл похожести.

[BlackMokona]

Энергопотребление моделей ИИ на ответ в 1000 токенов в вт*ч

https://habr.com/ru/news/937464/

[Metatron]

Как интересно сторонники "ИИ не думает", обьясняют способность ИИ суммировать длинные тексты?
Как можно выбрать важное из текста без понимания этого текста?

[Combinator]

От чего часто данные можно восстановить после критических сбоев или стирания пользователем.

В биологической памяти во многом аналогично. Известны случаи, когда во время операций на мозге хирург иногда случайно задевает какую-то его область, и клиент вдруг неожиданно вспоминает некие эпизоды из своей жизни, которые он сам считал давно забытыми. 

[BlackMokona]

Игорь Бабушкин, сделал заявление в связи с уходом из ИксАИ. Ну в целом в нём рассказал чутка про внутрению кухню
https://www.reddit.com/r/grok/comments/1mqctxi/xai_cofounder_exits_to_start_ai_safety_funddrops/

[otu K.]

В биологической памяти во многом аналогично

Память таки отдельная в первой сигнальной системе (непосредственно с рецепторов) и во второй сигнальной системе, расшифрованная анализаторами. Для активации памяти первой сигнальной системы необходимо особое состояние психики, в моём случае это была ностальгия. Да, я как бы получил "машину времени", видел, слышал, ощущал то, что было на тот момент уже
 примерно 19 лет назад. Я писал уже об этом десяток лет назад, но видимо не поверили.

[otu K.]

Для записи понадобился сильный стресс, который и вспоминался как "смутный ужас", и расшифровался неожиданно и внезапно, когда был приступ ностальгии