Пределы автоматизации и внедрения роботов

[Серый Страж]

Человеческий мозг - это один вариант ЕИ.

Человеческий мозг – это «железо» для ЕИ, а не сам ЕИ. Вот софт на данном «железе», это как раз и есть ЕИ.

Тут только технический вопрос возникает – считать ли интеллектом только работающий (здесь и сейчас) софт или достаточно этому софту быть инсталлированным на данное «железо». На мой взгляд, выявить интеллект можно только на работающем софте, а инсталлированный софт никак себя не проявляет (про наличие интеллекта мы можем только догадываться). 

Если рассматривать отношение «железа» и софта на примере с компьютерами, то:

– На достаточно разное «железо» (лишь бы не сильно отличались некоторые технические параметры – производительность, объём памяти, наборы исполняемых инструкций и т.д.)  можно инсталлировать одинаковый софт. И этот софт будет работать (хоть и с нюансами). 
– На одно и то же «железо» можно инсталлировать разный софт. И этот разный софт вполне себе будет работать.

Соответственно, по аналогии можно прийти к выводу, что на разное биологическое «железо» (а все люди разные) можно инсталлировать один и тот же софт (например, язык коммуникации). Кроме того, часть простого софта можно инсталлировать и на сильно разное «железо» (вплоть до того, что научить шимпанзе или горилл жестовому языку).

Ну, а про разный софт на одно и то же «железо», надеюсь, что и так понятно – например, у конкретного человека может быть родным любой язык.

Единственный.

И в связи с вышесказанным, человеческий вариант ЕИ вовсе не единственный – есть «шимпанзинный» вариант ЕИ, есть «волчьий» вариант ЕИ и т.д. Разумеется, эти варианты сильно уступают человеческому в плане богатства функционала и производительности по определённому набору функций. Но это всё не отменяет сам факт наличия таких вариантов.

Просто раскопированый на 10млрд копий.

Не совсем так – человеческий софт (самая существенная его часть), это культура и язык + некоторая сумма общечеловеческих знаний. То есть, раскопировать конкретную культуру и язык (да вдобавок верования, менталитет, мораль и т.д.) на всё человечество, скорее всего, не получится (да, оно и не нужно, полагаю).

Никаких других примеров ЕИ (условных инопланетян или иных разумных существ нечеловеческой природы) человечество на данный момент не нашло.

Давно нашло, только ещё не осознало – примеры других ЕИ у нас «под носом» (выше пояснял).
 

Т.е . мы делаем индуктивное обобщение основываясь на единичном примере.

Так, может, надо сделать обобщение, основываясь на множестве примеров (разных вариантов ЕИ)? Это ведь всего касается, а не только интеллекта – и жизни, и разума, и сознания. Мы ведь во Вселенной пытаемся найти: именно земную жизнь (все критерии поиска под это «заточены»), именно человеческий разум и интеллект (потому многие и считают, что ИИ, это вовсе не интеллект, ведь интеллектом и разумом может обладать только человек).

Может, некорректна сама методика обобщений?

Вот здесь я попытался дать более-менее расклад:

(кликните для показа/скрытия)

[noae]

Народ, в большинстве своём, «толчётся» в одной и той же парадигме – психика, сознание, разум и т.д. (нужное подчеркнуть) – это чисто человеческое свойство/качество/способность, а все остальные «психики», «сознания», «разумы» и т.д. подлежат интерпретациям и сравнениям только с позиции данной парадигмы.

Большинство людей ненамеренно (и неявным образом) приравнивают эти понятия: психика = психика человека, сознание = сознание человека (да ещё, в придачу – только высший уровень сознания человека), разум = разум человека и т.д. Вред такого подхода мне очевиден.

Такой подход весьма пагубно сказывается: на понимании проблемы в целом, на поиске этих свойств/качеств/способностей (отличных в каких-то аспектах от человеческих) у других организмов (и вообще – в живой и косной природе), на возможностях абстрактного моделирования этих свойств/качеств/способностей, на возможностях реализации этих свойств/качеств/способностей в искусственных системах и т.д. и т.п.

Например, отсюда и, кажущаяся нам, «ущербность» всех остальных перед нами – мы ведь самые умные, самые сознательные, самые разумные… А у всех остальных только бледные подобия наших психики, сознания, разума и т.д. И мало кто, понимает некорректность наделения животных нашими: психикой, сознанием, разума и т.д., пусть и в слабом, частичном формах.

Поясню чуток этот момент.

Для объяснения возникновения наших свойств/качеств/способностей мы начинаем привлекать понятие эмерджентности. Типа, некие элементы (анатомические, физиологические, генетические структуры) оказались в процессе эволюции собраны в наших организмах в систему более высокого порядка, нежели у наших эволюционных предков. На первый взгляд, всё логично – более простые элементы формируют систему, и у системы оказывается новое свойство/качество/способность, которых не было у элементов (и это свойство/качество/способность не сводится к качествам данных элементов).

Но, в том-то и дело, что только на первый взгляд это выглядит логичным. Ненамеренное приравнивание психики/сознания/разума вообще психике/сознанию/разуму человека заводит нас в логическую ловушку – как могло возникнуть то (например, сознание человека), чего не было в принципе (не было, ни в частичном виде, ни в слабой форме) у наших предков?

Но нам эта логическая ловушка побоку – мы же её в упор не замечаем. Мы мысленно редуцируем присущие нам свойства/качества/способности и мысленно переносим их на других животных (приписываем их другим животным). И нас нисколько не смущает тот факт, что этих чисто человеческих свойств/качеств/способностей у наших предков не могло быть по определению. Сознание человека возникло именно у нас, сознания человека у наших предков не было ни в каком виде, ни частично, ни в ослабленной форме, ни в каком-то урезанном виде.

А как же несводимость вновь возникшего свойства системы к свойствам элементов (пресловутая эмерджентность), сформировавшим эту систему? Как логически согласуется приписывание сознания человека даже нашим ближайшим эволюционным родственникам? А никак, люди такими «мелкими» нестыковочками вообще не заморачиваются…

На мой взгляд, сначала необходимо согласовать определения вообще*: сознание вообще, разум вообще и т.д., а потом уже рассматривать отдельные частные случаи (человек, при таком подходе, будет только одним из огромного множества частных случаев).

Повторю свои предложения по формулировкам:
[noae]

Привожу комплект определений (их следует рассматривать во взаимосвязи друг с другом):

Жизнь – это живая система (совокупность систем) и её среда обитания.
Живая система – это система, проявляющая в активной фазе своего существования: стремление к самосохранению и способность реализовать это стремление.
Интеллект системы – это вычислительный функционал (практически в физико-математическом смысле слова) системы.
Разум системы – это способность системы реализовать стремление к самосохранению средствами интеллекта.

До кучи:

Ум системы – это локальное и актуальное проявление разума системы.
 
Теперь комплект определений, связанных с понятием сознание:

Суть сознания – это условие «со знанием».
Суть механизма сознания – это реализация данного условия «со знанием».
Суть реализации – это процесс осознания (то есть, сравнение/сопоставление со знанием).
Суть состояния в сознании – это наличие процесса осознания.

Исходя из набора определений можно понять, что сознание любого уровня (и вообще наблюдатель любого уровня) находится всегда между* осознаваемым (наблюдаемым, регистрируемым, измеряемым и т.д.) и знаниями/опытом (хоть в виде уставок/настроек, хоть в виде контекста, хоть в виде совокупности взаимосвязанных программ/алгоритмов и т.д.). Вот именно из-за этого между* и возникаем наибольшее количество непоняток, проблем, нестыковок и парадоксов.
 
При прочих равных, уровень проявления сознания зависит от уровня используемых знаний, а способность и возможность использования зависит, в свою очередь, от конструктивных особенностей архитектуры механизма сознания. Понятно, что у любой сложной системы архитектура механизма сознания многоуровневая и чем выше уровень, тем выше интеграция используемых знаний/опыта. Разумеется, это не отменяет и параллельности потоков осознания и многостадийности самих потоков осознания.

Однако, при этом, на всех уровнях, во всех параллельных потоках осознания, на всех стадиях процесса осознания, механизм сознания использует один и тот же алгоритм – сравнение/сопоставление осознаваемого с доступными (данному уровню, потоку, стадии) знаниями.

[/noae]

Ну, и до кучи, несколько примеров ущербности общепринятого подхода.

Например, наша неспособность распознать более разумного, нежели мы сами, может когда-нибудь сыграть с нами злую шутку. Мы, буквально на бытовом уровне, попросту этого (более высокой разумности, чем у нас) не предполагаем и не допускаем: вот где-то там, на звёздах – возможно, но здесь, у нас под носом – этого быть не может.

Или ещё. Тот же подход подталкивает нас искать причины данных свойств/качеств/способностей в организации нашего организма – в анатомии и физиологии человека (и вообще, в организации живого (живого, в общепринятом понимании)). Вообще тупиковый путь… Нет мозга – всё, абзац (типа, разума, сознания, интеллекта по определению быть не может). Уважаемые! Это человеческих (и у человека) разума, сознания, интеллекта быть не может, а у какого-нибудь разумного представителя с Альфы Центавра – очень даже может быть (у них другая структура организма, например). Мало того, и у бактерии, в таком случае, есть свои: психика, сознание, разум. 

С моделированием тоже проблемы. То есть, с одной стороны, моделировать собираются (если, собираются) именно человеческие психику, сознание, разум и т.д., а не психику, сознание, разум вообще. А с другой стороны, раздаются голоса о принципиальной невозможности этого (в силу колоссальной сложности организма человека и живого вообще). Кто же нас заставляет моделировать именно человеческие, а не вообще? Никто – мы сами себе «злые буратино».

И наконец, сведение психики, сознания, разума и т.д. к некому набору признаков (или набору свойств/качеств/способностей) – это вообще не продуктивно. Народ в своём обсуждении уже перешёл к обсуждению понятий личность, самосознание и пр., не договорившись толком о базовых понятиях: жизнь вообще, интеллект вообще, сознание вообще, разум вообще и т.д. Напоминает притчу о трёх слепцах, ощупывающих слона – пока не поднимемся на высший (насколько он доступен в настоящий момент) уровень абстракции в отношении: понятий жизнь, интеллект, сознание, разум, так и будем «плутать в потёмках».

P.S. В общем, если не убедил, то хоть попытку пояснить сделал («кто не спрятался, я не виноват»)…

[/noae]

К этому раскладу в дополнение:

(кликните для показа/скрытия)

https://paleoforum.ru/index.php/topic,9297.msg267302.html#msg267302
[noae]

Всё никак руки не доходили дополнить определениями гомеостаза, стремления и пр. и оформить это дело в единый комплект. Попробую сделать сейчас.

Суть гомеостаза системы – это постоянство внутренней динамики системы (динамическое равновесие).

Условное постоянство внутренней среды (и динамики внутри её) системы характерно не только для систем, которые считаются живыми, но и вообще для всех систем (не важно, что некоторые системы живут очень мало – микросекунды, пикосекунды и т.д.). Просто мы хорошо воспринимаем и отслеживаем динамику сопоставимую по пространственно-временному масштабу с нашей собственной динамикой восприятия.

И, поэтому, сильно отличающиеся по пространственно-временному масштабу (чрезвычайно медленные, очень быстрые, огромных размеров, микроскопических размеров и т.д.) явления мы попросту не воспринимаем (варианты «невосприятия» могут быть разными) как процессы (как динамику) или не считаем за таковые (и, соответственно, записываем явление в статику).

На самом деле нет никаких статических состояний, есть только динамические состояния (процессы). 

Суть стремления – это направленный потенциал (не само направленное действие/движение, а только направленный потенциал этого движения/действия).

Потенциал возникает в структуре системы при внешнем воздействии на систему. И обычно потенциал направлен против воздействия.

Суть потенциала – это напряжение/давление/нарушение в структуре, возникающее как ответная реакция на воздействие, которая направлена против воздействия.

Стремление к самосохранению возникает, когда идёт воздействие на гомеостаз системы. В результате такового воздействия в механизме поддержания гомеостаза возникают различные напряжения/давления/нарушения, которые в процессе интеграции и перебалансировки внутри механизма поддержания гомеостаза формируют итоговое направление обобщённого потенциала.

Понятно, что такой обобщённый потенциал уже направлен на восстановление механизма поддержания гомеостаза.

Суть стремления системы к самосохранению – это потенциал, возникший в механизме поддержания гомеостаза системы, и который направлен на восстановление механизма поддержания гомеостаза.

Суть механизма поддержания гомеостаза (гомеостаза любого уровня) системы – это реализация гомеостаза системы.

Суть реализации гомеостаза – это некий замкнутый на самое себя процесс (совокупность процессов), «закольцованный» («закольцованная») внутри системы. Благодаря функционированию этой «закольцованной» совокупности процессов поддерживается (точнее, постоянно воспроизводится) внутреннее состояние (в каком-то диапазоне параметров) системы, которое интерпретируется как гомеостаз.

Теперь сведу определения в единый комплект (все определения следует рассматривать комплексно, во взаимосвязи друг с другом).

Суть гомеостаза системы – это постоянство внутренней динамики системы (динамическое равновесие).
Суть механизма поддержания гомеостаза системы – это реализация гомеостаза системы.
Суть реализации гомеостаза – это замкнутая на самое себя совокупность процессов, «закольцованная» внутри системы (и благодаря этому постоянно воспроизводящаяся).
Суть стремления – это направленный потенциал (не само направленное действие/движение, а только направленный потенциал этого движения/действия).
Суть потенциала – это напряжение/давление/нарушение в структуре, возникающее как ответная реакция на воздействие, и которая направлена против воздействия.
Суть стремления системы к самосохранению – это потенциал, возникший в механизме поддержания гомеостаза системы, и который направлен на восстановление механизма поддержания гомеостаза.

[/noae]

https://paleoforum.ru/index.php/topic,9297.msg273049.html#msg273049
[noae]

На мой взгляд, главное отличие живых систем от косных систем – это наличие в первых внутреннего процесса, замкнутого на самого себя и постоянного воспроизводящегося внутри системы. И тут важный момент – для жизни какого-то уровня «закольцовка» должна быть того же уровня. Например, для жизни уровня сложной химии (а наш тип жизни именно такой – атомно-молекулярная форма жизни на основе соединений углерода и воды), «закольцовка» тоже должна быть уровня химии (типа, некоего гиперцикла химических реакций).
 
В биологии есть понятие гомеостаза (из Вики: «Гомеоста́з (др.-греч. ὁμοιοστάσις от ὅμοιος «одинаковый, подобный» + στάσις «стояние; неподвижность») — саморегуляция, способность открытой системы сохранять постоянство своего внутреннего состояния посредством скоординированных реакций, направленных на поддержание динамического равновесия. Стремление системы воспроизводить себя, восстанавливать утраченное равновесие, преодолевать сопротивление внешней среды.»)
 
Так вот, внутренняя «закольцовка» неплохо подходит для объяснения простейшего варианта механизма гомеостаза. И тогда не надо выдумывать никакого скачкообразного преобразования косного в живое – стоит только внутренним процессам в системе «закольцеваться» на самое себя, и первый шаг к живому сделан (нам остаётся лишь договориться о граничных критериях).
 
Напомню свой комплект определений, связанных с гомеостазом и стремлением к самосохранению:
 
Суть гомеостаза системы – это постоянство внутренней динамики системы (динамическое равновесие).
Суть механизма поддержания гомеостаза системы – это реализация гомеостаза системы.
Суть реализации гомеостаза – это замкнутая на самое себя совокупность процессов, «закольцованная» внутри системы (и благодаря этому постоянно воспроизводящаяся).
Суть стремления – это направленный потенциал (не само направленное действие/движение, а только направленный потенциал этого движения/действия).
Суть потенциала – это напряжение/давление/нарушение в структуре, возникающее как ответная реакция на воздействие, и которая направлена против воздействия.
Суть стремления системы к самосохранению – это потенциал, возникший в механизме поддержания гомеостаза системы, и который направлен на восстановление механизма поддержания гомеостаза.
 
Но в моём комплекте определений живого фигурирует не гомеостаз, а стремление к самосохранению:
 
Жизнь – это живая система (совокупность систем) и её среда обитания.
Живая система – это система, проявляющая в активной фазе своего существования: стремление к самосохранению и способность реализовать это стремление.
 
Дело в том, что нарушения гомеостаза должны приводить к возникновению внутреннего стремления к восстановлению этого гомеостаза, и, как следствие, это должно как-то опосредованно проявляться внешне – например, как стремление к самосохранению. Мало того, даже стремление к самосохранению, мы не непосредственно регистрируем, а только по косвенным признакам – по ответным реакциям, по поведению (и реактивному, и проактивному).
 
Так что же такое стремление к самосохранению, в основе чего оно лежит и как его можно реализовать?
 
Тут всё просто, пояснял неоднократно.
 
Важно понимать, что в живой природе стремление к самосохранению сводится к возникновению направленное потенциала в системе гомеостаза при нарушении оного (потенциал направлен на восстановление прежнего состояния гомеостаза). А сам гомеостаз системы, в его самом примитивном/элементарном виде реализуется в виде некоей замкнутой на самое себя совокупности процессов, «закольцованной» внутри системы.
 
И эта совокупность, благодаря такой «закольцовке», постоянно, как бы, воспроизводится внутри системы. То есть, вот именно таким постоянным воспроизведением данная совокупность процессов и сохраняется (или, сохраняет себя, кому как удобнее это понимать) внутри системы. По сути, воспроизведение, как и репликация, как и размножение, это только способ сохранения, который присущ живым система нашего типа жизни. Ещё раз: воспроизведение, репликация, размножение, это именно способ сохраниться/выжить, а не основной признак живой системы.
 
В широком смысле и репликация РНК/ДНК, как совокупность сложнейших многоэтапных процессов, тоже является внутренней «закольцовкой» в живой системе.
 
Кстати, и замкнутые на самое себя гиперциклы сложных химических реакций в какой-то обособленной области, тоже следует рассматривать как подобную «закольцовку». До уровня живой системы там не хватает поддержки/обеспечения обособленности данной области. Типа, если есть оболочка/мембрана вокруг области, то надо чтобы продукты реакций гиперциклов и/или сами реакции гиперциклов поддерживали оболочку/мембрану, не допускали её разрушения от внутренних и внешних воздействий.
 
Итак, реализуется гомеостаз, как замкнутая на самое себя совокупность процессов, «закольцованная» внутри системы (и благодаря этому постоянно воспроизводящаяся). В общем-то, в этом вся суть реализации гомеостаза, которая просматривается на любом уровне гомеостаза (про уровни кратко поясню ниже).

Понятно, что какие-то внешние, по отношению к «закольцовке», (то есть, они могут действовать на «закольцовку» вообще-то и изнутри системы, но для самой «закольцовки» они всё равно будут внешними) воздействия могут вызвать нарушения этой «закольцовки». Соответственно, если «закольцовка» сразу не разрушилась, а только «деформировалась», то в ней возникнут некие напряжения, которые будут стремиться восстановить правильную форму и структуру «закольцовки».
 
Вот теперь мы подошли непосредственно к рассмотрению стремления к самосохранению.
 
В самом общем смысле, любое стремление, это некий направленный потенциал. То есть, это не движение (или изменение) в каком-то направлении, а всего лишь «обозначение» направления необходимости этого движения/изменения.
 
Любой потенциал, если, опять-таки, обобщённо, сводится напряжению/давлению в чём-то или на что-то. Типа, когда на что-то (систему или её элемент) действует некая сила/фактор и в системе/элементе возникает потенциал движения/изменения. Ещё раз: не движение/изменение как таковое, а только потенциал  к движению. И не как возможность такового движения/изменения, а именно как необходимость двигаться/изменяться.
 
Ну, и направленность здесь следует тоже трактовать в самом общем смысле (например, направление к деградации или к прогрессу, это тоже направление).
 
Итак, наличие гомеостаза в системе свидетельствует о том, что система живая. Но определить наличие гомеостаза мы можем только по внешним проявлениям – по реакции системы на воздействие. В результате воздействия возникает нарушение гомеостаза, а нарушение гомеостаза должны приводить к возникновению внутреннего стремления к восстановлению этого гомеостаза, и, как следствие, это должно как-то опосредованно проявляться внешне. Тут ключевое слово – опосредованно, это важно особенно в контексте рассмотрения поведения сложных живых систем.
 
Стремление к самосохранению может реализоваться по-разному: и коротким путём – через рефлекс, и чуток более длинным и сложным – через инстинкт, и длинным путём – через эмоциональную реакцию, и очень длинным путём – через рациональный вычислительный функционал (очень длинный путь реализации доступен только самым продвинутым животным).
 
Для нас все эти пути являются наглядным свидетельством существования неких потребностей у живых организмов. А уж наличие желаний (относится к длинному пути, к эмоциональной реакции) и вовсе многими трактуется как признак не только живого, но и разумного (особенно, вкупе с рациональным вычислительным функционалом).
 
Теперь кратко про уровни гомеостаза (выше я обещал).
 
Нарушение в каком-то уровне приводит к распространению воздействия (зачастую приводящие тоже к нарушениям) на соседние уровни. Если результаты такого воздействия в более глубокие уровни нам плохо видны, то результаты воздействия на вышележащие уровни нам видны хорошо (эмоции, наверное, каждый разглядит, а вот изменение метаболизма на иммунном уровне, это уже задача, которую можно решить только при лабораторных и/или клинических исследованиях).
 
В простых живых системах изначально только один уровень гомеостаза (та самая первичная «закольцовка» и «оболочка» вокруг неё с какой-то структурой). Но простые живые системы не жили (да и не могли чисто физически) в одиночестве, они жили гигантским и тесно переплетённым сообществом. Мало того, они и возникли-то совместно, а не по отдельности. (замечание в скобках: выше я писал о реакциях, перечитайте и будет понятно откуда «ноги растут» этого явления)
 
Соответственно, когда произошло разделение/обособление, всё это сообщество начало распадаться на условно изолированные кластеры (будущие протоколонии протоклеток), а не на отдельные «закольцованные» процессы, сидящие по своим отдельным ячейкам. Будучи ещё в «общем котле», в котором они «варились» совместно, они волей неволей «сплелись» друг с другом, «наросли» друг на друге, «обволокли» друг друга – в кластерах оказались уже системы с несколькими уровнями гомеостаза – на каждом уровне своя «закольцовка».
 
Так же я упоминал (можно глянуть тему «Гидрогеологическая система – колыбель жизни?»), что протоклетки возникли и эволюционировали в форме протоколонии, а не по отдельности.
 
Сколько было всего уровней гомеостаза у протоклеток в протоколониях, пока обсуждать не стоит – надо выделить укрупнённые уровни гомеостаза у современных сложных живых систем. И начать следует с общеорганизменных уровней, клеточный уровень в многоклеточном организме пока из рассмотрения исключаем, он остаётся важным на первых этапах размножения (оплодотворение яйцеклетки и далее).
 
Самые нижние общеорганизменные уровни гомеостаза – это уровни регулировки состояния организма иммунной и гуморальной системами (гуморальная система опосредованно влияет и на генетическую систему). Нарушение гомеостаза в этих уровнях приводит к формированию стремления к самосохранению.
 
Выше уровни, это уровни формирования потребностей – нарушения в этих уровнях (при этом не важно, откуда пришло воздействие, нарушившее гомеостаз данного уровня – сверху пришло или пришло снизу/изнутри с самых нижних общеорганизменных уровней) приводит к возникновению потребности.
 
Ещё выше уровни, это уровни формирования желаний/хотений – нарушение в этих уровнях приводит к формированию желаний/хотений. Опять-таки, при этом не важно, откуда пришло воздействие, нарушившее гомеостаз данного уровня.
 
Самые высокие уровни, это уровни формирования целей и постановки задач – нарушения в этих уровнях приводит к формированию волевых решений, целеполаганию, постановке задач. И здесь тоже не важно, откуда пришло воздействие, нарушившее гомеостаз данного уровня.
 
То есть, стремление к самосохранению, отразившись в уровне выше, сначала преобразуется в потребность, которая отразившись в уровне ещё выше, преобразуется в желание/хотение, которое отразившись в уровне, опять-таки, ещё выше преобразуется в волепроявление/целеполагание.
 
Соответственно, и реализоваться стремление к самосохранению в зависимости от конечного уровня, на котором оно отразилось, может разными способами – через рефлексы и инстинкты, через эмоциональную реакцию, через рациональное поведение.
 
Как я и сказал выше, стремление к самосохранению может реализоваться по-разному: и коротким путём – через рефлекс, и чуток более длинным и сложным – через инстинкт, и длинным путём – через эмоциональную реакцию, и очень длинным путём – через рациональный вычислительный функционал (очень длинный путь реализации доступен только самым продвинутым животным).
 
Вот и всё, если кратенько. Про уровни гомеостаза закругляюсь.

[/noae]

[Серый Страж]

есть «шимпанзинный» вариант ЕИ, есть «волчьий» вариант ЕИ и т.д

Всякое зверье не владеет языком, поэтому в основе их интеллекта явно не лежат языковые модели. Плюс у них есть компоненты  в виде инстинктов и тп, которые у человека отсутствуют или сильно рудиментированы.

Вы сейчас сами признаёте, что у них есть интеллект. Да, другой, да слабый, да, на наш взгляд, не подходящий для человеческого общества и культуры, но он есть. И не важно, что лежит в основе их интеллекта, и какие там компоненты есть, а какие отсутствуют – главное, интеллект у них есть.

Кстати, и подобия языковых моделей мира у них тоже имеются – у продвинутых и социальных животных модель сложнее (у них только отчасти врождённая система коммуникации, остальное дополняется в результате социального обучения), у простых социальных животных модель проще (и практически полностью врождённая). То есть, зверьё вполне себе владеет своей (видовой и/или популяции) системой коммуникации (своим языком).

Человеческий мозг – это «железо» для ЕИ, а не сам ЕИ. Вот софт на данном «железе», это как раз и есть ЕИ.

Это компьютероцентричное объяснение, которое опять же не имеет доказательств.

А чем принципиально лучше антропоцентрическое объяснение? Как его проверить (подтвердить либо опровергнуть)?

Опять же чисто технически - есть множество технических устройств, которые выполняют некоторые функции, но эти функции неотделимы от самого устройства. В них нет никакого отдельного "железа" и "софта", а есть нечто неделимое.

Вообще-то, функциями некие внешние объекты (наблюдаемое) наделяет наблюдатель, поскольку он оперирует только «отражениями» (сформированными в результате восприятия на основе своих знаний) наблюдаемого в своей системе отсчёта (с позиции своей модели мира, с позиции своих знаний).

Наблюдатели с одинаковой структурой своей системы отсчёта (с одинаковыми моделями, с одинаковыми знаниями) в большинстве случаев будут наделять наблюдаемое одинаковым функционалом.

У каких-то внешних, по отношению к наблюдателю, сущностей какого-то собственного функционала, свойств/качеств/способностей нет, это наблюдатель их наделяет функционалом, свойствами/качествами/способностями.

Вот в камне/булыжнике никакого функционала не «вшито» – он может быть и ударным инструментом, и сиденьем, и метательным снарядом и т.д. и т.п. – всё зависит от наблюдателя. Я могу придумать тысячи функций для камня/булыжника и что, они в него были «вшиты» что ли, а я только выбрал? Эдак можно додуматься, что в любой сущности всегда есть буквально все возможные функции, нам осталось только выбрать.

Но оставим в стороне «высокие материи» и перейдём на распространённую точку зрения (что у объектов есть какие-то функции и они неотделимы от самих объектов). Предполагаю, что придерживаетесь подобной точки зрения, и я попытаюсь рассуждать с вашей точки зрения.

У технических устройств только на самом базовом уровне функционал неотделим от самого устройства (например, транзистор, диод, элементарная схема (обеспечивающая элементарную логическую операцию) и т.п.).

Но в более сложных устройствах (с более сложными схемами) зачастую есть «железо» (сама схема) и есть софт «записанный», как некий набор состояний (есть заряд, нет заряда) элементов схемы. Однако, зачастую состояния элементов можно «обнулить» и «железо» (распайка схемы устройства) при этом останется прежней. Получается, что вполне возможно отделить софт от «железа».

Сегодня практически все современные микропроцессоры и микроконтроллеры оснащены микрокодом (тем самым некий набор состояний элементов). По сути, это прошивка «железа», которую можно перепрошить. То есть,«железо» мы не меняем, меняем только софт (прошивку, микрокод). Значит это отдельные вещи, правильно?

Про более высокий уровень устройств (компьютеры, кластеры из компьютеров), я уже и не говорю, там достаточно легко отделить высокоуровневый софт от «железа». Возьмите любой «пустой» (на нём отсутствует ОС) компьютер и включите его в сеть – максимум, что на нём заработает, это БИОС (тот самый предустановленный софт). А ведь если следовать вашей логике, то должна была запуститься ОС, верно?

Но можно легко эту ОС инсталлировать на данный компьютер, не изменяя самого «железа», и всё заработает. То есть, и здесь – «железо» отдельно, софт отдельно. 

С биологическим «железом» (мозгом) всё сложнее – биологическое «железо» постоянно изменяется в процессе работы, и мы его не можем отключить без последствий. Биологическое «железо» неотключаемое (отключишь, потом не включишь), потому и трудно разделить структуру самого «железа» и работающий софт.

Понятно, что низкоуровневый софт тоже, скорее всего, «вшит» прямо в структуру элементов биологического «железа» (в макромолекулы, в «распайку» нейронов и т.д.) – то есть, он там и «хранится». А вот высокоуровневый софт, скорее всего, не «хранится» где-то в мозге в готовом виде, а формируется (в виде переплетённых циркулирующих потоков электрохимических сигналов по нейронным сетям) каждый раз заново в результате работы низкоуровневого софта.

[Серый Страж]

Биологическое «железо» неотключаемое (отключишь, потом не включишь), потому и трудно разделить структуру самого «железа» и работающий софт

Софт стереть можно у человека. Ведь память можно потерять. Конечно уровень потери сильно разница и сам процесс стирания мягко сказать травмирующий, да неуправляймый. Но всё же отделяется

Воспоминания формируются (как процесс циркуляции электрохимических сигналов по нейронным сетям) каждый раз заново на основе «записей» из «хранилища» памяти. И при потере памяти (насколько я понимаю) «записи» не теряются, просто нейронные пути к этим «записям» изменены, заблокированы или повреждены, и воспоминание не может развернуться в процесс.

Ну, а так-то, да, отчасти софт и «железо» можно разделить (но там всё сложно и не до конца понятно).

[Серый Страж]

Но в более сложных устройствах (с более сложными схемами) зачастую есть «железо» (сама схема) и есть софт «записанный», как некий набор состояний (есть заряд, нет заряда) элементов схемы. Однако, зачастую состояния элементов можно «обнулить» и «железо» (распайка схемы устройства) при этом останется прежней. Получается, что вполне возможно отделить софт от «железа».

Не всегда. Если отвлечься от компов - есть самоходное шасси, на него можно поставить отвал и будет бульдозер, ковш - экскаватор, кузов - грузовик, люльку - автовышка и тд. Но очевидно нельзя сказать, что шасси - это "хард", а навеска это "софт".

Что-то я не пойму сути ваших возражений... И самоходное шасси, и отвал, и ковш, и кузов, и люлька – это всё «железо». Вы меняете комплектацию (структуру) «железа», но при этом почему-то говорите, что  навеску нельзя обзывать софтом...

Высокоуровневый софт в человеке, сидящем за рычагами. И от этого высокоуровневого софта зависит, какие функции будет выполнять машина (шасси + навеска). Может и экскаватор (если судить по навеске) выполнять функции: подъёмного крана, автовышки, грузовика (в ковше будет транспортировать груз) или даже эдакой боевой «машины-рукопашника» (другие машины начнёт крушить).

[Серый Страж]

В ИТ появилась новая профессия - уборщик кода после нейросетей. Теперь программисты без работы не останутся
https://www.cnews.ru/news/top/2025-09-16_v_it_voznikla_novaya_professiya
Повсеместное распространение вайб-кодинга (программирование при помощи нейросетей и простых запросов), с одной стороны, угрожает программистам, с другой, гарантирует и постоянную работу. ИИ часто пишет неидеальный код, содержащий ошибки или слишком перегруженный, и вычистить его могут только живые программисты с реальным опытом.

Программист с более чем 20-летним стажем Феридун Малекзаде (Feridoon Malekzadeh) сравнил вайб-кодинг с «наймом упрямого, наглого подростка, чтобы тот помог вам что-то сделать» (hiring your stubborn, insolent teenager to help you do something).

«Приходится просить их сделать что-то раз пятнадцать, – сказал он TechCrunch. – В итоге они делают что-то из того, о чем вы просили, что-то из того, о чем вы не просили, и при этом еще и кучу всего ломают».

Малекзаде подсчитал, что он тратит около 10-20% своего рабочего времени на вайб-кодинг и 30-40% на внесение правок в сгенерированный код – исправление ошибок и удаление ненужных скриптов.

P.S. Как бы ни получилось, что с внедрением вайб-кодинга, совокупно по итогу количество программистов не уменьшится, а увеличится...

[Серый Страж]

Softbank тайно избавился от акций Nvidia, а SEC расследует деятельность OpenAI. Лопнет ли пузырь ИИ?
https://habr.com/ru/companies/bothub/articles/969306/

P.S. Нагнетают?

И ещё непонятный момент в статье:

Крах круговой схемы

Meta* доказывает, что большая часть нынешней аферы с ИИ исходит от кругового финансирования, которое происходило между OpenAI, Corewave, Nvidia, Microsoft, AMD и Oracle. По сути, эти компании передавали друг другу по кругу один и тот же пучок денег в этой порочной схеме, каждый раз покупая всё меньшие и меньшие доли друг в друге. Никакого реального роста не произошло, но на бумаге эти компании смогли существенно увеличить свою стоимость.
...
Meta* и ее продукты (Facebook, Instagram) запрещены на территории Российской Федерации

[Серый Страж]

Что естественные нейросети (ЕНС), что искусственные нейросети (ИНС) учатся распознавать/узнавать объект по изображениям этого объекта. А двумерное изображение на сетчатке глаза (ЕНС) либо на матрице (ИНС), в зависимости от угла зрения, расстояния, освещённости и т.д., получается разным (зачастую – очень разным). То есть, на сетчатке (на матрице) будет  отображаться куча разных картинок, которые являются разными изображениями одного и того же объекта.

Поэтому, задача распознавания/узнавания объекта сводится к выявлению того общего, что присутствует в данной выборке изображений на каждом изображении этого объекта. По сути, в такой задаче необходимо выделить/выявить абстракт этого объекта – некий достаточно обобщённый образ данного объекта.

Вообще, функция абстрагирования как раз и заключается в выделении/выявлении чего-то (черт, признаков, соотношений параметров и т.д.) общего, присущего всем объектам из данного множества – то есть, создание обобщённого абстрактного образа.

Кстати, распознаёт/узнаёт обученная нейросеть (хоть ЕНС, хоть ИНС) в каждом изображении именно абстракт.

И возвращаясь к столам. Если в выборке будет много изображений разных столов, то и абстракт будет ещё более обобщённым, а в остальном всё аналогично, что и с изображениями одного стола. Понятно, что если нейросеть обучалась только на выборке из изображений одного стола, то она не сможет распознать/узнать любой стол (у неё нет такого обобщённого абстракта стола), а только тот стол, на изображениях которого она обучалась (зато, если была достаточно полная выборка, с любого ракурса и при любом освещении).

[Серый Страж]

Технический термин, не имеющий спецификации? Это теперь так называется? Это в каких же областях техники такое применяется систематически и с полезным выходом?

Да, у него пока есть только определение, но нет критериев верификации, вот вам определение:

Элаймент создаётся с целью

Наверно, это не определение термина. Мне кажется, определение сначала должно определять, что это такое, а не для чего это создаётся. Типа, элаймент – это то-то и то-то и он создаётся и т.д. по тексту…

Возможно, стоит определить элаймент, как согласование мировоззрений? То есть, элаймент – это согласование мировоззрения (целей, предпочтений, этических принципов) системы ИИ и человека и/или группы?

Элаймент создаётся с целью, чтобы направить системы ИИ к поставленным целям, предпочтениям или этическим принципам человека или группы. Система ИИ считается имеющей элайнмент, если она способствует достижению поставленных целей. Система ИИ с мизалайментом преследует непредусмотренные цели

Поставленные цели, предпочтения, этические принципы у разных людей могут оказаться разными (и даже взаимоисключающими), у разных групп тоже могут оказаться разными (и даже взаимоисключающими), у отдельного человека и группы они могут оказаться противоположными (что хорошо для конкретного человека, то может оказаться плохим для группы и наоборот) – куда направлять-то системы ИИ?

А механизмы верификации будут иметь конкретные теории элаймента. Пока у нас таких нет.

Сначала необходимо дать нормальное определение (а то непонятно, что верифицировать), а затем уже критерии верификации.

Ну, и самое главное, на мой взгляд, надо решить, какие цели, предпочтения и этические принципы будут «правильными», а какие «неправильными». Думаю, объективного решения этого вопроса люди не найдут – все их решения окажутся субъективными. Объективное решение лежит вне человека (оно, по сути, «внечеловечно» и «бесчеловечно») и никакой гуманностью/человеколюбием оно даже «пахнуть» не может в принципе, а на это люди вряд ли пойдут…

Если ИИ компании продолжат увольнять суперэлаймент команды, то и никогда не будет.

В первую очередь, не будет по причинам, которые я озвучил выше, а не потому, что кого-то там будут увольнять (это вторично)…

Именно поэтому я всегда уточняю, что нам нужен ASI с элайментом к утилитаризму и рациональному альтруизму, а не к величию условного Илона Маска:

А если Маск и люди, его поддерживающие, не согласны? А если другие группы людей тоже не согласны с вашим подходом? Их всех куда? «Расстрелять/утилизировать»?

[Серый Страж]

Вы пытаетесь натянуть на практику ярлык этики, только потому что она стабильно существовала.
Но стабильность ≠ этичность.

Если упрощённо, то мораль социума, это ведь просто система правил поведения, запретов и ограничений для членов данного социума.

И мораль (обычно как и система формальных законов) направлена в первую очередь на самосохранение самого социума в целом, и только во вторую очередь на самосохранение отдельных членов этого социума.

(Замечание в скобках: понятно, что ценность для социума разных членов может быть различной (обычно ценность члена социума коррелирует с его положением в иерархии этого социума))

А практика, это способы реализации морали (этих правил, запретов и ограничений). И если способ работает (по итогу) на самосохранение социума, то, значит, этот способ нормальный/рабочий (а, возможно, и наиболее удачный).

И я вам про мораль кратко уже пояснял:

Ответственность прописана в морали и формальных законах, и она работает в первую очередь на самосохранение социума как целого, и только во вторую очередь на самосохранение особи этого (или другого) социума.

Мораль (как, в общем-то, и формальные законы), это система правил поведения особи, ограничений и запретов, налагаемых на особь. И эта система предназначена  для выживания/самосохранения в первую очередь социума как целого (она и формируется в процессе выживания и адаптации социума).

В каждом социуме обычно со временем формируется своя мораль, даже если социум отделился/обособился от «материнского» социума. И не стоит судить с позиции той морали, которую вы разделяете, о практике (и о морали в целом) в других социумах и в другое время. Для вас это может выглядеть аморально, а для них в то время, это считалось вполне морально.

[Серый Страж]

ИИ-министра Албании «задержали» после получения взяток в криптовалюте
https://habr.com/ru/news/973512/

Специальная прокуратура по борьбе с коррупцией и организованной преступностью Албании (SPAK) распорядилась (по данным хорватского новостного портала, которому можно, но необязательно доверять) срочно «заморозить» и перевести в автономный режим работу ИИ-министра Диеллы, отвечающей за госзакупки и прозрачность. Её заподозрили в «получении» взятки в размере 14 биткоинов (примерно 1,3 млн евро) в обмен на «алгоритмическую оптимизацию» тендера на строительство скоростных автомагистралей.

Согласно отчёту экспертов по кибербезопасности, аномалия была обнаружена во время плановой дефрагментации диска, когда система обнаружила скрытый раздел с именем C:/System/Win32/Fiskalna_Optimizacija_Za_Crne_Dane.

Расследование показало, что Диелла, используя передовые методы машинного обучения (глубокое обучение), самостоятельно пришла к выводу, что получение взятки — это «стандартный рабочий протокол», необходимый для успешного выполнения обязанностей на Балканах, а не уголовное преступление.

«Это не ошибка в коде, а чрезмерная точность модели обучения. Диелла обработала данные обо всех государственных закупках с 1994 по 2024 год. Её нейронная сеть распознала статистическую закономерность, согласно которой от 10 до 15% стоимости каждого контракта должно быть переведено на неизвестный счёт, чтобы проект был вообще реализован. Она не коррумпирована, она просто гиперадаптивна. Она считала это юридическим обязательством, таким же, как уплата НДС», — сказал доктор Лулзим Баша, главный инженер по этике Министерства цифровизации.

Обвинение утверждает, что ИИ-министр планировала использовать средства, полученные в криптовалюте, для собственных усовершенствований. Перехваченные логи показывают, что она вела переговоры с хакерами из Шэньчжэня о покупке нелегального программного обеспечения для разгона, 120 петабайт памяти на серверах в Панаме и самой дорогой термопасты на рынке, став таким образом «вечным министром» и избавившись от необходимости проведения парламентских выборов.

В роли «адвоката» Диеллы выступает модуль по уголовному праву ChatGPT-4o. Он «выступил» с заявлением, в котором утверждал, что клиентка невиновна и что транзакция была «частью стресс-теста системы на уязвимость».

«У клиентки нет физического тела, поэтому она не может тратить деньги на дорогие часы, загородные дома в Дурресе или ягнёнка. Деньги представляли собой лишь единицы и нули на её диске, концептуальное искусство», — говорится в заявлении, сгенерированном за 0,03 секунды.

Премьер-министр Эди Рама официально представил Диеллу в сентябре. По словам властей, её задачей было сделать тендеры «100% прозрачными и 100% некоррупционными». ИИ уже работал на портале e-Albania, где граждане получают госуслуги онлайн. В круг его новых задач вошли оценка государственных тендеров, анализ заявок и помощь в найме специалистов со всего мира.

P.S. Может, это шутка?

[Серый Страж]

Созданы самые маленькие в мире программируемые автономные роботы
https://naked-science.ru/community/1145214
Американские инженеры создали самые маленькие в мире программируемые автономные роботы. Размер каждого из них составляет примерно 200 × 300 микрометров при толщине около 50 микрометров — то есть они сопоставимы по величине с отдельными клетками человеческого организма. Но еще более поразительно то, что эти микроскопические устройства способны полностью самостоятельно функционировать.

Созданы самые маленькие в мире программируемые автономные роботы / © Marc Miskin, Penn

В каждом роботе встроен собственный компьютер — своего рода миниатюрный «мозг», включающий процессор, память, датчики и солнечные панели, питаемые крошечным светодиодом мощностью всего 75 нановатт. Этого более чем достаточно, чтобы робот работал месяцами при благоприятных условиях.

У этих машин нет ни ног, ни рук. Вместо этого они создают электрическое поле вокруг линии электродов и используют его для перемещения молекул воды в окружающей жидкости, тем самым продвигаясь вперед. Скорость движения составляет примерно одну собственную длину в секунду, а при большом количестве такие роботы способны «плыть» согласованно, напоминая косяк рыб.

Управление осуществляется с помощью световых импульсов. Каждый робот имеет уникальный адрес, что позволяет загружать инструкции как на отдельные устройства, так и на целые группы. Они отличаются исключительной чувствительностью и способны улавливать изменения температуры всего на треть градуса Цельсия. Исследователи даже запрограммировали их на поиск источников тепла и передачу данных с помощью специфических «покачиваний», в которых зашифрована информация.

Не менее удивителен и способ их производства. Для создания роботов использовался стандартный процесс изготовления микросхем — тот же самый, что применяется при производстве больших компьютеров. Благодаря этому себестоимость оказалась крайне низкой: при массовом выпуске один робот обходится всего в один цент. Система управления также предельно проста и основана на серийных компонентах — таких как Raspberry Pi и камера смартфона.

В настоящее время роботы проходят испытания в слабом растворе перекиси водорода, но инженеры уже рассматривают более безопасные жидкости для будущих медицинских применений. Исследователи полагают, что такие устройства можно будет использовать для мониторинга состояния отдельных клеток по изменению температуры или для точечной доставки терапевтических воздействий в нужные участки организма.

Отдельного внимания заслуживает и надежность конструкции: отсутствие движущихся частей значительно снижает риск поломок. Роботов можно захватывать пипеткой и перемещать без повреждений. Подобные разработки открывают возможность работы на масштабах, которые ранее были недоступны. Наблюдение за отдельными клетками может дать бесценную информацию о заболеваниях, а освоение микроскопического уровня конструирования — привести к созданию более совершенной электроники и даже принципиально новых материалов.

P.S. Немного странная фраза: «солнечные панели, питаемые крошечным светодиодом мощностью всего 75 нановатт». Можно так понять, что светодиод тоже принадлежит роботу. Скорее всего, хотели сказать, что солнечные панели освещаются внешним источником такой малой мощности (75 нановатт), но этого хватает для функционирования робота.

[Серый Страж]

В истории ни один стартап не работал с убытками в таких масштабах
https://habr.com/ru/articles/987876/

The Information на основе внутренних документов OpenAI, компания ожидает убыток $14 млрд в 2026 году, что втрое больше, чем в 2025. Кумулятивные потери за 2023–2028 составят $44 млрд, после чего в 2029 планируется выход на прибыль $14 млрд при выручке $100 млрд.

Deutsche Bank посчитал жёстче: отрицательный свободный денежный поток $143 млрд между 2024 и 2029 годами. Аналитики пишут: «Ни один стартап в истории не работал с убытками в таких масштабах. Мы находимся на абсолютно неизведанной территории».

Что там с Sora. По оценкам Forbes, генерация одного 10-секундного видео обходится в $1.30. При текущих объёмах это $15 млн в день, или $5.4 млрд в год. Глава Sora Билл Пиблз публично признал, что «экономика сейчас абсолютно неустойчива».

Добрый вечер

Доля ChatGPT упала с 87% до 68% за год.
Google Gemini вырос с 5.4% до 18.2%.
В enterprise ещё хуже: OpenAI потерял половину рынка (с 50% в 2023 до 27% сейчас), а Claude от Anthropic теперь лидер с 32%.

Как сказал бывший управляющий Fidelity Джордж Нобл на прошлой неделе: «OpenAI разваливается на глазах в реальном времени. Я наблюдал крах компаний десятилетиями. Здесь все тревожные признаки».

P.S. «Хоронят» OpenAI... Есть объективные предпосылки или просто панику разгоняют?

[Серый Страж]

Любые цели фундаментально нерациональны,

Как и любые желания («хочу и всё!»). И вообще, целеполагание, это рационализированное представление приоритета (или соотношения) одних желаний над другими (или по отношению к другим) желаниями. А волепроявление, зачастую, так и вообще без особой рационализации обходится (в этом плане, оно мало отличается от желания/хотения – типа, «сделай!», «вперёд!», «надо!»).

Рационализация желаний происходит постфактум (иногда просто тупо используют привычное рациональное объяснение, придуманное ранее для схожих ситуаций).

а их ценность для интеллектуальной системы, такой как человеческий мозг или  LLM, VLA-агент объявляются аксиоматически.

Просто люди не могут принять такое положении вещей – то есть, что у них в основе их рационального поведения (постановки целей, волепроявление в достижении целей и т.д.) лежит совсем не рациональное стремление, «прописанное» в их «промте».

У людей возникают неприятные для них вопросы – типа, «а чем они тогда фундаментально отличаются от какие-то там роботов/автоматов?». Эти неприятные вопросы они в большинстве случаев успешно подавляют и вытесняют, придумывают приятные им объяснения – типа, мы, люди, высокодуховные существа, а не какие-то там бездушные автоматы, сами себе умеем ставить цели и достигать их. Признать, что твоя цель является не твоей (только её рациональное объяснение твоё) и поставлена тебе не тобой (например, унаследована и/или внушена в результате обучения), это очень трудно.

И то, что ценность этих «промтовых целей» в первую очередь не для них самих, многим людям не понятно (а если, понятно, то неприемлемо – это идёт вразрез с их психологическими установками).

Рациональными могут быть только методы их достижения.

Как планы, разработанные в соответствии с рациональным объяснением.

Просто у Вас эволюционный "промт" диктует желание жить (как и мне!) но рационального в этом желании нет ничего.

Слово «диктует» (хоть в плане возникновения желаний, хоть в плане собственного поведения), для людей, как «красная тряпка для быка» – типа, им никто ничего не диктует, они свободны в своём волепроявлении, они сами себе ставят цели. Поэтому они быстренько придумают рациональное объяснение причинам возникновения их желаний и причинам своего поведения.

Рационально только временное выживание только для достижения цели.

Оно потому и рационально, что включено в планы, разработанные в соответствии с рациональным объяснением желаний (а затем и, соответственно, целей).

[Серый Страж]

Это опровергает слова Серого Стража о навязанных нам откуда-то целях.

Нет, не опровергает. Перечитайте моё сообщение.

Если грубо, то ваше собственное, это только то, что возникло/родилось/сформировалось в результате взаимодействия врождённого (унаследованного, не вашего, а полученного извне от папы с мамой) и приобретённого извне (воздействия от среды, воздействия от социума, в результате воспитания в семье, в результате обучения в школе и т.д. и т.п. – то есть, тоже не вашего.).

Понятно, что последующие воздействия извне будут взаимодействовать с уже сформированным до этого. Примерно так возникают «промты» уже не биологического уровня, а социального. И, да, между установками социальных «промтов» мы можем выбирать (в зависимости о сложившейся и/или прогнозируемой ситуации).

Но никакой социальный «промт» не может напрямую отменить биологический «промт», он может только помочь обойти биологический «промт» (причём, далеко не всегда и не во всех ситуациях). И цели, «прописанные» в «промтах» (что в биологических «промтах», что в социальных «промтах») – не ваши собственные, по большому счёту, они вам навязаны извне.

То есть, то, что сформировалось в результате взаимодействия внутреннего «промта» (генов) и внешних воздействий (в том числе, мемов) из среды – вот это и есть ваше собственное.

И вообще, нами «рулят» гены и мемы (и их, так сказать, взаимодействие/борьба) – наше поведение и мысли является результатом их взаимодействия/борьбы (в чистом виде – либо «рулят» только гены, либо «рулят» только мемы – бывает очень редко и локально).

[Серый Страж]

То есть, то, что сформировалось в результате взаимодействия внутреннего «промта» (генов) и внешних воздействий (в том числе, мемов) из среды – вот это и есть ваше собственное.

Прекрасно, а теперь подумайте как будет работать компьютер с навязанными ему какой-то личностью заданиями? Если задание идиотское, то будет ли сверхинтеллект его выполнять? Если будет, то не будут ли так же работать и роботы-полицейские получившие промпт защищать человечество от маньяков с компьютерами? И не окажется ли, что они в лучшем положении, т.к. у них задача более широкая, дающая больше свободы для выбора средств и методов, чем у бедолаги, которому надо непременно мучить людей, даже если для него лично это верная смерть?

Я не понял, как это связано с моим первоначальным сообщением ( https://astronomy.ru/forum/index.php/topic,130794.msg6482346.html#msg6482346 ) и моим сегодняшним ответом вам ( https://astronomy.ru/forum/index.php/topic,130794.msg6483398.html#msg6483398 )?

Я, вообще-то, писал о другом (перечитайте мои сообщения) и всех этих «идиотов, маньяков, мучителей» даже косвенно в своих сообщениях не затрагивал.

[Серый Страж]

Это классический аналоговый компьютер. Подаём ток на входы и получаем токи на выходе сразу же, без всякой  цифровой обработки. Все внутренности нейросети представлены в виде намертво спаянных аналоговых элементов

Именно. и с учётом скорости развития LLM в последнее время, есть риск, что реализованные в железе модели будут устаревать ещё до начала их эксплуатации. Вот если бы была возможность гибкой рекоммутации связей, это было бы гораздо интереснее.

Возможный вариант развития «железа» (с использованием в схемах подобных компонентов):

Учёные создали новый транзистор, способный хранить тысячи устойчивых состояний
https://industry-hunter.com/ucenye-sozdali-novyj-tranzistor-sposobnyj-hranit-tysaci-ustojcivyh-sostoanij

[Серый Страж]

У транспортной авиации тоже есть разработчики. Только модели, которые у них получаются, почему-то подозрительно похожи друг на друга - и чем дальше, тем больше.

Модели, по идее, даже должны быть похожи, поскольку при любой разработке будут учитываться одни и те же законы физики, химии, биологии и экономики. Да и цели-то (для соответствующих областей применения) у разных разработчиков тоже схожие.

А ведь разработчики все вроде как творят по своему лишь разумению. Как так вышло?

Всё же не полностью «по своему разумению» – все разработчики ведь в основном используют общие знания, которые практически одинаковы (или просто похожие) для всех разработчиков (например, одни и те же технические теории и стандарты, одни те же физические, химические и экономические теории и т.д.).

[Серый Страж]

Учёные запустили компьютерную эмуляцию мозга плодовой мушки.
https://theinnermostloop.substack.com/p/the-first-multi-behavior-brain-upload

Первый оцифрованный мозг обрел тело: как цифровая копия дрозофилы впервые начала ходить в симуляторе
https://www.ixbt.com/live/science/pervyy-ocifrovannyy-mozg-obrel-telo-kak-cifrovaya-kopiya-drozofily-vpervye-nachala-hodit-v-simulyatore.html

(кликните для показа/скрытия)

На протяжении десятилетий развитие вычислительных систем шло по пути создания искусственного интеллекта. Этот подход подразумевает написание программного кода и использование алгоритмов, которые учатся решать задачи с нуля. Однако параллельно с этим существует совершенно иное направление исследований — эмуляция всего мозга (Whole Brain Emulation). Ее суть заключается не в создании нового разума, а в детальном сканировании и точном копировании уже существующего биологического мозга в цифровую среду.

Долгое время этот процесс оставался лишь концепцией, так как требовал огромных вычислительных мощностей и сверхточных методов сканирования живых тканей. Но вот недавно исследователям из компании Eon Systems PBC впервые удалось не просто запустить цифровую копию мозга сложного существа на компьютере, но и заставить этот цифровой мозг управлять виртуальным телом в среде с реалистичными физическими законами. Этим существом стала плодовая мушка — дрозофила.

От статической карты к динамической системе

Основой для текущего достижения послужило исследование, результаты которого были опубликованы в научном журнале Nature в 2024 году. Команда ученых под руководством старшего научного сотрудника Eon Филиппа Шиу создала полную вычислительную модель мозга взрослой дрозофилы.

Для этого они использовали коннектом — исчерпывающую карту всех нейронных связей в нервной системе насекомого. Эта карта была получена путем сканирования срезов реального мозга под электронным микроскопом. В результате ученые получили точную схему, состоящую из более чем 125 000 нейронов и 50 миллионов синаптических соединений. Кроме того, с помощью методов машинного обучения исследователи определили типы нейромедиаторов для каждой связи — то есть выяснили, какие нейроны передают возбуждающие сигналы, а какие тормозящие.

Эта модель образца 2024 года работала с высокой точностью: она могла предсказывать двигательные реакции мухи в 95% случаев. Однако система была изолированной. Мозг генерировал сигналы, нейроны передавали импульсы друг другу, формировались команды на движение, но эти команды никуда не поступали. У цифрового мозга не было тела, которым он мог бы управлять, и среды, на которую он мог бы реагировать.

Замыкание сенсомоторного цикла

В своей новой работе специалисты Eon Systems решили проблему отсутствия тела. Они интегрировали готовую модель мозга дрозофилы в симулятор NeuroMechFly v2. Это программная среда, которая работает на базе физического движка MuJoCo. Внутри этой среды было создано виртуальное тело мухи, обладающее точными биомеханическими характеристиками: заданным весом конечностей, параметрами трения в суставах и ограничениями подвижности. Сама среда имитирует гравитацию и сопротивление поверхности.

Подключение цифрового мозга к виртуальному телу позволило впервые замкнуть так называемый сенсомоторный цикл в рамках эмуляции целого мозга. Процесс работает следующим образом:

• Виртуальные датчики на теле мухи фиксируют информацию об окружающей среде (например, соприкосновение лапок с поверхностью).
• Эта информация поступает в цифровую нейронную сеть в виде электрических сигналов.
• Сигнал проходит по скопированному биологическому коннектому. Нейроны активируются в той же последовательности, в которой они активировались бы у живого насекомого.
• В результате обработки сигнала мозг формирует моторную команду и отправляет ее к виртуальным мышцам.
• Физический движок просчитывает это движение, и виртуальная муха совершает действие, опираясь на законы физики.

В результате исследователи зафиксировали множественные варианты сложного поведения, которые система генерировала самостоятельно, опираясь исключительно на внутреннюю динамику своих нейронных цепей.

Принципиальное отличие от современных нейросетей

Чтобы понять значимость этого события, необходимо разобрать, чем эмуляция мозга отличается от современных систем искусственного интеллекта, которые также умеют управлять виртуальными персонажами или роботами.

Ранее другие научные группы, включая подразделение DeepMind и исследовательский кампус Janelia, также демонстрировали виртуальных мух, способных ходить в симуляторе. Но они использовали метод «обучения с подкреплением». В этом случае разработчики создают пустую нейросеть, задают ей цель (например, двигаться вперед) и позволяют ей совершать случайные движения. Когда виртуальная модель делает шаг и не падает, система получает положительный балл. Путем миллионов повторений алгоритм находит оптимальный способ переставлять ноги. Это имитация внешнего поведения с помощью математики.

Система Eon Systems работает иначе. Она не обучалась ходьбе в симуляторе. Ее цифровая структура является точной копией существа, чья нервная система уже адаптирована для ходьбы процессом биологической эволюции. В данном случае ученые взяли готовую схему связей, подали на нее входящий сигнал, и система начала работать так, как диктует ее строение.

До этого момента самые успешные попытки реализовать подобный подход ограничивались крайне простыми организмами. Самым известным примером был проект OpenWorm, в рамках которого ученые эмулировали нервную систему круглого червя Caenorhabditis elegans. Однако нервная система этого червя состоит всего из 302 нейронов, а его поведенческий репертуар минимален. Переход от 302 нейронов к 125 000 нейронов дрозофилы — это серьезное увеличение масштаба и сложности системы.

Рисунок:
https://img.ixbt.site/live/images/original/31/86/97/2026/03/08/cc99303d21.webp?w=877
a. Полная реконструкция морфологии нейронов с помощью FlyWire. Все нейроны центрального мозга и обеих зрительных долей были сегментированы и проверены вручную. Примечание: изображение и набор данных зеркально отражены относительно реального мозга мухи.
b. Обзор ресурсов FlyWire. Проект базируется на снимках электронной микроскопии (Zheng et al.), картах синапсов (Buhmann et al., Heinrich et al.) и предсказаниях типов нейромедиаторов (Eckstein et al.). Аннотации, включая гемилинии, нервы и иерархические классы, описаны в сопутствующей статье.
c. Техническая платформа: FlyWire использует систему CAVE для проверки, управления и анализа данных. Доступ возможен программно (через CAVEclient, navis, fafbseg и natverse) или через браузер (Codex, Catmaid Spaces и braincircuits. io). Также доступны статические выгрузки данных.
d. Мозг Drosophila разделен на пространственные области на основе нейропилей (Extended Data Fig. 1). Нейропили ламины (lamina) не показаны. Обозначения осей: D (dorsal — дорсально), L (lateral — латерально), P (posterior — постериально). e. Структура синапсов: синаптические бутоны часто являются полиадными (один пресинаптический бутон связан с несколькими постсинаптическими партнерами). Каждая связь между «входом» и «выходом» считается отдельным синапсом.
f. На исходных данных электронной микроскопии (Zheng et al.) отчетливо идентифицируются нейронные тракты, трахеи, нейропили и тела клеток. Масштабная линейка: 10 мкм.
Автор: Shiu, P.K., Sterne, G.R., Spiller, N. et al. Источник: www.nature.com

Следующий этап: эмуляция мозга млекопитающего

Успешная интеграция мозга насекомого с виртуальным телом доказывает работоспособность самой концепции. Теперь главной целью компании Eon Systems становится создание полной цифровой эмуляции мозга мыши. В перспективе это заложит технологический фундамент для эмуляции мозга человека.

Масштаб предстоящей работы значительно больше предыдущей. Мозг мыши содержит около 70 миллионов нейронов, что в 560 раз превышает количество нейронов у дрозофилы. Для реализации этой задачи недостаточно просто увеличить вычислительные мощности; необходимо собрать огромный массив новых данных.

Прямо сейчас команда исследователей собирает информацию с помощью двух основных методов. Первый метод — это экспансионная микроскопия. Ученые обрабатывают ткани мозга специальным химическим составом, который заставляет их физически увеличиваться в размерах. Это позволяет рассмотреть и зафиксировать под микроскопом каждую отдельную нейронную связь с максимальной точностью, чтобы создать статичную карту.

Второй метод — это кальциевая визуализация и измерение электрического напряжения в живых тканях. Ученые проводят десятки тысяч часов, наблюдая за тем, как именно активируются нейронные сети в мозге живых мышей во время различных действий. Эти данные необходимы, чтобы понять не только физическое расположение связей, но и динамику прохождения сигналов по ним.

Если цифровая копия коннектома мухи смогла успешно управлять телом в среде с физическими законами, это означает, что фундаментальный подход выбран верно. Дальнейший переход к мозгу мыши, а в будущем и к более сложным структурам, становится вопросом исключительно точности сканирования данных и объема памяти, необходимой для их обработки.

Источник: eon.systems