Пределы автоматизации и внедрения роботов

[ivanij]

Впрочем, полноценный, высокоавтономный и высокоэффективный робот-ликвидатор,

  Не ликвидатор, конечно. Но как разведчик очень хорошо работает. Проверено на деле.


 

[noxx77]

Мы уже отношение к этой теме написал не раз и не два: всевозможные социальные строи и политические режимы - лишь хрупкая надстройка над непреходящим эволюционно-экологическим фундаментом расширенного фенотипа вида-носителя цивилизации.

Ну, вот это как раз очень не факт: возьмите детей-маугли - фенотип тот же, а необратимая социализация по типу принявшей стаи. Человек в этом смысле высокоспециализированная скотинка и социальная среда, культура - абсолютно необходимые факторы формирования. Отсюда накопленный культурный код влияет (необходим для человека) не меньше, чем генетический. Вообще, как оценивать меньше или больше, если абсолютно нужны оба?

В нынешнем мире - да.

+++ В таком случае и рода прожившие десятки миллионов лет, но после благополучно сгинувшие, были "нежизнеспособны". Проблема в том, что хомосапам сотня-две тысяч лет. А цивилизации - ну 5-6, в зависимости от того, как считать. И за это время самих успешных цивилизаций и культур сгинуло десятки.

К вопросу "естественности" и "жизнеспособности" той или иной социальной модели, стоит учитывать, что это зависит по сути только от двух факторов:
1) Все необходимые для выживания в среде функции в системе выполняются и (2) механизмы их выполнения устойчиво воспроизводятся.
Это непросто всегда и для любой цивилизации: изменение внешних условий (засухи, истощение ресурсов, смена русла рек, набеги, войны, разрывы внешних экономических связей) и внутренних - изменения статусов групп, нарастание социальных противоречий. Необходимая для адаптации к среде динамика способна столь же эффективно убить/мутировать сам "суперорганизм", а поскольку он стремительно меняет среду сам, динамика неизбежна.

[MenFrame]

Вообще, как оценивать меньше или больше, если абсолютно нужны оба?

Абсолютно нужны оба, но ведущим является генотип, а культура соответственно ведомой. То есть культура это инструмент благодаря которой генотип человека становиться в итоге фенотипом. Гены отбираются благодаря Дарвинскому отбору, а мемы отбираются на предмет нужности, генотипу. Поэтому как только культура как инструмент становиться не нужной в рамках потребностей генотипа, она дохнет на глазах. Потому Ратус прав, все эти социальные конструкты живут сугубо если социальная почва этому позволяет.

[loky1109]

То есть культура это инструмент благодаря которой генотип человека становиться в итоге фенотипом.

Советую освежить определение фенотипа.

Гены отбираются благодаря Дарвинскому отбору, а мемы отбираются на предмет нужности, генотипу.

Мемы отбираются всё тем же дарвиновским отбором. "Нужность" определяется исключительно выживаемостью носителей.

[MenFrame]

"Нужность" определяется исключительно выживаемостью носителей.

Да нет, не исключительно. Мемы отлично вымирают без смерти их хозяев, так как нужность определяется практической выгодой которая в свою очередь основана в том числе на субъективной оценке.

Советую освежить

Освежите, раз советуете.

[loky1109]

Мемы отлично вымирают без смерти их хозяев

Да, я не совсем прав. Но и вы тоже не правы. Вымирание/выживание мемов связано с их "пользой" даже не в большинстве случаев. Если не понимать "пользу" крайне расширительно.

Освежите, раз советуете.

Фенотип — совокупность внешних и внутренних признаков организма, приобретённых в результате онтогенеза (индивидуального развития).

Я не могу сказать, что культура никак не влияет на признаки организма - деформация черепа или, в более современных случаях, татуировки, пирсинг, шрамирование, не дадут соврать, но всё же это совершенно не обязательное воздействие.

[noxx77]

Гены отбираются благодаря Дарвинскому отбору, а мемы отбираются на предмет нужности, генотипу.

= обеспечивают выживание

Поэтому как только культура как инструмент становиться не нужной в рамках потребностей генотипа, она дохнет на глазах.

Или, если не обеспечивает, дохнет генотип, что тоже нередко бывает. Например, при отставании военной материальной и нематериальной культуры, какое-то племя могут просто истребить.

Потому Ратус прав, все эти социальные конструкты живут сугубо если социальная почва этому позволяет.

Социальной почвы без социальной культуры не бывает. Общество уже предполагает культуру. Его не бывает без норм, языка и т.д.

То есть культура это инструмент благодаря которой генотип человека становиться в итоге фенотипом.

Генотип становится фенотипом в результате онтогенеза организма. Культура здесь практически только тем боком, что обеспечивает групповое выживание своих носителей и позволяет этому происходить вообще. Ну и постольку, поскольку является фактором среды, формирующей условия обитания организма.

[noxx77]

Жизнь – это живая система (совокупность систем) и её среда обитания.
Живая система – это система, проявляющая в активной фазе своего существования: стремление к самосохранению и способность реализовать это стремление.

Определите "стремление", пожалуйста!

Интеллект системы – это вычислительный функционал (практически в физико-математическом смысле слова) системы.

Непонятно тогда, зачем он жизни. Скажем так, если это функция организма, обеспечивающая ориентацию организма в среде и его координацию с другими ради выживания с помощью построения стратегии на основе опыта и мышления (как некоторой концептуальной деятельности), тогда понятно для чего и как.

[Серый Страж]

Жизнь – это живая система (совокупность систем) и её среда обитания.
Живая система – это система, проявляющая в активной фазе своего существования: стремление к самосохранению и способность реализовать это стремление.

Определите "стремление", пожалуйста!

Стремление – это направленный потенциал движения/реакции/активности (эдакое направленное давление/напряжение).

Частично этот момент я пояснял:

Здесь, полагаю, требуются пространные пояснения о некоторых моментах:

(кликните для показа/скрытия)

Во-первых, желание/хотение только осознаётся, оно не генерируется непосредственно интеллектом. То есть, сознание (высший уровень сознания), как интеллектуальная функция (уточняю – как одна из функций интеллекта) может только осознать некое биологическое стремление (и тогда это стремление уже можно обозвать желанием/хотением), но не создать данное стремление. Стремление формируется организмом на уровне базовых физиологических механизмов.

Во-вторых, здесь опять происходит смешивание понятий: человек, как биологический организм и человек, как наблюдатель. Грубо говоря, наблюдатель, сам по себе ничего не может и не умеет – только наблюдать. Наблюдение – это, по сути, соотнесение наблюдаемого с некоей системой отсчёта. Реализация такого соотнесения может заключаться в просто выделении, в сравнении/сопоставлении, в отслеживании, в оценке и т.д.

Обратите внимание, насколько совпадает функционал наблюдения и осознания – и в том, и в другом случаях, происходит соотнесение. Просто когда мы говорим об осознании, то в роли системы отсчёта выступают знания (контекст из знаний).

В биологическом организме человека изначально заложены основы этих способностей к ощущению дискомфорта, к стремлению устранить возникший дискомфорт и так далее, вплоть до постановки целей и нахождения решения для достижения этих целей.

Если совсем грубо, то в организме практически в постоянном режиме (на различных уровнях, в различных подсистемах) реализуется схема поддержки гомеостаза.

Например, простая схема: нарушение/сдвиг гомеостаза – возникновение «потенциала», направленного на устранение нарушения/сдвига – восстановление гомеостаза. При этом, практически всегда возникает некий побочный эффект (в более сложных схемах этот эффект начинает играть роль сигнала): как при нарушении гомеостаза, так и при восстановлении гомеостаза; как при возникновении «потенциала», так и при исчезновении «потенциала». При реализации такой простой схемы эти побочные эффекты (потенциальные сигналы) будут просто как некий «тепловой шум».

На базовом уровне во всех биологических системах такая схема реализуется постоянно. А для самых простых (ещё предбиологических) систем, такая схема поддержки гомеостаза, зачастую является основной (так сказать, единственной).

Но если биологическая система становится сложной, то и схема поддержки гомеостаза усложняется – становится многоуровневой, многоконтурной. То есть, если восстановление гомеостаза не произошло, то побочный эффект уже будет полноценным сигналом, который поступит на уровень выше (второй уровень) и запустит каскад реакций в вышестоящим контуре. Каскад реакций в вышестоящем контуре приведёт к устранению (в норме) нарушения/сдвига гомеостаза на базовом уровне и сигнал об устранении будет принят вышестоящим уровнем и приведёт к остановке каскада реакций. Разумеется, и запуск каскада реакций, и остановка вследствие восстановления гомеостаза, сопровождаются побочными эффектами – потенциальными сигналами для вышестоящих уровней.

Если устранения всё же не произошло, то сигнал уже от второго уровня будет принят третьим уровнем и запустит каскад реакций уже в третьем уровне.

И так далее до самых высших уровней биологической системы. Наш самый высший уровень (для отдельного человека) – это высший психический уровень – уровень сознания, использующего знания социума (разумеется, знания социума уже интериоризированные).

Что здесь важно?

Во-первых, важно то, что нарушение/сдвиг гомеостаза сопровождается сигналом, который воспринимается на вышестоящем уровне, как ощущение нарушения/сдвига гомеостаза. То есть, ощущение – это отражение нарушение/сдвига (произошедшее на уровне ниже), а не само нарушение/сдвиг. И такая цепочка отражений/переотражений поднимается от уровня к уровню до самых высших.

Во-вторых, важно то, что «потенциал», возникающий при нарушении/сдвиге гомеостаза отражается на вышестоящем уровне как стремление устранить данное нарушение/сдвиг. То есть, стремление – это отражение возникшего «потенциала», а не сам «потенциал». И такая цепочка отражений/переотражений поднимается от уровня к уровню до самых высших.

В-третьих, и стремление к устранению нарушения/сдвига гомеостаза, и ощущение нарушения/сдвига гомеостаза, тесно переплетены друг с другом и сопровождают друг друга. И обе цепочки отражений/переотражений поднимаются от уровня к уровню до самых высших, не всегда строго упорядоченно (типа, стачала ощущение, а потом уже стремление). На вышестоящем уровне нарушение/сдвиг гомеостаза, случившееся на нижестоящем уровне, может отразиться и как стремление, и как ощущение (без какого-то стремления), и всё вместе (тут возможен и вариант со сдвигом во времени).

Если нарушение/сдвиг гомеостаза было ликвидировано, благодаря работе контуров (каскадов реакций) какого-то уровня, то сигнал от нарушения наверх уже не поступает – проблема разрешилась на данном уровне. Однако, может поступать сигнал о наличии «потенциала» (типа, на вышестоящем уровне сформировалось отражение в виде ложного стремления). Живые системы далеко не идельные…

Применительно к нам, людям, можно сказать, что если мы захотели, то некое нарушение/сдвиг гомеостаза не было устранено на нижестоящих уровнях. А если говорить более строго, то сигнал о наличии «потенциала» добрался до высшего психического уровня и мы осознали стремление. Желание – это осознанное стремление.

Ну, а осознать (на высшем уровне сознания) – это означает оценить, интерпретировать и т.д., с позиции знаний социума, скомпонованных в некие логические и рациональные модели.

Интеллект системы – это вычислительный функционал (практически в физико-математическом смысле слова) системы.

Непонятно тогда, зачем он жизни.

Некорректная постановка вопроса. Он не зачем, он просто есть. Грубо говоря, это неотъемлемое свойство/качество системы.

Любое воздействие на любую систему приводит к каскадам изменений (обратимых и/или необратимых) структуры этой системы. Совокупность этих каскадов изменений, на мой взгляд, следует толковать, как энергоинформационные процессы в системе. Ну, а обработка информации и/или преобразование информации, приводящая или оканчивающаяся ответной (непосредственной или отсроченной, частичной или полной) реакцией на воздействие – это вычисление.

То есть, вычисление – это направленный (в широком смысле этого слова) процесс обработки/преобразования информации. Мышление же, это вычисление, связанное (так сказать, закольцованное на самосохранение) с сохранением системы. Причём, связь вычисления с самосохранением может быть как положительная (работает на самосохранение), так и отрицательная (работает против самосохранения) и, даже – относительно нейтральная (возможно, в будущем это скажется на самосохранении).

И, во всех случаях, эти процессы (обработка/преобразование информации, вычисление, мышление), по своей сути, относятся к вычислительному функционалу именно в физико-математическом смысле.

Можно сказать, что:

– Процессы обработки/преобразования информации – это процессы изменения структуры. Но, для конкретной системы, не каждый процесс изменения структуры является процессом обработки/преобразования информации (например: процесс формирования данной системы «с нуля», распад/растворение данной системы). 

– Процессы вычисления в системе – это процессы обработки/преобразования информации в системе. Но не каждый процесс обработки/преобразования информации является вычислением (например, это может быть просто хранение информации – процесс изменение структуры, закольцованный сам на себя).

– Процессы мышления в системе – это процессы вычисления в системе. Но не каждое вычисление является мышлением (например, вычисление совершенно не влияющее (то есть, вообще не имеющее связи) на самосохранение системы ни в текущее время, ни в будущем).

Скажем так, если это функция организма, обеспечивающая ориентацию организма в среде и его координацию с другими ради выживания с помощью построения стратегии на основе опыта и мышления (как некоторой концептуальной деятельности), тогда понятно для чего и как.

Вы описываете частные случаи частных типов систем в частных ситуациях, я описываю наиболее общие представления.

При вашем подходе (который, по сути, является общепринятым) практически невозможно «перекинуть мостики» между понятиями и позициями при решении вопросов: о наличии интеллекта у косных систем, о возможности наличия разума у косных систем, о различиях между вычислением и мышлением, о различиях между интеллектом и разумом и т.д. и т.п.

Огромная ошибка большинства людей заключается в жёсткой привязке понятий: интеллект, разум, мышление, наблюдатель, сознание и пр., к человеку. Люди попадают в ловушку частных представлений и не могут взглянуть на ситуацию с общих позиций – частные представления, с позиции которых они оценивают, судят, интерпретируют и т.д., им не дают этого сделать (не дают подняться над этими частными представлениями).

[Rattus]

Отсюда накопленный культурный код влияет (необходим для человека) не меньше, чем генетический.

Да и пусть, сколько угодно. Толку-то если они эволюционируют по сути по одним законам и в одной физической среде.

В таком случае и рода прожившие десятки миллионов лет, но после благополучно сгинувшие, были "нежизнеспособны".

В общем - да, если у нас нет хорошей статистики, чтобы предположить вклад случайности в эти вымирания. К сожалению лучшего объективного и при этом столь же универсального критерия у нас нет.

Проблема в том, что хомосапам сотня-две тысяч лет. А цивилизации - ну 5-6, в зависимости от того, как считать. И за это время самих успешных цивилизаций и культур сгинуло десятки.

Вот именно от этого и нужно отталкиваться и никогда не упускать из виду в рассуждениях про жизнеспособность укладов.

[loky1109]

В таком случае и рода прожившие десятки миллионов лет, но после благополучно сгинувшие, были "нежизнеспособны".

Не "были нежизнеспосолбны", а "оказались нежизнеспособны" в каких-то конкретных окружающих обстоятельствах. Пока не вымирали - были жизнеспособны.

[Rattus]

Не "были нежизнеспосолбны", а "оказались нежизнеспособны" в каких-то конкретных окружающих обстоятельствах. Пока не вымирали - были жизнеспособны.

Да. Весь вопрос только в случайности или универсальной закономерности этих самых обстоятельств.

[MenFrame]

= обеспечивают выживание

Не всегда равно. Скажем культура потребления алкоголя, явно не обеспечивает выживание. Многие мемы просто цепляются к генотипу, по сути паразитируя на нем. Вообще петля обратной связи на выживании конкретного индивида очень длинная и неоднозначная. Она намного длиннее петли личной нужности, не нужности. Во вторых многие мемы полезны для выживания социума, а конкретному индивиду они будут вредны, потому связь уже будет неоднозначной.

Социальной почвы без социальной культуры не бывает.

Разумеется, только эта культура намного ближе к генетическим хотелкам, чем всякие насаждаемые сверху измы....
На мой взгляд, сейчас для капитализма более благоприятна почва, а почва для коммунизма только формируется.

Генотип становится фенотипом в результате онтогенеза организма. Культура здесь практически только тем боком, что обеспечивает групповое выживание своих носителей и позволяет этому происходить вообще. Ну и постольку, поскольку является фактором среды, формирующей условия обитания организма.

Да

[MenFrame]

Стремление – это направленный потенциал движения/реакции/активности (эдакое направленное давление/напряжение).

Это внешняя оценка, а не внутреннее содержание.

Он не зачем, он просто есть. Грубо говоря, это неотъемлемое свойство/качество системы.

Ну тогда, сердце тоже не зачем, оно просто есть. Но вот когда его нет, сразу становиться понятно зачем оно.

Мышление же, это

Формально мышление, это разговор с самим собой.

например, вычисление совершенно не влияющее (то есть, вообще не имеющее связи) на самосохранение системы ни в текущее время, ни в будущем).

Что влияет на самосохранение, а что нет, определяет сугубо отбор. К тому же на определенных этапах жизни отбор благоволит тем кто жертвуют своим самосохранением в пользу потомства.

[Серый Страж]

Стремление – это направленный потенциал движения/реакции/активности (эдакое направленное давление/напряжение).

Это внешняя оценка, а не внутреннее содержание.

Это внешняя оценка внутреннего содержания системы. Мы всегда интерпретируем о внутреннем содержании по внешним проявлениям - по сути, только по воспринимаемым воздействиям/сигналам и интерпретируем (другого способа нам не дано).

Он не зачем, он просто есть. Грубо говоря, это неотъемлемое свойство/качество системы.

Ну тогда, сердце тоже не зачем, оно просто есть. Но вот когда его нет, сразу становиться понятно зачем оно.

Зачем (для чего) необходимо сердце - это ведь тоже внешняя оценка.

Мышление же, это

Формально мышление, это разговор с самим собой.

Это дело относится к вербальному мышлению, во-первых. А во-вторых, для определения понятия мышления этого недостаточно. Думаю, моё определение, всё же, более подходит.

например, вычисление совершенно не влияющее (то есть, вообще не имеющее связи) на самосохранение системы ни в текущее время, ни в будущем).

Что влияет на самосохранение, а что нет, определяет сугубо отбор.

Определяют действующие факторы среды совместно со свойствами/качествами/способностями системы.
Способность мыслить может повлиять на выживаемость (на самосохранение).

Уточняю: мои высказывания не отменяют роль отбора (кому жить, а кому умирать - решает отбор), они только конкретизируют "механику" отбора.
 

К тому же на определенных этапах жизни отбор благоволит тем кто жертвуют своим самосохранением в пользу потомства.

Вот, как раз к ним он точно не благоволит - они погибают, для того чтобы выжило потомство. То есть, это полезно для популяции/вида, а не для отдельных особей (тех, кто собой ради потомства пожертвовал).

[MenFrame]

Это внешняя оценка внутреннего содержания системы.

Не увидел не какого внутреннего описания.

А во-вторых, для определения понятия мышления этого недостаточно.

Недостаточно кому? Недостаточно для чего? Когда мы говорим о конкретном мышлении, то имеем ввиду именно внутренний диалог, и не о чем другом.
Все остальное вносит ненужную путаницу в полне конкретный термин.

Определяют действующие факторы среды совместно со свойствами/качествами/способностями системы.

Только отбор в конечном счете позволяет судить, насколько то или иное действие способствует выживанию.

То есть, это полезно для популяции/вида, а не для отдельных особей (тех, кто собой ради потомства пожертвовал).

Это полезно, для эгоистичных генов. Отбор в конечном счете идет на этом уровне, с точки зрения эволюционной биологии. Потому выживание конкретного индивида имеет смысл сугубо в рамках распространения генов.
  Потому все эти разговоры про выживание, как какую то важную черту, бессмысленно. Организм бореться за свое выживание до тех пор пока это не идет в разрез с выживанием генов.

[Серый Страж]

Не увидел не какого внутреннего описания.

Все остальное вносит ненужную путаницу в полне конкретный термин.

Потому все эти разговоры про выживание, как какую то важную черту, бессмысленно.

Ладно, замнём для ясности. Не обессудьте, но я пытался пояснить, как мог...

[noxx77]

Толку-то если они эволюционируют по сути по одним законам и в одной физической среде.

Не совсем. Человек пошёл по специализации орудийной деятельности и создания антропогенной среды обитания, техносферы. А эта штука уже не просто набор мемов, а саморазвивающаяся система, куда человек включён как неотъемлемый элемент.

Разумеется, только эта культура намного ближе к генетическим хотелкам, чем всякие насаждаемые сверху измы....
На мой взгляд, сейчас для капитализма более благоприятна почва, а почва для коммунизма только формируется.

Не факт. Любая формация - система отношений. Человек по природе может быть сколько угодно приспособлен бросать мусор где попало или жить в неформальных малых группах - выдрессировать можно на обратное. Причём в группе появляется внешний механизм контроля к нарушителям. Появляются некий суперорганизм со своими функциональными частями с разным поведением.

[MenFrame]

В Яндекс.Браузер внедрили машинный перевод видеороликов
Пока доступно несколько роликов...
Когда сервис разовьется, заплачут думаю не только переводчики но и многие блогеры выпускающие контент среднего качества, и имеющие свою аудиторию благодаря языковому барьеру.

[cybertron]

Новости с полей ИИ

https://venturebeat.com/2021/06/26/deepmind-agi-paper-adds-urgency-to-ethical-ai/

Google недавно использовал обучение с подкреплением на наборе данных из 10000 дизайнов компьютерных микросхем для разработки своего TPU следующего поколения,
чип, специально разработанный для повышения производительности приложений ИИ. Работа, которая требовала многие месяцы команды инженеров-проектировщиков
ИИ теперь может сделать  менее чем за шесть часов.

Хотя эти примеры убедительны, они все же являются узкими вариантами использования ИИ. Где общий ИИ?
В документе DeepMind говорится:
«Награды достаточно, чтобы стимулировать поведение, демонстрирующее способности, изученные естественным и искусственным интеллектом, в том числе
знания, обучение, восприятие, социальный интеллект, язык, обобщение и имитация ». Это означает, что общий ИИ естественно возникает в результате обучения с подкреплением по мере того, как модели становятся более сложными и вычислительные мощности расширяются.

В прошлом году Джеффри Хинтон, профессор Университета Торонто, пионер глубокого обучения и обладатель премии Тьюринга,отметил: «В кубическом сантиметре мозга находится один триллион синапсов. Если есть такая вещь, как общий ИИ, [система] вероятно, потребуется один триллион синапсов ». Синапсы являются биологическим эквивалентом параметров модели глубокого обучения.

Мультимодальная система ИИ Wu Dao 2.0 (Китай) уже имеет 1,75 триллиона параметров.

Хотя не факт, что тенденция недавних достижений в этих областях будет продолжаться быстрыми темпами, есть модели, которые предполагают, что к 2025 году компьютеры могут обладать такой же мощностью, как человеческий мозг.
--------------------------------
Исследователи OpenAI раскрыли подробности о Codex, модели глубокого обучения, которая генерирует исходный код программного обеспечения.
Codex поддерживает Copilot, инструмент «парного программирования ИИ», разработанный совместно OpenAI и GitHub. В настоящее время Copilot доступен
в режиме бета-тестирования ограниченному числу пользователей.