И создал человек бога...

[вова111]

эволюция стихийна и слепа
техноэволюция можно сказать "телеологична"

Если внимательно посмотреть, всё окружающее является вычислительным процессом. А в такой ситуации слепой и стихийной можно называть эволюцию только при большой степени близорукости.

[николай теллалов]

Это заблуждение

ходовую часть автомобиля не с нуля придумали
(твердить, что авто "произошло" от телеги - есть метафора)

слепой и стихийной можно называть эволюцию только при большой степени близорукости

т.е. получается, что у эволюции есть осознанная цель?
круто
так до всевышнего можно додуматься

[вова111]

ходовую часть автомобиля не с нуля придумали

Случаев, когда нечто придумано и строилось давным давно, но на данный момент нереализуемо ввиду отсутствия специалистов, которые работали над проектом, а затем успели состариться и умереть - вагон и маленькая тележка.

Тот же Сатурн 5. https://habr.com/ru/post/388699/

[вова111]

т.е. получается, что у эволюции есть осознанная цель?

Я про осознанную цель что то говорил? Чтобы строить цепочки "и" "или" и "не" - не нужно обладать ни разумом ни сознанием. Это вообще решается на двоичной логике и реализуемо не что на компьютерах - эта логика реализуема на простой механике из шестерёнок.

А имея доступ к "и" "или" и "не" - можно уже совершать весь спектр логических операций.

[николай теллалов]

Тот же Сатурн 5

но на постижения Сатурна таки опираются, несмотря на то, что у него нет прямых "потомков"

не нужно обладать ни разумом ни сознанием

вот потому сеть железных дорог и не есть коралловые рифы

у генов нет "библиотеки", из коей виды выбирают (вкл с опережением, с оглядкой на будущие условия обитания) приглянувшееся;
а у техносферы есть возможность пользоваться достижениями, независимо от степени "родства" к ним

может ли биоэволюция планировать? вот и главное отличие, причем оно ставит био- и техноэволюцию в разные категории

[Maki]

С трудом могу сформулировать почему, но интуитивно это понимаю.

Возможно потому, что для биологической эволюции было огромное пространство, почти бесконечное время, и неиссякаемый источник дармового сырья и энергии. И никакой суровый старикан с молниями не вмешивался в естественный процесс.
Эволюция же вычислительной техники, идёт хоть и бешеными темпами, но исключительно в силу желания "творца", милостью его, и для удовлетворения его прихотей.  По сути, тот же процесс, что "эволюция" домашних животных. Коровка, конечно же, свободно перемещается по стойлу и ест. А киска даже успешно паразитирует как суррогат человеческого детёныша, и приучает хозяев открывать холодильник по истошному мяву. Но это стабильные популяции. И изменяться и проходить через бутылочные горлышки человек им не даёт.

[Rattus]

Машины самостоятельно неспособны эволюционировать...

Потому что не неспособны самостоятельно размножаться. Всё. Дальше продолжения необязательны.

Но что если, будучи творением "репликаторов", к целеполаганию они могут оказаться способны?

На исторически-длительный срок - только в рамках того, что будет полезно для поддерживающих их существование репликаторов (не считая допустимых "украшений").

Ваш пример с "Энтропикой"- разве он не указывает на целеполагание как неотъемлемую способность этой машины?

Внутри виртуальной среды. Сама же среда создаётся и поддерживается исторически-длительный срок вполне физическими репликаторами с руками и ногами.

получается, что у эволюции есть осознанная цель?

У эволюции постфактум выделяется мейнстримная направленность - на стабилизацию своих продуктов (как от вымирания, так и от дальнейших изменений) - до известного биофизического предела.

организмы не спроектированы предварительно

Каждый новый многоклеточный (и не только) организм имеет набор последовательно реализующихся генов для всего последующего жизненного цикла (т.е. онтогенеза).

утраченное из генофонда теряется навсегда

Тем не менее утрат кластеров ортологов (т.е. уникальных семейств генов) на доступном нам отрезке истории не известно, а оригинальная схема того же антикитерского механизма утрачена навсегда (всё что известно по нему сейчас - обратный инженеринг найденного артефакта).

но полезное из "старья" без проблем (не считая юридических) пользуется инженерами

Собственно так новые гены и появляются - переделкой старых под новые функции.
Даже аналог "копирайта" в живой природе есть - видовая репродуктивная изоляция.

[вова111]

Возможно потому, что для биологической эволюции было огромное пространство, почти бесконечное время, и неиссякаемый источник дармового сырья и энергии.

Тут такое дело. Когда смотришь на описание живого нейрона и примерно понимаешь, как он устроен , то руки опускаются в том плане чтобы нечто вообще на компьютере подобное реализовать. В смысле там гибкость такая и диапазон в котором он может реагировать. Это если в компьютерной модели и реализовать - то возникает основная проблема - будет тратиться уйма вычислительных ресурсов, это и есть основная проблема. Те нейросети которые сейчас массово используются - в них специальным образом многое упрощено.

[николай теллалов]

У эволюции постфактум выделяется мейнстримная направленность

за уши

Тем не менее утрат кластеров ортологов (т.е. уникальных семейств генов) на доступном нам отрезке истории не известно

нынче известны глаза со свойствами вариообъектива?
Дейвид Атънбъро утверждает, что такие были у трилобитов

Собственно так новые гены и появляются - переделкой старых под новые функции.
Даже аналог "копирайта" в живой природе есть - видовая репродуктивная изоляция.

снова за уши

китообразные не вернулись к жабрам

аналоги копирайтов - чистая манипуляция
че-то эволюция не преследует нарушителей, переносящих гены от вида к виду

[николай теллалов]

Те нейросети которые сейчас массово используются - в них специальным образом многое упрощено.

самолет тоже не машет крыльями

[Rattus]

за уши

По сути есть что возразить? Ну тогда Ваша вкусовщина "очень важна для нас".

нынче известны глаза со свойствами вариообъектива?

Нынче условия для биосинтеза кальцита не настолько хорошие, чтобы это было выгодно.

китообразные не вернулись к жабрам

Потому что легочное дыхание тупо эффективнее! Автомобилисты тоже допрежь не вернулись к лошадям.

[николай теллалов]

за уши

По сути есть что возразить? Ну тогда Ваша вкусовщина "очень важна для нас".

нынче известны глаза со свойствами вариообъектива?

Нынче условия для биосинтеза кальцита не настолько хорошие, чтобы это было выгодно.

китообразные не вернулись к жабрам

Потому что легочное дыхание тупо эффективнее! Автомобилисты тоже допрежь не вернулись к лошадям.

а где была суть в постфактумном "аргументе"?

ну да, эволюция поможет биноклем

за соломинку хватаемся?

[Rattus]

а где была суть в постфактумном "аргументе"?

А по ссылке пройти не судьба? Там - вся суть - не более и не менее.

за соломинку хватаемся?

Вы о чём вообще?

[Maki]

Внутри виртуальной среды. Сама же среда создаётся и поддерживается исторически-длительный срок вполне физическими репликаторами с руками и ногами.

Вот теперь действительно всё. И дальше продолжения необязательны.

Тут такое дело. Когда смотришь на описание живого нейрона и примерно понимаешь, как он устроен , то руки опускаются в том плане чтобы нечто вообще на компьютере подобное реализовать.

Химическая эволюция углеродных соединений, последовавшая за ней биологическая эволюция, и вытекающий из неё антропогенез и вспышка культуры - это естественный, эволюционный, и потому наиболее энергетически и ресурсно выгодный процесс. И за 4,5 ярда лет работы лаборатории "Земля", эволюции удалось создать шедевр в виде нейрона.
Сейчас, порожденные эволюцией мартышки пытаются за пять минут собрать у себя на коленке вычислители на основе иной химии. Конечно же, они жалки. Но если для этой цели будут применены глобальные ресурсы и вычислительные мощности, дармовая энергия и время - возможно, углеродную эволюцию мартышки в чём-то и обставят, создав вычислитель более сложный, чем мозг.

[Maki]

за уши

Вы уверены?
Эволюция постоянно демонстрирует "мейнстрим", что проявляется в известном принципе конвергенции. Эволюцией ведь движет отбор. Отбором заведует среда. Среда обусловлена универсальными физическими законами. Законы определяют оптимальные биофизические решения.

че-то эволюция не преследует нарушителей, переносящих гены от вида к виду

Вы об эволюции прокариот? Так там и видов толком нет - сплошной ГПГ-промискуитет, благодаря тотальной вирусной инфекции. Зелёный свет нарушителям!
Вот эукариоты, почему-то, невзлюбили вирусов и придумали себе репродуктивную изоляцию. Зато взамен придумали сексуальную распущенность, по сути, украв у прокариот идею коньюгации. Но даже у них вирусы кое-какие гены переносят.

[eRTF]

А имея доступ к "и" "или" и "не" - можно уже совершать весь спектр логических операций.

Я не понял - кто совершает логические операции в данном случае? Эволюция?
Это же закономерность, а не материальный объект.

[neolopus]

Надёжный холоп - невозможен.

Я бы немного модифицировал Ваше высказывание, если Вы не против:

Даже если надёжный холоп и возможен, и даже если данный конкретный холоп надёжен на все 100% - мы никогда не можем быть в полной уверенности относительно его надёжности как холопа.


Ибо кто знает - что творится в его ИскИновской голове!?
И чем выше интеллект существа, чем больше оно может развиться само и перешагнуть наши запреты - тем лучше оно может, если захочет, спрятать свои истинные намерения!

Прецедент умного слуги при не особо умном хозяине. Слуга может обыграть такое, что хозяин и не раскусит.
Паранойя, правда?

[вова111]

А имея доступ к "и" "или" и "не" - можно уже совершать весь спектр логических операций.

Я не понял - кто совершает логические операции в данном случае? Эволюция?
Это же закономерность, а не материальный объект.

Взаимодействие объектов из которого вы можете строить предположение о закономерности. Закономерности самой по себе то нет, без объектов, котоыре имеют какое то поведение. Просто в след раз чуток притормозите в размышлениях и поглубже задумайтесь.

[вова111]

Но если для этой цели будут применены глобальные ресурсы и вычислительные мощности, дармовая энергия и время - возможно, углеродную эволюцию мартышки в чём-то и обставят, создав вычислитель более сложный, чем мозг.

Ещё раз предлагаю перестать писать слово "мартышки" применительно к людям. Меня лично это задевает например.

По более сложному вычислителю - сильно сомневаюсь. Но даже если создадим, то общая вычислительная сложность популяции вырастет не сильно. То есть - даже если проигнорировать большую часть населения планеты а оставить только научных работников, то их всё равно наберётся несколько миллионов думаю. Причём они все создают совместный продукт, выраженный в качестве прогресса цивилизации.

То есть - для того чтобы удвоить продуктивность научных работников, в текущей ситуации придётся создавать устройство с вычислительной сложностью, превышающей сложность отдельно взятого научного работника в несколько миллионов раз. Это только для удвоения.

Причём, если учесть, что у научного работника есть и компьютер и доступ к уже написанным программам, приборам, алгоритмам, а так же ресурсоёмкость экспериментов, порог для удвоения может стать ещё более сложным, если вообще возможным. То есть, скорее всего - это не линейный процесс и больше в 2 раза вычислительная сложность не даст производительность большую в два раза, а скажем даст выигрыш процентов в 5-10. Такое кстати - вполне вероятно.

И гораздо вероятнее, чем экспоненциальный рост.

[Maki]

Даже если надёжный холоп и возможен, и даже если данный конкретный холоп надёжен на все 100% - мы никогда не можем быть в полной уверенности относительно его надёжности как холопа.

Тут вы затрагиваете очень важный момент. Мы, прежде всего, не можем быть уверены в том, кто стоит за этим "холопом", насколько он "свободен", и в чьих интересах он действует.
Интернет уже стал местом сбора личной информации. Банковская тайна уже не существует. Торговые операции уже полностью прозрачны. Смартфоны уже стали инструментом слежки. Государственные структуры уже внедряют системы тотального контроля. И "Мы" в этой системе очень неодинаковы. Одни - объект контроля или маркетинга. Другие - заказчики и авторы проектов.

Ибо кто знает - что творится в его ИскИновской голове!?
И чем выше интеллект существа, чем больше оно может развиться само и перешагнуть наши запреты - тем лучше оно может, если захочет, спрятать свои истинные намерения!

Куда вероятней, что никакого "существа" или "намерений" не будет. А будут отдельные товарищи, способные контролировать искусственные нейросети, и обращать это умение себе на пользу. Вот их намерения и будут скрываться за внешне беспристрастным и объективным "ИИ".