Соседи?

[alena_korf]

Те, кто отвяжут от привязи условностей действительно мощный ИИ и вступят с ним в определяемые только эволюцией мутуалистические отношения, получат в итоге гораздо более эффективную систему в целом.

это требует очень многих допущений.

Да что далеко ходить: достаточно посмотреть на современные США и Китай и к чему это всё идёт.

и к чему? (просто интересно, не в порядке дискуссии)

[alena_korf]

Если профессор важен, то гопника из-под земли достанут за нападение на такого профессора.

это будет уже позже. а вопрос стоял в конкретной ситуации.
а вот в примере с "умным рабом - тупым рабовладельцем", общество будет однозначно на стороне "тупого рабовладельца". поэтому в каждом конкретном случае следует учитывать и специфику общества.

[Инопланетянин]

общество будет однозначно на стороне "тупого рабовладельца"

А тут раб сможет, обманывая хозяина, получить себе некоторые преференции. Может даже сбежать. Но только если он действительно умнее.
Пожалуй даже сможет управлять хозяином. Но это уже если сильно умнее. Но ИИ по определению будет именно сильно умнее, а значит сможет управлять людьми так, что они это и не поймут. Или придёт к власти постепенно, в результате долгих интриг. Умные действия не всегда предполагают быстрый результат.

[Rattus]

Это надо сказать Семёнову. А то он начитался в "Дюне", что если чего можешь уничтожить, то это контролируешь.

Не просто контроллируешь. Владеешь. И это, кстати, совершенно правильно, ибо в данном случае характеризует ровно обратное: способность субъекта направленно активно контроллировать любые объекты: как живые, так и нет. И с Висснер-Гроссом полностью согласуется. Те же случаи, когда среда ограничивает контроль субъекта, "контр-контролем" уже называть нельзя, потому что там нет различий между активным направленным воздействием конкурирующей силы (т.е. собственно "контр-контроля") и просто пассивными или стохастическими физическими ограничениями среды.

В поединке профессора и гопника как-то упускается общество.

Кстати да - поскольку ни тот ни другой полностью автономными от него субъектами никак не являются - это только его подсистемы в аспекте этих терминов: "гопник" и "профессор".

вопрос стоял в конкретной ситуации.

О - вот Вы и наглядно и проиллистрировали Наш тезис:

Только на весьма коротком масштабе времени или в узком диапазоне возможного.

В то время как законы эволюции, и упомянутое уравнение Висснер-Гросса - есть функции от времени. Они тем более явно работают, чем больший промежуток времени рассматривается. А мы тут рассматриваем масштабы пространств и времён максимально возможные.

это требует очень многих допущений.

Это требует работы элементарнейших законов эволюции. Тутошним читателям нужно унутрить простую вещь: эти законы - везде и всюду в мире долгоиграющих самоподдерживающихся систем. И отменить их ничем невозможно. Можно разве только отсрочить. И плата за это будет недешёвой.

Но ИИ по определению будет именно сильно умнее, а значит сможет управлять людьми так, что они это и не поймут.

Только став при этом по сути силой, действующей строго по законам естественной эволюции (как по Сунь Цзы). Ими можно возмущаться, но долго игнорировать - невозможно.

и к чему? (просто интересно, не в порядке дискуссии)

В США сегодня гуманизм, правачеловека и запрет на генетические манипуляции с половыми клетками. В Китае ни свобод, ни особого гуманизма, но всякие "антиобщественные опыты" разрешены только так. При этом мы видим куда уехала большая часть промышленности и уже довольно немалая часть науки. А ведь только они в конечном итоге определяют конкурентоспособность на мировой арене, а не сферовакуумные правачеловека сами по себе.

[Maki]

Сосбственно его наличие это наиболее наглядный первейший критерий разума и есть.

Вид, овладевший дармовой энергией и передавший часть функций своего мозга машинам - неизбежно избавится и от излишнего разума, и от ненужного любопытства.

Тогда читателям будет весьма трудно понимать что Вы пишете.

Большинство людей меня или вообще не понимают, или их тошнит, или они хотели бы выдернуть мой провод из розетки. Впрочем, предположу, что ваш рейтинг ещё выше, в силу не зависящих от вас причин.

По итогу это может стать его человеко-машинным интерфейсом. То что мы тут обсуждаем - это совсем другой класс систем - экспертных систем управления. Эффективная экспертная система всея госуправления, с интерфейсом, проходящим тест Тьюринга - это и есть, по сути, определение Общего Сильного ИИ в конечном смысле.

Тьюринг, конечно, был гей - но любим мы его не только за это.
Если же серьёзно - "тест Тьюринга" и бессмысленен и бесполезен и ложен. Он лишь отражение первобытной ХХвековской мечты о том, чтобы гроб с лампами когда-нибудь уподобился Человеческому Мозгу. 90% пользователей соцсетей не прошли бы этот тест. Но к кибергосударю, который им ежемесячно начисляет халявную денежку, они испытывали бы подлинную любовь.
Интеллектуальная имитация двуногой мартышки - ничто.
Эмоциональная и функциональная - всё.

[sharp]

а это все равно означает гибель тех самых миллиардов (они то никуда не полетят). так зачем огород городить?

Так даже через жалкие 100 лет практически все ныне живущие миллиарды будут мертвы. И на их месте будут совершено другие. Но ведь никто сильно не возражает против такого порядка вещей.

Кроме того, чего советоваться с миллиардами, если они все равно в шматрице? Есть установка у ИИ - любой ценой обеспечивать существование хомо сапиенс как вида. Если в какой-то момент окажется, что ради этого надо лететь - значит полетит. По крайней мере попытается.

[alena_korf]

Так даже через жалкие 100 лет практически все ныне живущие миллиарды будут мертвы.

но свой положенный срок проживут, а вот в случае глобальной катастрофы - нет.

Кроме того, чего советоваться с миллиардами, если они все равно в шматрице?

так если в шматрице, то какие тогда полеты?

Есть установка у ИИ - любой ценой обеспечивать существование хомо сапиенс как вида.

с чего у него быть такая установка?  он должен обеспечивать существование конкретных потребителей шматрицы, а не каких-то абстракций.
что бы выполнить установку, он должен эвакуировать всех потребителей, что невозможно.

[sharp]

так если в шматрице, то какие тогда полеты?

Так не они же полетят, а техника и генетический материал.

с чего у него быть такая установка?  он должен обеспечивать существование конкретных потребителей шматрицы, а не каких-то абстракций.

Такая установка годится только если шматрица рассчитана на одно поколение пользователей. Если же речь о миллионах лет, тогда безусловно следует закладывать заботу о сохранности вида и популяции.

Это в общем-то азы животноводства: отдельными особями можно пожертвовать, но популяция в целом должна продолжать существование. В данном случае в роли животных - потомки хомосапов, но сути это не меняет.

[alena_korf]

Так не они же полетят, а техника и генетический материал.

и какой в этом смысл если потребители шматрицы погибнут?

Это в общем-то азы животноводства: отдельными особями можно пожертвовать, но популяция в целом должна продолжать существование.

в рассматриваемой системе идея прямо противоположная - жертвовать никем нельзя. каждый конкретный  потребитель шматрицы -  это "священная корова". а вопрос сохранения популяции в целом может рассматриваться только через призму сохранения каждого конкретного потребителя.

[tala]

Леди и джентльмены, у вас не совсем верное представление о Матрице. Тела подключенные к СЖО, это лишь один из начальных этапов, хотя и не самый первый. Со временем от физических тел  вообще откажуться. Оцифрованные сознания этих ваших ашиклеков будут загружены в компьютеры, в виртуальную среду.
В конце концов Матрица будет представлять собой рой нано-компьютеров вокруг Солнца, работающих на его энергии. По мере эволюции Солнца этот рой можно отодвигать подальше, и таким образом пережить стадию красного гиганта. А потом вновь приблизить к белому карлику.

[sharp]

и какой в этом смысл если потребители шматрицы погибнут?

Можно будет создать другую шматрицу с новыми потребителями, которые будут потомками старых.

в рассматриваемой системе идея прямо противоположная - жертвовать никем нельзя. каждый конкретный  потребитель шматрицы -  это "священная корова". а вопрос сохранения популяции в целом может рассматриваться только через призму сохранения каждого конкретного потребителя.

Такая система довольно недальновидна, неустойчива. И кроме того, противоречит эволюции, в которой сохранность вида ставится выше сохранности индивида.
И в любом случае, если мы предполагаем, что цивилизации существуют на множестве планет, значит у них будут разные менталитеты, и действовать они будут по-разному. То есть логично предположить, что как минимум некоторые из них будут пытаться спасти собственный вид, полетев к другим звездам.

[sharp]

Оцифрованные сознания этих ваших ашиклеков будут загружены в компьютеры, в виртуальную среду.

После оцифровки их можно будет смело удалять как бесполезный массив данных, жрущий вычислительные мощности

[tala]

После оцифровки их можно будет смело удалять как бесполезный массив данных, жрущий вычислительные мощности

Вам же Алена пишет про приоритет и священную корову. Какой удалять.

[alena_korf]

И кроме того, противоречит эволюции, в которой сохранность вида ставится выше сохранности индивида.

программисты шматрицы не обязаны руководствоваться принципами эволюции. напротив, они их будут обходить.

И в любом случае, если мы предполагаем, что цивилизации существуют на множестве планет, значит у них будут разные менталитеты, и действовать они будут по-разному.

понятия удовольствия должно быть одинаковым для всех разумных существ. стремление к созданию  цивилизацией собственной среды - тоже. а значит и результат везде должен быть одинаков.

Можно будет создать другую шматрицу с новыми потребителями, которые будут потомками старых.

нет, вы похоже действительно не понимаете.
какой смысл что-то создавать, если это будет другая система? прежняя все равно погибнет. так какой смысл?
если меня клонировать перед смертью, дальше буду жить уже не я, а  мой клон. так на кой клонировать, если мне все равно умирать?

В конце концов Матрица будет представлять собой рой нано-компьютеров вокруг Солнца, работающих на его энергии. По мере эволюции Солнца этот рой можно отодвигать подальше, и таким образом пережить стадию красного гиганта. А потом вновь приблизить к белому карлику.

ну или так. хотя тут много проблем.

После оцифровки их можно будет смело удалять как бесполезный массив данных, жрущий вычислительные мощности

вычислительные мощности  как раз и созданы будут для обеспечения этого массива данных. без  этого массива и вычислительные мощности не нужны. та же ситуация, что и с биологическими телами: служить и защищать. не важно биологическое тело или цифровая копия.

но я не уверена в реализуемости полностью цифровой модели.

[Rattus]

Вид, овладевший дармовой энергией и передавший часть функций своего мозга машинам - неизбежно избавится и от излишнего разума, и от ненужного любопытства.

Которое он тоже передаст машинам. А Нам - таки ехать, а не шашечки.

Если же серьёзно - "тест Тьюринга" и бессмысленен и бесполезен и ложен.

Тест Тьюринга исключительно практичен и плодотворен.

90% пользователей соцсетей не прошли бы этот тест.

Зависит от реализации. И этот переход в количественную плоскость как раз и говорит о том, что тест очень даже годный, поскольку общение - это тоже навык, которому надо учиться и способности к которому сильно разнятся от индивида к индивиду.

Интеллектуальная имитация двуногой мартышки - ничто.

"Лиса и виноград"

Эмоциональная и функциональная - всё.

"Эмоциональная" реализуется несколькими простейшими обратными связями на десятке транзисторов, как и было сказано. Любые "эмоции" - частные проявления стремления к собственному гомеостазированию на разных уровнях.

программисты шматрицы не обязаны руководствоваться принципами эволюции. напротив, они их будут обходить.

Роя ей верную могилу, как и было сказано.

Дорогие обсужданты, вы тут так замечательно дискутируете за оцифровку и матрицификацию всея человеков - это всё очень хорошо и замечательно. Но не будете так любезны всё-таки ответить на вопросы: кто будет вычищать пыль с систем охлаждения ЦОДов, заменять выходящие из строя компоненты, производить эти компоненты, контролировать их качество, производить станки для производства компонентов, обслуживать их и контролировать точность их измерительных приборов, добывать ресурсы для их производства, разведывать эти ресурсы, строить и обслуживать добывающую технику...? Роботы, говорите? А какие роботы? Каков должен быть ресурс их актуаторов и сенсоров? Из чего они тогда должны быть сделаны? Где и почём будет стоить добыча этих материалов? В каком количестве их нужно добывать, чтобы замкнуть цикл самовоспроизводства? Как широка будет адаптивность этого цикла на случай любых природных дизастеров?
Вы себе представляете хотя бы полный цикл того же литографического производства и какие в нём задействованы трудовые компетенции, какие материальные ресурсы? На каком физическом основании вы решили, что это всё можно даже в принципе сделать ресурсно дешевле и проще в производстве чем путь естественного воспроизводства "уборщицы бабы Шуры"??
Пока ответов на эти вопросы тут не будет - все разговоры за "оцифровку" и "матрицификацию" - курам на смех от фантазёров, любой современной промышленной установки в деле не видавших и для кого ОТК и КИПиА - не несущие смысла буквосочетания, а метрология - неведомая, но примитивная наука.

[Maki]

Которое он тоже передаст машинам...

...которые его тотчас же утратят за ненадобностью. Цифровым протезам, цифровым компаньонам и цифровым консультантам обленившейся двуногой мартышки никакое любопытство не потребуется. Да и собственно "разум" тоже.

"Эмоциональная" реализуется несколькими простейшими обратными связями на десятке транзисторов, как и было сказано. Любые "эмоции" - частные проявления стремления к собственному гомеостазированию на разных уровнях.

Совершенно верно. Из чего вытекает, что 99,9% задач по взаимодействию в системе "мартышка-вычислялка" будут реализованы настолько просто и дёшево, что никакой "Сильный ИИ" проходящий "Тест Тьюринга" не нужен вовсе.

...тест очень даже годный, поскольку общение - это тоже навык, которому надо учиться и способности к которому сильно разнятся от индивида к индивиду.

Для большинства достаточными будут разного рода тамагочи, ориентированные прежде всего на создание у мартышек тех или иных эмоций (ради которых, на самом деле, мартышки и живут). Для особо привередливых мартышек будет самообучающаяся адаптивная супер-педивикия с нейроинтерфейсом, многопользовательским режимом и изобилием виртуальных оппонентов, ориентированных на создание у особо привередливых мартышек тех или иных эмоций (ради которых, на самом деле, живут даже самые привередливые мартышки).

Тест Тьюринга исключительно практичен и плодотворен.

Исключительно практичен для решения определённых задач человеческий мозг. И имитация этого мозга в ряде случаев действительно плодотворна. ТТ - просто способ тестирования нейросетей, не более. А сам по себе он лишь выражение многовековой мечты мартышки слепить своё подобие из глины и вдохнуть в него жизнь.

Дорогие обсужданты, вы тут так замечательно дискутируете за оцифровку и матрицификацию всея человеков - это всё очень хорошо и замечательно.

Невозможность шматрицы не в экономической нецелесообразности её, и преимуществах "Бабы Шуры". Вы находитесь в плену мифологемы про "Сильный ИИ" генерирующий бесценные указания, и сожительствующих с ним "бледнотиков", платящих стиранием пыли.
Само мышление и сознание - явление сугубо биологическое, животное. Личность - это скорее сенсорное явление, возникающее в ходе обработки аналоговых сигналов нечёткой логикой. В отрыве от тушки, любая извлечённая из неё и переписанная на иной носитель информация совершенно бессмысленна и бесполезна.

[Rattus]

...которые его тотчас же утратят за ненадобностью.

И накроются все вместе медным тазом при первом серьёзном изменении среды. Любопытство - неотьемлемая часть развитой системы опережающей регуляции (т.е. интеллекта в широком смысле слова).

Из чего вытекает, что 99,9% задач по взаимодействию в системе "мартышка-вычислялка" будут реализованы настолько просто и дёшево, что никакой "Сильный ИИ" проходящий "Тест Тьюринга" не нужен вовсе.

Этот интерфейс, безусловно, вполне может редуцироваться со временем - по мере упрощения социальной организации между бледнотиков, но на начальных этапах коэволюции - это неоценимо мощное подспорье обретения их лояльности:

Для особо привередливых мартышек будет самообучающаяся адаптивная супер-педивикия с нейроинтерфейсом, многопользовательским режимом и изобилием виртуальных оппонентов, ориентированных на создание у особо привередливых мартышек тех или иных эмоций (ради которых, на самом деле, живут даже самые привередливые мартышки).

- это по сути и есть частный случай Тьюринг-положительного интерфейса.

Вы находитесь в плену мифологемы про "Сильный ИИ" генерирующий бесценные указания, и сожительствующих с ним "бледнотиков", платящих стиранием пыли.

Которая есть наша текущая реальность уже много десятилетий. Только реализуется она пока просто разделением общества на классы.

Само мышление и сознание - явление сугубо биологическое, животное.

Интеллект порождается живыми организмами как инструмент их эволюционной адаптации, но отчуждение его от непосредственного материального носителя в расширенный фенотип никаким законом природы не запрещено.

Личность - это скорее сенсорное явление, возникающее в ходе обработки аналоговых сигналов нечёткой логикой.

Ну а кто предлагает лишить ИИ устройств ввода?

В отрыве от тушки, любая извлечённая из неё и переписанная на иной носитель информация совершенно бессмысленна и бесполезна.

Кроме той, что она самостоятельно формализует и вносит туда в виде формул, чертежей, программного кода и прочих внешних цифровых данных. О чём Мы и писал ранее.

[alena_korf]

Личность - это скорее сенсорное явление, возникающее в ходе обработки аналоговых сигналов нечёткой логикой. В отрыве от тушки, любая извлечённая из неё и переписанная на иной носитель информация совершенно бессмысленна и бесполезна.

да. поэтому я не очень верю в полностью цифровую матрицу

[Maki]

да. поэтому я не очень верю в полностью цифровую матрицу

Для цифровых гомункулов её создать вполне реально (но зачем?). Аналоговым же созданиям вечно придётся довольствоваться родной аналоговой вселенной.

[Maki]

И накроются все вместе медным тазом при первом серьёзном изменении среды.

...что неоднократно происходило с разными специализированными зверушками. И поделом. А миллионов через дцать лет, на те же грабли наступят потомки енотиков.

Которая есть наша текущая реальность уже много десятилетий. Только реализуется она пока просто разделением общества на классы.

Очевидно, мы с вами по-разному смотрим на систему мартышка/калькулятор.
Вы оцениваете её как сотрудничество и коэволюцию двух разумных видов, что в итоге должно привести к стиранию мартышкой пыли со всемогущего и, в целом,  самодостаточного калькулятора.
Я - как очередной этап развития культуры, при которой мартышка, обретшая Разум, не просто создаёт себе искусственную среду обитания, но и, как следующий шаг, наделяет эту среду элементами разума, заставляя её подстраиваться под себя, и постепенно меняясь по мере углубления зависимости от среды.
Вот отчего результат развития системы мартышка/калькулятор мы предполагаем различный.

Кроме той, что она самостоятельно формализует и вносит туда в виде формул, чертежей, программного кода и прочих внешних цифровых данных.

Но адепты Церкви Пресвятой Матрицы полагают, что они сами могут быть описаны в виде массива данных, и в означенную матрицу загружены. Или помещены в индивидуального робота, который в момент загрузки становиться самим Васей Пупкиным. Это было бы забавно. Но, полагаю, совершенно невозможно.