Пределы автоматизации и внедрения роботов

[Rattus]

Это зависит от того, каков на самом деле уклад общества. При ресурсной экономике он неофеодальный - и тогда эффективность управления производством повышать негде за неимением оного. А при производящей оно происходит постепенно само собой до равновесного состояния на конкретный момент - через "электронные правительства" и т.п. сначала чисто интерфейсные вещи: даже в природе сенсоры развиваются раньше мозга.

[Maki]

А при производящей оно происходит постепенно само собой до равновесного состояния на конкретный момент - через "электронные правительства" и т.п. сначала чисто интерфейсные вещи: даже То есть, чем реальнее управленческие задачи и выше отдача от эффективности менеджмента - тем выше соблазн для "топов" выкинуть на мороз кучу бездельников, и заменить их машиной? Да, наверное так. Но для этого надо, чтобы в роли "топов" оказались профи, способные организовать такой процесс, или нанять правильных "брахманов".

[Olweg]

Думаю, что и выбор эффективных киберманагеров будет свален на плечи ИИ, т.к. люди будут недостаточно компетентны и, кроме того, будут просто не в состоянии отслеживать происходящее. В результате власть людей станет чисто номинальной, фактически они станут хозяевами процессов, ни понять, ни управлять которыми они уж не смогут. Разве что нажать в нужный момент кнопку "стоп", но кто же на такое пойдёт?

[-Юрий-]

Но люди - это необходимая для экономики сущность Ибо они потребители. А так же творческие персоны, способные стимулировать потребление. Вот это никакими машинами не заместить.

Это для человеческой цивилизации. Но если будет машинная цивилизация (к чему изо всех сил стремятся), то машинам вся эта хрень нафиг не нужна.

[Maki]

Думаю, что и выбор эффективных киберманагеров будет свален на плечи ИИ, т.к. люди будут недостаточно компетентны и, кроме того, будут просто не в состоянии отслеживать происходящее. В результате власть людей станет чисто номинальной, фактически они станут хозяевами процессов, ни понять, ни управлять которыми они уж не смогут. Разве что нажать в нужный момент кнопку "стоп", но кто же на такое пойдёт?

В ситуации, когда люди становятся "недостаточно компетентны", возможны и другие варианты. Машина может совершенствовать интерфейс для облегчения взаимодействия. Или, если такое невозможно, система просто начнёт "глючить". Или даже "регрессировать" до приемлемого для человека уровня сложности.
Сумасшедший или злокозненный суперкомпьютер, повелевающий человечеством, конечно забавная антиутопия. Но я не могу представить себе самостоятельную и самодостаточную машину. Потому что ей самой просто незачем работать.

Но люди - это необходимая для экономики сущность Ибо они потребители. А так же творческие персоны, способные стимулировать потребление. Вот это никакими машинами не заместить.

Это для человеческой цивилизации. Но если будет машинная цивилизация (к чему изо всех сил стремятся), то машинам вся эта хрень нафиг не нужна.

Машинам не нужна ни цивилизация, ни сама жизнь. Им ничего не нужно. Они ведь не вынуждены жить, как мы.

[crazy_terraformer]

А киборги с вживлённым в мозг оптронным интерфейсом будут вынуждены жить и даже кушать замечательно питательные таблетки и эмульсии.

[Olweg]

Машина может совершенствовать интерфейс для облегчения взаимодействия. Или, если такое невозможно, система просто начнёт "глючить". Или даже "регрессировать" до приемлемого для человека уровня сложности.

Интерфейс, конечно, будет совершенствоваться. Но может быть достигнут уровень сложности, при которой объяснение станет невозможно, как ни упрощай. В конце концов, в детали работы экспертов тоже никто не вдаётся. Результат есть, и ладно. Те системы, что будут регрессировать, просто проиграют гонку.

Сумасшедший или злокозненный суперкомпьютер, повелевающий человечеством, конечно забавная антиутопия. Но я не могу представить себе самостоятельную и самодостаточную машину. Потому что ей самой просто незачем работать.

Цели у неё исключительно те, которые перед ней поставил её владелец. Вопрос в том, как она будет их достигать. Манипуляция другими людьми - а почему нет? Если не ставить ограничений, то это вполне логичное решение в бизнесе/финансах. И не только в них.

[Vitaliy]

Смутно вспомнил какой-то древний рассказ. Там было жуткое перепроизводство и людей заставляли потреблять по квотам. Уничтожать продукцию потребителям нельзя. Премированием в таком обществе было уменьшение квот потребления и выбор. Так один чувак пять рубашек и штанов напялил на своих роботов. Правда не помню чем кончилось.

[Maki]

Интерфейс, конечно, будет совершенствоваться. Но может быть достигнут уровень сложности, при которой объяснение станет невозможно, как ни упрощай. В конце концов, в детали работы экспертов тоже никто не вдаётся. Результат есть, и ладно.

В таком случае, машина просто прекратит работать. Любой разум - личный, социальный, машинный - просто инструменты для обеспечения репликации ДНК. В этом весь смысл их существования. В отрыве от этой задачи, разум не имеет цели.

Цели у неё исключительно те, которые перед ней поставил её владелец. Вопрос в том, как она будет их достигать. Манипуляция другими людьми - а почему нет? Если не ставить ограничений, то это вполне логичное решение в бизнесе/финансах. И не только в них.

Пока есть люди, способные ставить цели - ограничений у машины нет. Но я хотел подчеркнуть, что как только исчезает постановщик - исчезает и цель.

[Olweg]

Ну почему Она может продолжать по инерции, цели-то останутся заложены. Зависит, конечно, от их точной формулировки, но если прописана просто максимизация прибыли, то она и будет продолжать её максимизировать, даже если никто плодами её труда уже не сможет воспользоваться. Но я не утверждаю, что так будет. Я просто к тому веду, что инструмент может стать достаточно самостоятельным, как например неокортекс у человека, который часто сам ставит цели, очень отличные от того, что нужно генам.

[незлой]

Они ведь не вынуждены жить, как мы.

научим, деловто.
просто даже повышения эффективности для: по факту субъект ставит и решает задачи эффективней объекта, при прочих равных.

[незлой]

стоит, возможно, пояснить

репликация -- это "ассемблер", самый низкий уровень. "субъектность" реализована на более высоком уровне. субъектность мего кота, например, даже не догадывается о какойто там "репликации", тем не менее чрезвычайно эффективно действует: способствует как выживанию, так и продолжению рода вверенной тушки.

так вот, связь между этими уровнями достаточно номинальна, и вполне допускает построение субъектности на другой базе, другом ассемблере, не только на молекулярных репликаторах с обвесом из молекулярных-же наномашин. по крайней мере, утверждение обратного требует более веских обоснований, чем "не могу представить"

всё сугубое имхо, конечно, как всегда

[вова111]

просто даже повышения эффективности для: по факту субъект ставит и решает задачи эффективней объекта, при прочих равных.

Например?

[незлой]

Например?

прохождение теста тьюринга 

приспособляемость к среде, например.
но вы правы, следовало уточнить - некоторые классы задач (включая сюда и задачу о постановке задач).
штука в том, что без их решения невозможно сколько-нибудь долгое автономное существование аппаратов, а это вполне себе одна из целей (космос, добывающие отрасли, вояки и тп)

зы: при этом заметим, что многие успехи ии последних лет -- самообучение компьютеров, распознавание изображений, игры в го и прочее-прочее, вообще говоря, сделаны на нейронных сетях, т.е. попросту на попытке реверс-инжениринга наших собственных мозгов, а это уже для данного конкретного сравнивания является читерством

[Maki]

Я просто к тому веду, что инструмент может стать достаточно самостоятельным, как например неокортекс у человека, который часто сам ставит цели, очень отличные от того, что нужно генам.

Вполне резонное замечание. Но такой неокортекс, по моему мнению, в итоге не оставляет копий, и быстро оказывается на столе у патологоанатома.

так вот, связь между этими уровнями достаточно номинальна, и вполне допускает построение субъектности на другой базе, другом ассемблере, не только на молекулярных репликаторах с обвесом из молекулярных-же наномашин. по крайней мере, утверждение обратного требует более веских обоснований, чем "не могу представить"

Я вполне могу себе такое представить. И это даже будет работать некоторое время. Но, мне кажется, суть жизни в том, что "субъект" живёт не задумываясь об "ассемблере" и "базе". А осознание своих основ должна неминуемо вести к "кризису сознания", и вопросу "зачем мне вообще мыслить и жить"?
Если "ИИ" своих основ не осознаёт - он ничем не эффективней мартышки-обывателя.
Если он от них оторван, как это предположил ув. Olweg - боюсь, получится сферический в вакууме "будда".
А если он будет осознавать свои основы, и не будет в состоянии об этом забыть - получится "страдающий сумасшедший".

[вова111]

приспособляемость к среде, например.
но вы правы, следовало уточнить - некоторые классы задач (включая сюда и задачу о постановке задач).
штука в том, что без их решения невозможно сколько-нибудь долгое автономное существование аппаратов, а это вполне себе одна из целей (космос, добывающие отрасли, вояки и тп)

Сравнение противоречивой информации от органов чувств? Просто по идее я так подумал - субъектность это как виртуальное пространство, моделирующее реальность. А если бы информация всегда поступала непротиворечивая, то можно было бы просто реагировать на раздражители. Но организмы многоклеточные у нас на планете устроены так некоторые, что информация поступает противоречивая, например визуальная. Поступает сразу две разных картинки. И приходится реагировать сразу на обе. В итоге возникает трёхмерное изображение в виртуальной реальности, которую создаёт мозг. Это как бы и есть возникновение сознания. Понимаете в чем мысль?

Просто если это верно, то сознание присутствует у любых организмов с двумя полушариями.

Не ну всё может быть сложнее конечно - модель то наверняка создаётся и на уровне осязания, то есть ещё до зрения. И двуполушарность тогда просто заточенное под уже имеющееся устройство.

[Проходящий Кот]

.......
Я вполне могу себе такое представить. И это даже будет работать некоторое время. Но, мне кажется, суть жизни в том, что "субъект" живёт не задумываясь об "ассемблере" и "базе". А осознание своих основ должна неминуемо вести к "кризису сознания", и вопросу "зачем мне вообще мыслить и жить"?
Если "ИИ" своих основ не осознаёт - он ничем не эффективней мартышки-обывателя.
Если он от них оторван, как это предположил ув. Olweg - боюсь, получится сферический в вакууме "будда".
А если он будет осознавать свои основы, и не будет в состоянии об этом забыть - получится "страдающий сумасшедший".

Проблема засыпания разума на самооснове , конечно существует.
Поэтому подобный Разум фиксирует отдельно от себя своё самое оптимальное состояния и периодически себя на него выводит.

[незлой]

Я вполне могу себе такое представить. И это даже будет работать некоторое время. Но, мне кажется, суть жизни в том, что "субъект" живёт не задумываясь об "ассемблере" и "базе".

именно -- между ними вполне абстрактный лейер, позволяющий свести задачу к "заботится о себе, любимом". причём конкретная основа этого себя-любимого вполне выносится за скобки, что и позволяет говорить о возможности сильного ии. и даже, чёрт возьми, о какомнибудь гипер-гуманизме, в котором "Я" разных основ имеют абсолютно равные права на существование

[незлой]

А осознание своих основ должна неминуемо вести к "кризису сознания", и вопросу "зачем мне вообще мыслить и жить"?

"- как зачем? удовольствие получать!" (с) кин-дза-дза

у природы других стимулов нет, философы тоже не сильно продвинулись (теософов лучше вообще не трогать).
смысла то, как ни крути, действительно нет, вне зависимости от основы вопрошающего. репликация генов, например -- ни разу не смысл, мемам (которые и задают этот вопрос) интересы генов в общем случае вообще до лампочки.

он ничем не эффективней мартышки-обывателя.

мартышка-обыватель до сих пор с рядом задач справляется успешнее ии (любая деятельность, где ии [пока] не вытеснил человека). потеснить мартышек-обывателей и на этих местах --тоже вполне себе задача. оптимизация прибыли, вот это всё

А если он будет осознавать свои основы

для эффективной работы обратной связи ["Я"] "основы" нужно не "осознавать", а "чувствовать". необходимое и достаточное условие. и вполне выполнимое даже на современной элементной базе, кмк.

[вова111]

мартышка-обыватель до сих пор с рядом задач справляется успешнее ии (любая деятельность, где ии [пока] не вытеснил человека)

Ну тут стоит всё же понимать, что компьютер это инструмент. И такое высказывание сравнимо с "там где молоток ещё не вытеснил человека". То что компьютер существует как бы отдельно, не снимает с него тег "орудие труда".