Пределы автоматизации и внедрения роботов

[Rattus]

Но тут достаточно искусной имитации человеческого интеллекта. Машина должна ловко изображать животные мысли и чувства, а испытывать их - не обязана.

Только фокус в том, что и Вы и кто угодно другой тоже не может никаким образом доказать, что он что-то испытывает "по-настоящему", а не "ловко изображает". Само это разделение на таком уровне внутренне порочно и есть типичный пример неадекватного использования философией языковых средств - строго по Витгенштейну. Лем в "Кибериаде" и не только это вполне наглядно изобразил.

[MenFrame]

Только фокус в том, что и Вы и кто угодно другой тоже не может никаким образом доказать

Разработчик не может доказать как функционирует его программа?

[Проходящий Кот]

Переведите свой ответ....

[Maki]

Но тут достаточно искусной имитации человеческого интеллекта. Машина должна ловко изображать животные мысли и чувства, а испытывать их - не обязана.

Только фокус в том, что и Вы и кто угодно другой тоже не может никаким образом доказать, что он что-то испытывает "по-настоящему", а не "ловко изображает". Само это разделение на таком уровне внутренне порочно и есть типичный пример неадекватного использования философией языковых средств - строго по Витгенштейну. Лем в "Кибериаде" и не только это вполне наглядно изобразил.

"Кибериаду" Лема не читал, но осуждаю одобряю (С). С Витгеншейном знаком только по его победам над Удино. ()
"Аргумент Зомби" имею наглость считать унылым порождением того, что Вы именуете "фаллософией". Собственную субъектность, разумность, эмоциональность и личный опыт (в совокупности образующие Человечность) мы проецируем на других Лысых Обезьян исходя из нашей очевидной (для нас) принадлежности к одному биологическому виду. Многие проецируют эти качества ещё и на котиков, ибо они няшные (т.е. имитируют человеческих детёнышей, стимулируя родительский инстинкт). Или даже на кроликов, хомячков и минипигов. Хотя все они - просто безумные и никчёмные звери.
То же самое касается искусственных нейросетей. Всем людям,  кроме фаллософов, решительно плевать, симулирует машина оргазм, или его реально испытывает. Главное - какую эмпатию вызывает её интерфейс.
Я уже высказывал ранее гениальную мысль, и с удовольствием её повторю. Тест Тьюринга как набор интеллектуальных задач - чушь и не нужен. Для взаимодействия Двуногой Лысой Обезьяны с машинным интерфейсом необходимо прохождение эмоционального теста. И если он будет пройден - человек доверится машине даже в точности зная, что это не "тьюринговский проходимец", а просто математически-гениальный компьютерный хомяк.
"Субъекта" в собеседнике воображаем мы сами. А для этого надобно стимулировать не наш ум, а наши эмоции.

[noxx77]

Такое предложение надо было подавать в хозяйство Михаила Суслова.
А так оно несколько опаздало.

Ну, может быть, наоборот, опередило время...

[noxx77]

и гнущий свою линию при необходимости

Ага, вроде "Форточек" двадцать раз спрашивавших, точно ли Вы хотите отказаться от (настоятельно) рекомендуемых обновлений или антивируса, блокирующего страницы с бесплатными ключами к нему. Увы, это имеет пока отношение только к одному интеллекту - интеллекту разработчиков.

[noxx77]

А владение им на тьюринг-положительном уровне добавляет +100 очков к убедительности там, где она необходима.

Убедительность и +тьюринг - сильно разные вещи. Иногда ты не сомневаешься, что клинический долбоящер на другом конце провода или прямо перед тобой - человек, особенно, если это продавец, но убедительности ему/ей это не добавляет как раз поэтому.

[noxx77]

Зато весь её обслуживающий персонал и клиенты отягощены. И если она не сможет удовлетворительно помогать решать им ИХ (в конечном итоге биологические - как Вы правильно заметили) задачи - то они уступят место тем моделям, которые могут справляться с ними лучше - в процессе самого что ни на есть естественного отбора.

А вот здесь весьма зловеще прозвучало, потому что задачи, даже биологические на уровне существ, наделённых интеллектом и экономической деятельностью как способом удовлетворения потребностей, надо уметь ставить. Если это умеет делать сам человек, то сверхинтеллектуальный интерфейс ему не нужен - хватит функций существующих, поскольку машина - лишь инструмент. Если же человек отчуждает машине своё право и обязанность решать за себя в отношении целей, а не средств их достижения - даже на уровне принятия убедительных рекомендаций от машины, значит через машину решает как жить человеку кто-то за него. Результатом такого выбора наверняка станет рабская жизнь в интересах владельцев машины и их бизнес-партнёров.

[Rattus]

Тест Тьюринга как набор интеллектуальных задач

Тьюринг про это ничего не писал.

Для взаимодействия Двуногой Лысой Обезьяны с машинным интерфейсом необходимо прохождение эмоционального теста. И если он будет пройден - человек доверится машине даже в точности зная, что это не "тьюринговский проходимец", а просто математически-гениальный компьютерный хомяк.
"Субъекта" в собеседнике воображаем мы сами. А для этого надобно стимулировать не наш ум, а наши эмоции.

Так о чём Вам и пишу. Но полагаете это ниразу не интеллектуальная задача?

Ага, вроде "Форточек" двадцать раз спрашивавших, точно ли Вы хотите отказаться от (настоятельно) рекомендуемых обновлений или антивируса, блокирующего страницы с бесплатными ключами к нему.

Как реальный пример.

Если же человек отчуждает машине своё право и обязанность решать за себя в отношении целей, а не средств их достижения - даже на уровне принятия убедительных рекомендаций от машины, значит через машину решает как жить человеку кто-то за него.

Всякие коучи, бузинес-тренеры и прочие сектоводители этим и сейчас успешно занимаются. Если биржевых спекулянтов автоматизировали, то что мешает заняться автоматизацией и этой отрасли хомячководства, когда технологии позволят?

Результатом такого выбора наверняка станет рабская жизнь в интересах владельцев машины и их бизнес-партнёров.

Сами владельцы подчинены закону государства, который уже очень давно и весьма жёстко формализуется.
Молох вполне может быть построен с песнями и добровольно. И это хорошо: эффективный машинный Молох всяко лучше малоэффективного, непредсказуемого и недолговечного человечьего: машина может быть не меньшим тираном, но хотя бы самодуром не будет - как раз по причине отсутствия собственных эгоистических интересов. По сути же это просто означает, что в букву закона будет вдохнут настоящий Дух - закон станет "персонализирован".

[Maki]

Тест Тьюринга как набор интеллектуальных задач

Тьюринг про это ничего не писал.

Для взаимодействия Двуногой Лысой Обезьяны с машинным интерфейсом необходимо прохождение эмоционального теста. И если он будет пройден - человек доверится машине даже в точности зная, что это не "тьюринговский проходимец", а просто математически-гениальный компьютерный хомяк.
"Субъекта" в собеседнике воображаем мы сами. А для этого надобно стимулировать не наш ум, а наши эмоции.

Так о чём Вам и пишу. Но полагаете это ниразу не интеллектуальная задача?

Таки интеллектуальная. Но я, противопоставляя интеллектуальное - эмоциональному, хотел подчеркнуть негодность классического Теста Тьюринга. Ведь полная имитация мартышки в ящике безумно пугает настоящих мартышек, и заставляет их относиться с недоверием к машинным интерфейсам.
А вот откровенно машинные (то есть не-тьюринговские), ограниченные в решении задач, но подчёркнуто дружелюбные интерфейсы, уже эволюционируют.

И это хорошо: эффективный машинный Молох всяко лучше малоэффективного, непредсказуемого и недолговечного человечьего: машина может быть не меньшим тираном, но хотя бы самодуром не будет - как раз по причине отсутствия собственных эгоистических интересов.

За ней, в силу уже обговорённых ранее причин, всегда будут стоять кукловоды и их рибосомы. Так что получаем просто абсолютный и совершенный НКВД.

[Rattus]

Ведь полная имитация мартышки в ящике безумно пугает настоящих мартышек, и заставляет их относиться с недоверием к машинным интерфейсам.

Те кто сами их проектирует - далеко не робкого десятка, но Вы им можете показать эту самую полную имитацию, а? Вот в том-то и дело.
А кого она ещё будет пугать/непугать - это ещё посмотреть надо, но "сначала покажите ваши деньги".

За ней, в силу уже обговорённых ранее причин, всегда будут стоять кукловоды и их рибосомы. Так что получаем просто абсолютный и совершенный НКВД.

Совершенным он будет только в том случае, если задачи перед ним будут поставлены рациональные. А живые управляющие могут это сделать только на высоком уровне, не вмешиваясь в их инерпретацию на более низком - иначе в ИИ никакого смысла не будет, а управление по факту останется ручным. Но кукловодам эта рутина тоже никуда не впилась и тем более не впилось доверять её другим живым подчинённым со своими тараканами и интересами. Так что никаких принципиальных препятствий в мотивации эстеблишменту отдать реальные бразды правления машине под гарантии эффективности управления и неприкосновенности своих благ не видно.

[Maki]

Те кто сами их проектирует - далеко не робкого десятка, но Вы им можете показать эту самую полную имитацию, а? Вот в том-то и дело.
А кого она ещё будет пугать/непугать - это ещё посмотреть надо, но "сначала покажите ваши деньги".

Ну, собснгря, тенденция уже намечается. "Показывают деньги", например, клиенты вот этих калифорнийских подонков: https://realbotix.com/. И всего-то хочет рыночек, чтобы "ИИ" был в красивой и хорошо пахнущей антропоморфной оболочке, вовремя улыбался и стонал.
Боюсь, что при всей отваге и героизме разработчиков, никто им "полную имитацию" не закажет, в виду её полной ненужности.

Так что никаких принципиальных препятствий в мотивации эстеблишменту отдать реальные бразды правления машине под гарантии эффективности управления и неприкосновенности своих благ не видно.

Согласен. Препятствий действительно никаких. Правда создающие, поддерживающие, и обеспечивающие интерфейс этой машины специалисты, могут, со временем, оказаться в положении "брахманов", и заменить прежнего заказчика. Но ничего худого в том я не вижу.

[Rattus]

Боюсь, что при всей отваге и героизме разработчиков, никто им "полную имитацию" не закажет

Вот и пишу: прежде чем бояться - покажите что заявленное сделать можете - а уже решать надо оно или не надо кому будем по факту. А так и страус тоже может летать не хуже альбатроса, просто "спроса нет у зрителей". Любой университет, пентагон, черт-с-рогами с руками оторвёт и за ценой не постоит за реальный общий ИИ, по-настоящему проходящий тест Тьюринга. Хотя бы просто для того, чтобы быть первым - как с астронавтами на Луне.

Правда создающие, поддерживающие, и обеспечивающие интерфейс этой машины специалисты, могут, со временем оказаться в положении "брахманов", и заменить прежнего заказчика.

Умный заказчик своей смены не допустит, а глупый будет сменён в любом случае - тут тоже никаких принципиальных отличий от любой другой естественной ротации власти.

[Nucleosome]

Сами владельцы подчинены закону государства, который уже очень давно и весьма жёстко формализуется.

с такой волшебной машиной переписать это раз плюнуть. (без неё тоже... в конце концов законы можно вообще не замечать! но политика...) а причём тут евгеника? она ж не про машины

[вова111]

машина может быть не меньшим тираном, но хотя бы самодуром не будет - как раз по причине отсутствия собственных эгоистических интересов.

Если без интересов то такое уже есть. Ограничено только вычислительными мощностями. А так можно считать что ИИ вполне существует, только интересов у него нет.

Ну вот. А наличие эмоций кстати подразумевает наличие интересов. Обратное утверждение тоже на мой взгляд верно, если есть интересы то есть эмоции.

[Maki]

Умный заказчик своей смены не допустит, а глупый будет сменён в любом случае - тут тоже никаких принципиальных отличий от любой другой естественной ротации власти.

Из этого утверждения следует, что умный заказчик ни цента не выложит за систему, которую может перевербовать прыщавый сисадмин, и, тем более, за систему, способную перевербоваться "по собственной воле".

Любой университет, пентагон, черт-с-рогами с руками оторвёт и за ценой не постоит за реальный общий ИИ, по-настоящему проходящий тест Тьюринга. Хотя бы просто для того, чтобы быть первым - как с астронавтами на Луне.

Великолепная аналогия! Амбициозно, затратно, распильно, и совершенно безсмысленно. Из чего следует, что по окончанию "флаговтыка", тьюринговский проходимец отправится на свалку технологий.

[Rattus]

Из этого утверждения следует, что умный заказчик ни цента не выложит за систему, которую может перевербовать прыщавый сисадмин, и, тем более, за систему, способную перевербоваться "по собственной воле".

Вот только это капитанство не имеет никакого отношения к обсуждаемой теме. Почему-то, например у заказчиков системы "Периметр" никаких таких проблем не было с создателями. И у Альенде с Биром, который делал ему Киберсин.

Великолепная аналогия! Амбициозно, затратно, распильно, и совершенно безсмысленно. Из чего следует, что по окончанию "флаговтыка", тьюринговский проходимец отправится на свалку технологий.

Совершенно не следует. Вероятность такая есть, конечно, но до момента Ч это узнать нельзя. Панамский канал сразу был совершеннейшим попилом, но теперь без него очень трудно представить трансокеанские перевозки. Стратегический бомбардировщик "Илья Муромец" тоже не особо повлиял на исход войны в которой успел поучаствовать. Следующая же война показала настоящее значение этого класса техники, но потом и она отошла на вторые роли за ракетами, закрепив тем не менее за собой прочную нишу. Собственно это и есть "тенологическая сингулярность" как она есть - только не в виде одного мифического события апокалиптического масштаба а множества реальных отдельных фазовых переходов, множество из которых уже случилось.

[Maki]

Вот только это капитанство не имеет никакого отношения к обсуждаемой теме. Почему-то, например у заказчиков системы "Периметр" никаких таких проблем не было с создателями.

Очевидно потому, что практику профилактического экстерминатуса "создателей" заказчик великолепнейше отработал уже в 1937 г..

Собственно это и есть "тенологическая сингулярность" как она есть - только не в виде одного мифического события апокалиптического масштаба а множества реальных отдельных фазовых переходов, множество из которых уже случилось.

Не люблю риторику с "сингулярностями" и "фазовыми переходами". Но, если , в данном случае, речь идёт об очередной безсмысленной технологии убийства и порабощения - да, "тьюринговского проходимца" ждёт судьба "Ильи Муромца". 

[Rattus]

Очевидно потому, что практику профилактического экстерминатуса "создателей" заказчик великолепнейше отработал уже в 1937 г.

Это Вы для красного словца решили ляпнуть невпопад пример крайне неэффективных мер управления чем-либо? А чо тогда не Холокост сразу? 50-60-е же были уже совсем иным и весьма травоядным временем в целом, а в плане дисциплины по закрытым разработкам принципиально не отличавшимся от того, что было за бугром тогда и чуть ранее: административного восторга при дырявости заборов хватало везде. Почитайте хотяп воспоминания Фейнмана про Манхэттенский проект. И что единичных специалистов этим вахтёрам приходилось терпеть скрипя зубами что там что тут: маккартистам Оппенгеймера, а гебнюкам Капицу. Только во втором случае от фатального недостатка образования "гегемонов" были зарублены не самые актуальные целые направления наук типа генетики (но даже кибернетика по факту была просто переименована до времени) - за что расплачиваемся до сих пор.
А сегодня  религия не позволит применять адекватные обстановке управленческие меры?

Но, если , в данном случае, речь идёт об очередной безсмысленной технологии убийства и порабощения - да, "тьюринговского проходимца" ждёт судьба "Ильи Муромца".

Тогда его прямым наследникам - получается роль B-29, B-52, Ту-95 и т.д. Этого мало?

[Maki]

Это Вы для красного словца решили ляпнуть невпопад

Нет, это Вы решительно затупили.
Великолепная РККА середины 30-х представляла собой живой пример системы со встроенным автономным интеллектом. От которого заказчик решительно избавился. Тако же точно, другой заказчик избавился от великолепного Абвера, и лично повелел повесить адм. Канариса на рояльной струне. А потом сдох как собака.
И, да, "Вы наверное шутите, Мистер Фейнман"- одна из уважаемых мною книг. Которая доказывает, что "независимый интеллект" заказчик всегда будет терпеть лишь в качестве услужливого шута.

Тогда его прямым наследникам - получается роль B-29, B-52, Ту-95 и т.д. Этого мало?

Мало чего? Отработанные железки, выброшенные в итоге на помойку. О чём этот пример?