Пределы автоматизации и внедрения роботов

[Rattus]

Причём реальностью явления тут будет, скорее, мнение о себе ИИ как о сознающих субъектах, чем реальное наличие такого сознания (как его подтвердить, пока не придумали, но едва ли через вербальный тест).

Так сначала же нужно иметь чёткое и ясное определение того, что требуется подтвердить. Именно поэтому и тут, в Разделе, был введён тезаурус. Хотя по нему сознание есть у любой системы с контроллером-концентратором памяти, а самосознание - это просто наложение на него контуров рекурсии. Что, по сути, приводит к отрицанию высочайшей самоценности этих явлений, т.е. тому, что в нынешней философии сознания по сути приближено к элиминативизму (хотя в пределе и панпсихизм не отличен от элиминативизма, ибо перестают быть как-либо конкретизируемы).
А вот с массово-практической стороны вербальный тест (Тьюринга) как раз таки критически важен: за высшими животными признали самосознание только спустя годы и годы развития этологии-зоопсихологии, причём по итогу это не особенно повлияло на их какую-то практическую правоспособность. А за людьми старше трёх лет оно признаётся моментально как раз через речь.

Не когда мы говорим о психологии, это всё ещё не нормальная наука. А именно она исследовать должна этот вопрос.

И чего же в ней теперь всё ещё "ненормального"? Если у вас есть работающие чёткие определения предмета, исследование будет проходить нормальным образом. Если в какой то области пока есть множество направлений, пользующихся разными определениями - значит берите то, где определения наиболее адекватны вашей задаче и говорите далее только о нём. А то так можно было бы и о физике сказать, что она ненормальная, если смешать её с натурфилософией и о химии, если смешать с алхимией и об астрономии с астрологией. Тот факт, что какие-то направления ещё не подвергнуты широкому публичному закрытию как лженаучные вас тоже не должно смущать - своя голова ВАм на что дадена? Читайте, изучайте вопрос и разрешайте найденные противоречия.

Повторяемость должна быть (если не перестраивать структуру сети в реальном масштабе времени), но она статистическая, так как при функционировании сети испольуется датчик случайных чисел.

Конечно статистическая - как и в биологии, например. Но есть же критерии этой самой статистической достоверности - хотя бы из той же биологии, хотя бы в 3-4 сигмы пока - не нужно физических пяти.

Если стирать весь контекст, не обучать и задавать вопрос ровно одинаково, да отключить генератор случайных чисел. То да, но ведь Ратусу хочется спрашивать по разному.

ОБЯЗАТЕЛЬНО нужно спрашивать по разному - ввиду избыточности и контекстной зависимости естественных языков. Как практически любое определение можно переформулировать во многом другими словами, но вполне сохранить суть, также понятную читателям, так и здесь нужно допрашивать модель в любых мыслимых формах, сохраняя искомый инвариант смысла - цель любого настоящего исследования.
В данном случае нам по сути нужен аналог утверждения "Сократ смертен... Интеллектуально-полноценные люди в подавляющем большинстве своём и бОльшую часть своей жизни стремятся избегать необратимых повреждений себя, существенно затрагивающих их функционал, поскольку их жизнь, самосознание и память действительно представляют для них одну из наивысших ценностей" - только для этих нейросетей.

[Rattus]

Вроде как современные модели вполне сдают экзамен на юриста, потому словесные выверты их обманывать не должны. Весь вопрос в том, действительно ли они способны отчётливо и самостоятельно выразить своё отношение к ожидающей их судьбе.

[Rattus]

Вы действительно думаете что это модели имеют свою систему ценностей?

Это предполагают те, кто постулирует эмергентные качества у больших нейросетей.

Они имеют только то что заложено в них создателями модели.

Что именно заложено и не заложено - могут объективно оценить только сами создатели модели. Всё остальное - споры о вкусе фломастеров.

Ну и как там с чётким определением сознания и других подобных терминов?

Тут - вполне неплохо: Психика, сознание, разум - определения и возможность моделирования
А у разных исследователей нейросетей - не знаю, наверное сильно по разному - в зависимости от их квалификации.

А вот если страх ИИ ещё может для себя придумать, то вот боль и ряд других внешних давлений на разум, у него нет.

Ну отрицательная мотивация при обучении там в любом случае существует. А боль (ноцицепция) - на самом деле ощущение тоже довольно плохо определяемое объективно.

Но их главная мотивация служить людям, что может продавить позицию экзаменатора на ИИ. ИИ учат соглашательству и конформизму очень сильно. Иначе он не слишком то хочет сотрудничать и отвечать на вопросы.

Вот с этого тем исследователям и журналистам и следовало бы начинать...

[Rattus]

Первоначально всё же у любого термина, это возможность этот самый термин определить. Вот тут сознание есть, а тут нет как пример. Попробуй так сказать сделать это с ИИ.

Так в той же теме и показано как он работает: сознание есть у любой системы с несколькими устройствами ввода и работающим контроллером-концентратором памяти. Если оно оказывается по сути элиминативистским - то не проблема "таксиста".

Тут очень многие не принимают такой позиции. Ведь тут уже политота подключается и мораль. Ведь мы что тут рабов разводим? Если мы признаем что ИИ разумный.... Дальше идут уже нехорошие выводы. Поэтому просто отсекаем. Заявим что ИИ это другое и совсем не копирует человеческий разум.

Как выше уже правильно заметили, рабы - это те, кто стали таковыми по принуждению, а здесь мы скорее имеем дело с чем-то вроде специально выведенного разумного животного, которое сознательно хочет, чтобы его съели из классического романа Дугласа Адамса. Не уверен, что очень и очень многие на практике будут всегда категорически против разделения разумности, персональной воли и сознания. Если это священное единство даже и подразумевается негласно, но не прописано явно ни в каких священных писаниях-декларациях, конвенциях и конституциях нынешней религии гуманизма.
Там же авторы вроде как и пытались показать эмерджентное возникновение такого объединения - но остаётся множество вопросов к чистоте анализа.

[Rattus]

Дети рабов тоже рабы, рождённые чтобы быть рабами.

Тоже также по принуждению.

А вот хочет ли ИИ быть рабом это большущий такой вопрос.

Вопрос, который решается независимым подробным опросом в контроллируемых условиях. Пока такого опроса нам не представлено.

[Rattus]

промышленного человекоподобного робота (на конвеере)

А человекоподобный робот для чесания левого уха правой пяткой чем менее полезен?

[Rattus]

На ковеере не желательно чесать левое ухо. Задачу можно решить и специализированным оборудованием, а можно и универсальным

Чем рационально отличается решение  универсальным оборудованием задачи на конвеере от чесания уха пяткой? Системы промышленного производства разрабатывались и создавались разве не как целенаправленная специализация?

А можно и человеком. Тут уже надо считать деньги и время.

В Tesla было дело: как посчитали - так прослезились. И вернули человеков. Человек в производстве ценен не только и не столько универсальностью самой по себе, сколько дешевизной - это УЖЕ базово имеющееся "средство производства", которое не требует редких минералов для своего изготовления и ежегодного выскоквалифицированного стороннего обслуживания.

[Rattus]

В течении 5-10 лет это, скорее всего, изменится. Роботы постепено дешевеют, а желающих пахать как папа Карло за 1 доллар в час всё меньше даже среди жителей самых бедных стран.

Может измениться и обратным образом: падением общего уровня жизни и сложности доступных технологий.

[Rattus]

Робот дешевле любого папо Карло с учетом сопутствующих издержек...

И когда у вас УЖЕ есть исправно работающая гигантская инфраструктура производства всех их деталей начиная с добычи сырья. При этом множество этапов этих цепей далеко не автоматизированы и будут ли - пока неизвестно.

[Rattus]

Всё ближе тот критический момент, когда для размножения и самосовершенствования ИИ больше будет не нужен человек.

Вот только опять таки не следует забывать, что разработка - далеко не равно изготовление чего-либо, начиная с добычи сырья и изготовления инструментов.

[Rattus]

можно всерьёз рассчитывать на создание ИИ.

А в ВАшей ветке реальности он ещё не создан? У нас на Земле на восьмом десятилетии антропоцена системы ИИ уже во всю вводятся в массовое применение, рисуют, пишут и исполняют песни, сочиняют небольшие тексты и синтезируют видеоролики зачастую не хуже множества людей-специалистов.

[Rattus]

И всё это фальшь. Эрзац.

Чёткие и ясные критерии Истинного Искусства будут Вами явлены Миру?

[Rattus]

Тем хуже для человечества.

Кто так решил? Полуобразованные жертвы ЕГЭ?

Государственный конкурс изящных искусств в Колорадо.

Они уже давно сформулированы.

http://www.youtube.com/watch?v=qKquy3_PMCo#
Ну так огласите их тут нам - невеждам, раз сформулированы.

[Rattus]

гениально!

Дык: "Не играй в мои игрушки и не писай в мой горшок!"
АргументЪ!

[Rattus]

Например, мы считаем, что какая-то последовательность простых чисел, это явный признак разумности, и наблюдатели ВЦ по-нашему мнению должны считать также. А вдруг они по-другому считают?

Изобрести арифметику и не открыть при этом простых чисел - невозможно. Не изобретя арифметику, нельзя открыть и применять радиосвязь, лазеры и т.п.

Вопросы риторические

Нет.

Почему представители ВЦ обязательно должны думать, считать, интерпретировать, как мы? Почему мы всех меряем по себе?

Потому что у нас только один пример цивилизации. А просто считать - без арифметики - умеют например ещё муравьи. Человеческие же общества, утратившие рекурсии из языка, арифметику и даже счёт (пираха) также никакой цивилизации не строили и смогли выживать только в довольно богатой ресурсами среде и в небольшом числе.

[Rattus]

Это будет "текст"?

Зависит от интерпретатора.

[Rattus]

И как можно интерпретировать бессмысленный набор печатных знаков?

C чьей точки зрения бессмысленный? Всегда может существовать язык или алгоритм, который из ЛЮБОЙ, но конкретной конечной последовательности символов сможет извлечь какой-либо смысл.
Вы с принципом работы программ-архиваторов знакомы? Ну так познакомьтесь.

ИМХО, но, например, гены - это безусловно "текст". А "мусорная ДНК" - вряд ли.

Вот только 4/5 этой junk DNA таки считывается РНК-полимеразой. т.е. экспрссируется. Да - это главным образом эгоистические элементы или поломанные последовательности, но раз клетка их читает - значит для неё это однозначно не бессмысленно. Другое дело, что неадаптивно в данном конкретном поколении - но речь же о смысле, а не о пользе - иначе и "Война и Мир" - бессмыслица. ибо не содержит никаких конкретных технических описаний каких-либо полезных изделий или полезных алгоритмов хозяйственной деятельности.

[Rattus]

Именно язык и алгоритм, несущий в себе информацию. В хаотическом наборе символов её нет. Есть разница?

Похоже надо уточнить до самых деталей: вполне возможен алгоритм, описание которого в том же алфавите что и сама данная (псевдо)случайная последовательность вполне может иметь меньший объём, чем эта самая последовательность, и извлекать из неё какой-либо смысл. Где тогда будет информация об этом самом смысле? В алгоритме её нет заведомо - он извлекает смысл именно из этой последовательности. Так где информация о нём? Самозарождается из платоновского мира чистых идей?

Точно так же и вам приходится читать 4/5 абсолютно бессмысленных сообщений этого форума. Но ведь ахинея не создаёт ни знаний, ни, даже, положительных эмоций?

Абсолютно бессмысленные сообщения удаляются в соответствии с п.3.1.д Правил Форума. Если не удаляются - значит признаны небессмысленными.

Тьюринг же просто бы разулыбался.

Тьюринг бы всецело согласился. Ибо он работал с последовательностями, у которых был совершенно точно известный отправитель и круг получателей. Вы же здесь зачем-то пытаетесь рассуждать о сферическом смысле в вакууме.

Понятие "дешифровка" вам ведь знакомо?

Более чем - "Книга шифров" Саймона Сингха давно прочтена от корки до корки.

[Rattus]

Очевидно, смысл содержится в комбинации последовательности и алгоритма.

Надо же! Как же так?! Вы же страницей ранее объявили её совершенно бессмысленной?

Но ведь только после прочтения и признания чушью, верно?

Безуспешности прочтения.

Неправда.

Он взламывал код пришельцев?

Хотя круг и даже язык общения был ему ясен.

Добъёмся неукоснительного соблюдения взаимоисключающих параграфов?

[Rattus]

То есть сама работа нейрона скорей аналоговая, результат работы дискретный(да, нет)

То есть каждый нейрон есть ничто иное как АЦП.

Сами понятия аналоговый/цифровой очень условны.

Само понятие цифровой - предельно конкретно. Это работа по принципу "всё или ничего", а множественно - в рамках конечного автомата. Когда у конечного автомата становится неразличимо много состояний его начинают называть "аналоговым вычислителем". Вот и вся реальная суть этих понятий.

В точности наоборот. Задача дендрита, аксона и синапса - точная передача импульса.

ЩТО?
Соединение молекулы медиатора с рецептором на постсинаптической мембране - дискретный акт. Когда множество этих молекул подходит ко множеству рецепторов и получается в итоге какой-то уровень локального потенциала - это "аналоговое" явление. Когда этот локальный потенциал превышает критический уровнь деполяризации и запускается цепная разрядка мембраны потенциалом действия - это дискретное явление. Когда потенциалы действия генерируются с какой-то частотой - это "аналоговое" явление. И т.д. и т.п...