Целеполагание самостоятельного сильного искусственного интеллекта и человек

[Olweg]

Более того, в человеческом мозгу, насколько я понимаю, именно так и происходит. Более древние отделы мозга дают цели и задачи более "молодым" отделам с возможностью остановки или отмены если что-то пошло не так. И для этого древним отделам мозга вовсе не обязательно полностью "понимать" что там делается в "молодых" отделах.
И древние отделы мозга как-то не исчезли в ходе эволюции. Неокортекс не уничтожил лимбическую систему.
Вот и с ИИ нужно провернуть нечто подобное.

Создание метакортекса над неокортексом. Тоже вариант. Наиболее благоприятный для будущего человека, пожалуй.

[Olweg]

Тогда их получатель и будет фактическим бенефициаром системы. Машинный феодализм/абсолютизм: верхушка социальной пирамиды - служивое сословие silovikov.

Siloviki в данном случае будут не более чем вассалами. Что, для ИИ так уж сложно будет применить принцип «разделяй и властвуй»? Это интеллект человеческого уровня может всё управление регионом скинуть на местного царька с его родственниками и односельчанами, которого потом уже ничем не сковырнёшь. Думаю, ИИ надчеловеческого уровня сможет проводить всё же более разумную стратегию.

[Rattus]

Как мутализм мешает им нами манипулировать?

Тогда и некоторые кристаллы оксида алюминия, кремния и углерода тоже нами манипулируют.

Но это я конечно не сам придумал, это я у Затевахина услышал.

Маленькие-хорошенькие манипулируют - и то не всеми. А какому-нибудь мордовороту-волкодаву далеко не каждым и не всегда это удаётся. Так что это ограниченное явление для человеков весьма. Затевахин сказал, что это просто есть, о чём многие не задумываются вообще. Тут же у нас совсем об ином речь - об экономике, доминировании и бенефициарах.

А потом, в один прекрасный момент, собственники обнаружат, что у ИИ на каждого из них гигабайты компромата, и если они попытаются рыпнуться, то мигом окажутся в ночлежке или на нарах. И кто тогда будет главным?

Ну прям аж на каждого! Найдите компромат на какого-нибудь Маска например или Безоса. Я не уверен далеко что он вообще существует (не считая какой-нибудь сущей ерунды, что они уже сами давно выложили).

[loky1109]

Тогда и некоторые кристаллы оксида алюминия, кремния и углерода тоже нами манипулируют.

В гораздо более общем смысле, потому что оные кристаллы не предпринимают для манипуляций никаких активных действий.

Маленькие-хорошенькие манипулируют - и то не всеми. А какому-нибудь мордовороту-волкодаву далеко не каждым и не всегда это удаётся.

Разговор в общем-то больше про эволюционные тенденции естественного отбора. Собака не испорченная селекцией на странное манипулирует человеком гораздо лучше её дикого волкоподобного предка. И выглядит существенно милее. Даже мордоворот волкодав или какой-то мопс над которым поизмывался искусственный отбор и те манипулируют лучше волка. По этому признаку шёл весьма активный отбор.

Тут же у нас совсем об ином речь - об экономике, доминировании и бенефициарах.

Ну это наверное да, как-то очень уж далеко, как бы не настолько же как алмазы от манипуляций.

[Инопланетянин]

никаких активных действий

А преломление и фильтрация света не сойдёт за активные действия?

[Rattus]

потому что оные кристаллы не предпринимают для манипуляций никаких активных действий

А щенок, которому повезло родиться с милой мордочкой или даже его плюшевая имитация - какие активные действия предпринимает?

[loky1109]

потому что оные кристаллы не предпринимают для манипуляций никаких активных действий

А щенок, которому повезло родиться с милой мордочкой или даже его плюшевая имитация - какие активные действия предпринимает?

Наличие пограничных ситуаций никак не отрицает наличия ситуаций различающихся чётко.

[a.ryabov]

не является ли т.н. "искусственный интеллект" своеобразной миной замедленного действия, которую подкладывает человечество под фундамент собственного существования?

Это не благо,  это необходимость. 
Это как автопилот на автомобиле. Сначала - непривычно, потом - занятно, а потом за его отсутствие  начнут штрафовать.

[ivanij]

нестандартное вроде безусловной необходимости организовать массовые видеоконференции так сразу все чайники чайниками

Ну что вы... Полагаю, этому совсем нетрудно научиться. Проверено на деле. Кстати, и наблюдал со стороны и сам делал. Инструкция проста.
 

Обучение в условиях карантина и есть эта суровая необходимость. Другой, однако же не вижу.

  Таких полно.
1. Получение образования лицами с (как теперь принято говорить) с ограниченной подвижностью.
2. При жительстве на значительном расстоянии от учебного заведения.
3. При языковой дискриминации (sorry за "политику").

 Теперь о главном. При обучении некоторым конкретным дисциплинам, каждая on-line консультация со студентом фактически небольшая научная статья. Важно, чтобы вас поняли и поняли на особом языке. На языке графических символов, подчиняющихся к тому же жёстким правилам стандарта с одной стороны и предполагающим весьма широкую свободу творчества с другой.
 Можно ли это алгоритмизировать применяя некоторые возможности ИИ? Наверное. Но тогда мы придём к тому, что преподаватель из этой цепочки вообще будет исключён. Не сразу, возможно, но будет.

[Maki]

? Значение слова "порядок" Вам знакомо? Если да - тогда милости прошу - показать как сделать арифмометр Бэббиджа всего из менее чем 225 деталей (37^1,5), а не более двух тысяч, как было исторически, и не 340 как в современной реплике карманного арифмометра Курта. Если нет - тогда какого чёрта их тут пишете??

Что за приступ буквоядения? Maki на общеобразовательном околонаучном форуме имеет полное право изъясняться живым великорусским литературным языком. И количество шестерёнок в таблицах брадиса подсчитывать вам не обязан.
Десять пальцев на руках, применяемые для счисления, АМ, или машина Тьюринга - это явления именно одного порядка. Вычислительные костыли. И только когда вычислителю буду делегироваться некие полномочия, и/или дозволено целеполагание - "порядок" станет иным.
Вот это я и хотел сказать.

Ну у Вас, разумеется есть солидная база исторических источников, чтобы это подтвердить: что бухгалтерия не представляла никаких трудностей и что учёных рабов для того можно было приобрести пучок за пятачок в базарный день

А что, вы уже готовы постулировать 100% зависимость античной экономики от учёных рабов? Давайте-ка я схожу за коньячком и сигарой, и, покойно устроившись в креслах, послушаю, как вы обосновываете это историческое фэнтези.
Вообще-то, любому мало-мальски образованному человеку известно, что грамотные люди в древности представляли собой привилегированное сословие, и, судя, например, по египетской мелкой пластике, могли себе завести и жирок на брюхе. Но то, что разного рода жрецы стояли на социальной лестнице ещё выше - тоже общеизвестный факт. И то, что АМ является астрологическим, а не экономическим калькулятором - очень примечательно. Может быть мы уже имеем право сделать вывод, что ИИ прежде всего востребован не в практической, а в развлекательной области человеческого бытия? 

[Maki]

У ИИ для этого немного не хватает педоморфной внешности. У него с внешностью вообще беда - её нет.

Чё, правда? ОхО

[Инопланетянин]

Ну что вы... Полагаю, этому совсем нетрудно научиться. Проверено на деле. Кстати, и наблюдал со стороны и сам делал. Инструкция проста.

Да разобрались, но впечатления получил.

2. При жительстве на значительном расстоянии от учебного заведения.

Непонятно зачем это. Школы и так строят равномерно по принципу транспортной доступности. Вряд ли в будущем это ухудшится.

3. При языковой дискриминации (sorry за "политику").

Не представляю дистанционного обучения между соседними (да, политика) странами на платной основе. А на бесплатной это учителю не нужно.

Теперь о главном. При обучении некоторым конкретным дисциплинам, каждая on-line консультация со студентом фактически небольшая научная статья. Важно, чтобы вас поняли и поняли на особом языке. На языке графических символов, подчиняющихся к тому же жёстким правилам стандарта с одной стороны и предполагающим весьма широкую свободу творчества с другой.

От простой видеолекции записанной и прокручиваемой широкой аудитории это отличается только обратной реакцией учеников. Алгоритмизировать её, конечно, не получится, тут без интеллекта естественного или искусственного, но сильного, не обойтись. Преподаватель исключён не будет, т.к. даже железный преподаватель такого уровня всё равно будет личностью.

[sharp]

И то, что АМ является астрологическим, а не экономическим калькулятором - очень примечательно. Может быть мы уже имеем право сделать вывод, что ИИ прежде всего востребован не в практической, а в развлекательной области человеческого бытия? 

Крайне странная логическая цепочка и странный вывод. Не могли бы вы в этом месте раскрыть вашу мысль поподробней, чтобы вывод не выглядел настолько, скажем так, произвольным?

[Rattus]

И количество шестерёнок в таблицах брадиса подсчитывать вам не обязан.
Десять пальцев на руках, применяемые для счисления, АМ, или машина Тьюринга - это явления именно одного порядка

Дадад - и крокодил с птицей явления одного порядка, как и было писано выше, а что количество иногда переходит (или наоборот - требует) в другое качество - это всё, конечно, сказки хвилософов - главное трясти шест дальше и золотой ключик у нас в кармане...

А что, вы уже готовы постулировать 100% зависимость античной экономики от учёных рабов?

Ну да - вель количество тюков на их кораблях не было больше десятка, денег и учёта у них не было никогда разумеется, а книги бухгалтерского учёта - не основные письменные археологические находки античности и их писание была, безусловно, привелегия патрициев - особенно весело это делать было в непозиционной системе...

[ivanij]

Непонятно зачем это. Школы и так строят равномерно по принципу транспортной доступности. Вряд ли в будущем это ухудшится.

 Имеется в виду высшее образование.

[Maki]

Крайне странная логическая цепочка и странный вывод. Не могли бы вы в этом месте раскрыть вашу мысль поподробней, чтобы вывод не выглядел настолько, скажем так, произвольным?

Чтобы цепочка и вывод стали, скажем так, более очевидными, приведу пример со смартфонами и ПК, вычислительные ресурсы которых расходуются преимущественно на развлекательные цели. И для этого совершенствуются интерфейсы и алгоритмы поиска. Это объективная тенденция. И она даёт основания думать, что имитация личности на базе ИИ будет востребована именно в области развлечений. Что мы видим уже сейчас на примере голосовых ассистентов.
Возвращаясь же к антикитерскому механизму - это гаджет для астрономии/астрологии (между которыми разницы тогда особой не было). При этом, чисто математические калькуляторы в античности нам неизвестны. Получается, что древние тоже предпочитали тратить вычислительные мощности на составление гороскопов и предсказания, а не на статистические или экономические расчёты.

[Maki]

а что количество иногда переходит (или наоборот - требует) в другое качество - это всё, конечно, сказки хвилософов

Конечно же не сказки. Просто ни антикитерский арифмометр, ни машина тьюринга, ни ENIAC к качественному рубежу не подходили даже близко.
Вот сейчас, полагаю, "крокодила" действительно сменяет "птица". Холодные звонки ботам уже охотно доверяют. Осталось поработать с интонациями голоса, паузами - и от оператора колл-центра робота будет и не отличить.

Ну да - вель количество тюков на их кораблях не было больше десятка, денег и учёта у них не было никогда разумеется, а книги бухгалтерского учёта - не основные письменные археологические находки античности и их писание была, безусловно, привелегия патрициев - особенно весело это делать было в непозиционной системе... 

Я же привёл вам пример Египта, где писцы были привелигированными специалистами. В античной Греции и Риме, образование тоже не раздавалось направо-налево, а было привилегией. А купцы и чиновники для вычислений прекрасно обходились разными моделями абака. Так что представление, что для счёта в быту непременно требовался "образованный раб" - в корне неверно.

P.S.
Вот астрологические и календарные вычисления, при помощи счётов, делать было наверняка слишком долго и муторно. Тогда обвинение в "развлекательности" с АМ можно и снять. Расчёт благоприятных дней для дел государственной важности и разного рода предсказания в ту эпоху был делом крайней серьёзности. Хотя, конечно, не исключено, что гороскопчики на нём составляли для себя скучающие богатые дуры.

[Maki]

А щенок, которому повезло родиться с милой мордочкой или даже его плюшевая имитация - какие активные действия предпринимает?

Живой поскуливает, виляет хвостиком, и преданно смотрит в глаза. И если плюшевый умеет то же самое - его тоже более охотно будут покупать и использовать.

Наличие пограничных ситуаций никак не отрицает наличия ситуаций различающихся чётко.

Вы привели очень хороший и уместный приём с собаками.
Идея о том, что ИИ должен быть каким-то "сильным" - конечно же ерунда. Он может быть достаточно простым, но эффективно реализовывать стратегию паразита/симбионта. При этом, как и с собаками, человека совершенно незачем обманывать и проходить "тест Тьюринга". Собака же не притворяется человеком, а просто ведёт себя как ребёнок или товарищ.
Возможно, именно в простейшие системы типа фитнес-браслета или голосового ассистента и внедрят возможность собственного целеполагания в каких-то пределах, чтобы сделать их поведение непредсказуемым, т.е. более "живым".

[leon10010]

не является ли т.н. "искусственный интеллект" своеобразной миной замедленного действия, которую подкладывает человечество под фундамент собственного существования?

Это не благо,  это необходимость. 
Это как автопилот на автомобиле. Сначала - непривычно, потом - занятно, а потом за его отсутствие  начнут штрафовать.

А потом в нужный момент чуток рулём вильнуть.

[Rattus]

писцы были привелигированными специалистами

Ну и владельцы предприятия (склада, порта, мануфактуры и т.п.) конечно же с превеликой радостью искали их, немногочисленных, для найма и платили им большое жалованье!

Вот астрологические и календарные вычисления, при помощи счётов, делать было наверняка слишком долго и муторно. Тогда обвинение в "развлекательности" с АМ можно и снять. Расчёт благоприятных дней для дел государственной важности и разного рода предсказания в ту эпоху был делом крайней серьёзности.

Ну вот наконец пошла приличная аргументация...