Проблема мотивации самостоятельного сильного искусственного интеллекта

[Rattus]

Шо такое?
Гуманитарии — источник горюче-смазочных материалов?

Не гуманитарии по сфере деятельности, а "гуманитарии" по "складу мышления" (причём если по сфере деятельности они ещё и не гуманитарии - то это совсем печальное зрелище). Гуманитарии по сфере деятельности - даже такой ультрагуманитарной как филология - подчас имеют вполне толковую и научно-адекватную картину мира. Знаю таких как минимум двух - вполне состоявшихся как поэта/писателя (женска полу) и геймдизайнера/сценариста (мужеска полу). Вообще филология - вполне может быть годным аналогом системной биологии для естественных языков: если лингвистика и биоинформатика изучают естественные последовательности на уровне слов и генов, то филология и сисбиология - на уровне текстов и геномов.
Проскакивал тут кстати в разделе ранее ещё один писатель-фантаст, но тоже состоявшийся - издающийся. Комментариев оставил не много, но на удивление толковых и соответствующих современному научному знанию - и дальше побежал. Тогда как ряд всем известных тутошних постояльцев, также рекомендующих себя как писатели-фантасты, здесь, похоже, каментов написали больше по длине, чем всех своих книжек, которых кроме как в интернете нигде что-то не видно. И вот у них-то это самое ГСМ прёт во все поля.

А что, ежели так нелюбимый вами ГСМ - тоже совершенно естественная адаптивная реакция?

Паразитические адаптации вполне адаптивны, да. Ну и собственно к ГСМ способность красиво заливать пургу мало относится: политику вовсе не обязательно хвилософские дискурсы уметь прогонять.

Зоологический факт: демографически успешны популяции культурно отсталые, и практикующие не просто "гуманитарное", но глубоко мифологическое, мракобесное мышление. Где душа, пупъ земли, и разумный замысел прёт изо всех щелей. А популяции цивилизованные и просвещённые, непременно скатываются в демографическую яму. Не отбор ли это?

1. Пара поколений - не отбор.
2. Не более успешны чем городские жители - численность вторых недавно перевалила за половину.
3. Душа, пупоземельность и разумный дизайн - принципиально просто удобный способ для понимания явлений природы той частью популяции, нейротип которых имеет сильную зависимость от обработки социальных взаимодействий и доля которой составляет примерно 95% и именуется потому нейротипичной (у оставшихся 5% - нейротип аутистического спектра). Если определить душу как рекурсивную функциональную сеть мозга (СПРРМ), пупоземельность просто как констатацию факта отсутствия в реальности более важных прикладных ценностей чем благополучие этой самой популяции, а разумный дизайн - как все частные случаи работы дарвиновского механизма в несколько контуров отбора - то принципиально ничего не изменится, ибо "95%" от тех 95% - адекватно адаптированных нейротипиков вовсе не нуждаются в их практической жизни в докапывании до механической сути тех понятий, что они себе персонализируют - лучше оттого их практическая жизнь оттого не станет. А вот оставшиеся "4,75%" - Это те самые ГСМ и есть: практики они тяготятся, а способностей к беспристрастному деперсонализированному взгляду на вещи не имеют. И вот те что non in ... non in Legionem Rubram, вот тут как раз и оседают в немалых количествах. За что мы их и любим. Употреблять с горошком и кьянти.

[MenFrame]

И почему вы говорите про носителей ГСМ, как будто это что то плохое?  Они же для общества людей полезны также как клей между плиткой и потолком.

Они полезны когда занимаются в своей сфере компетенции. Правда ЧСВ, не дает носителям ГСМ оставаться в ее рамках. Очевидно веть, если занимаешься техническим вопросом, нужен и технический подход.

[Maki]

95% - адекватно адаптированных нейротипиков вовсе не нуждаются в их практической жизни в докапывании до механической сути тех понятий, что они себе персонализируют - лучше оттого их практическая жизнь оттого не станет

Довольно спорное утверждение. Мифотворчество и религиозность - неотъемлемый компонент любой культуры, включая самые первобытные.
Очевидно, для значительной части нормотипиков вера в некую выдуманную реальность является необходимой. И лёгкость, с которой "массы" поражаются даже глубоко бредовыми идеями - прекрасно продемонстрировали опыты покойного Адольфа Алоизиевича.
Можно, конечно, обывателя принудительно просвещать. Но в итоге всё равно оказывается, что для значительной части "просвещённых" место деспотичного старикана на облаках занимает астрология, магия, НЛО или Елена Малышева.
Паразитическая адаптация?
Не думаю. На мой взгляд, представление об уникальности человека, его особом месте во Вселенной и мистических свойствах его личности есмь очень полезная программа, позволяющая человеку счастливо жить, размножаться и спокойно встречать старость и смерть. А те 4,75% о которых вы пишете - это вовсе не некие "дефектные экземпляры", а особи, интеллектуально переросшие обывательские мифы, и вынужденные искать для себя собственную мифологию. А тут им космическая икспансия и колонизация, повальное терраформирование, "ваккуумные человечки", "Сильный ИИ" вот-вот выпрыгнет из компьютера, и примется всех низводить и курощать...
И вдруг появляется некто Rattus, и такой: "Робяты, да вы же вы просто продукт химической эволюции, двуногие лысые мартышки"!
Разумеется, народ в шоке.

1. Пара поколений - не отбор.

Тут не просто "пара поколений" - а начало нового этапа саморегулирования популяции у сапиенса.
Конечно. саморегуляцией при помощи каннибализма и войн люди занимались и раньше. Но сейчас, впервые в истории нашего вида, стала массовой профилактика деторождения. И можно смело утверждать, что этот способ будет преобладать и на протяжении всех последующих поколений. Следовательно, прогнозы о влиянии этой профилактики на эволюцию вида, можно делать уже сейчас.

[crazy_terraformer]

И вот те что non in ... non in Legionem Rubram, вот тут как раз и оседают в немалых количествах. За что мы их и любим. Употреблять с горошком и кьянти.

Практикуете урологию, ортопедию и евгенику? А может  подрабатываете в военкомате?  Но не секретаршей? Шютка юмора

[EmperioAf]

Они полезны когда занимаются в своей сфере компетенции. Правда ЧСВ, не дает носителям ГСМ оставаться в ее рамках. Очевидно веть, если занимаешься техническим вопросом, нужен и технический подход

А разве во всех сферах компетенции люди вынуждены заниматься техническими вопросами? Я имею ввиду конечно же, что отчётность в виде бумажек к техническим вопросам не относится.
Также носители ГСМ вполне способны контролировать своё ЧСВ, подкармливая его во время досуга. Неужели современное обществе не может удовлетворить спрос на развлечения, чтобы ЧСВ всех носителей ГСМ не было уязвлено? Ну это же неправда. А значит наличие ЧСВ у отдельных индивидуумов не является критическим параметром не позволяющим работать там, куда "душа лежит"

[MenFrame]

А разве во всех сферах компетенции люди вынуждены заниматься техническими вопросами? Я имею ввиду конечно же, что отчётность в виде бумажек к техническим вопросам не относится.
Также носители ГСМ вполне способны контролировать своё ЧСВ, подкармливая его во время досуга. Неужели современное обществе не может удовлетворить спрос на развлечения, чтобы ЧСВ всех носителей ГСМ не было уязвлено? Ну это же неправда. А значит наличие ЧСВ у отдельных индивидуумов не является критическим параметром не позволяющим работать там, куда "душа лежит"

Если мы говорим о проф пригодности, то технари чаще рвутся туда где решаются вопросы КАК?
А гуманитарии чаще по по поводу вопросов ЧТО?
То есть, технари это почти всегда исполнители, а гуманитарии их глупое начальство.

[otu K.]

а если у "гуманитария"от природы математическое мышление.  логика просто "вшита", и не нуждается в "теоремах"?

[crazy_terraformer]

Срочно нужен новый эвфемизм для слов  балабол и балаболка, а то бедных гуманитариев притесняют ....

[Проходящий Кот]

Вас что, укусила муха толерантности?

[crazy_terraformer]

Я же не варвар , а Вам возможно надо  развивать коммуникативные навыки.

[-Юрий-]

Срочно нужен  новый эвфемизм для слов   балабол и балаболка

Балалайка.

[Combinator]

ИИ уже собирается паразитировать на нашем мозге. Или, наоборот, мозг будет паразитировать на ИИ. В общем, последняя презентация Маска на русском: https://youtu.be/YKzCD2IEYUQ

[Maki]

ИИ уже собирается паразитировать на нашем мозге. Или, наоборот, мозг будет паразитировать на ИИ.

Спасибо, что выложили.
Посмотрел. Пока что никакого "паразитирования" и близко не намечается. Просто делают многоэлектродный нейроинтерфейс для локальных участков коры.
Имплантация электродов для протезирования зрения, слуха, моторики, коррекции при паркинсонизме и эпилепсии - уже достаточно давно используется. Миниатюризация электродов и увеличение их количества - очевидный очередной шаг. И у создаваемой системы в этих областях интересное будущее.
До 57:29 можно не смотреть - там просто описание технологий. Потом бородатый нейрофизиолог рассказывает о клиническом применении. После 1:13 он уже рассуждает о возможном вторжении в когнитивные области. И тут пока всё звучит неубедительно.
На 1:23 отвечают на вопрос о результатах опытов на животных. Пока очевидно увиливают от ответа. Как бы проговорились, что, типа, обезьяна смогла управлять компьютером и есть публикация.
Хотелось бы эту публикацию почитать.
P.S.
Хотя, если между моторным участком, зрительной корой и зоной эмоционального отклика поместить самообучающуюся нейросеть - возможно, она избавит пациента от необходимости длительно обучаться использованию системы. Тогда получаем вполне определённое "паразитирование" человека на "ИИ".

[viesis]

Просверливание отверстия в черепе- это для случаев, когда терять нечего.

[Maki]

Добавлю, что вопрос долговечности предложенного им нейроинтерфейса, ув. Маск также оставил открытым. Что заставляет задуматься над целым ворохом проблем...

А вообще, не является ли само понятие "ИИ" как именно электронного, машинного интеллекта, совместным фантазмом технарей и гуманитариев? Что если будущее совсем не там, где этим товарищам мерещится?
Выращивание искусственных нейронов уже давно сделалось обычной процедурой. И технологии непрерывно совершенствуются, давая весьма впечатляющие результаты.
А ведь брюшная полость человека и его подкожная клетчатка способны вместить буквально десятки килограммов нервной ткани. В том числе специально модифицированной для связи с электронными устройствами (ферромагнитные включения???).

Возможно, будущее пресловутого "ИИ" лежит вовсе не в единении мозга и айфона, а в искусственном расширении естественной нейронной структуры.

[otu K.]

Возможно, будущее пресловутого "ИИ" лежит вовсе не в единении мозга и айфона

безусловно. настоящий ИИ никогда не будет антропоморфен. ему полностью наплевать на единение мозга и айфона

[crazy_terraformer]

Добавлю, что вопрос долговечности предложенного им нейроинтерфейса, ув. Маск также оставил открытым. Что заставляет задуматься над целым ворохом проблем...

А вообще, не является ли само понятие "ИИ" как именно электронного, машинного интеллекта, совместным фантазмом технарей и гуманитариев? Что если будущее совсем не там, где этим товарищам мерещится?
Выращивание искусственных нейронов уже давно сделалось обычной процедурой. И технологии непрерывно совершенствуются, давая весьма впечатляющие результаты.
А ведь брюшная полость человека и его подкожная клетчатка способны вместить буквально десятки килограммов нервной ткани. В том числе специально модифицированной для связи с электронными устройствами (ферромагнитные включения???).
Возможно, будущее пресловутого "ИИ" лежит вовсе не в единении мозга и айфона, а в искусственном расширении естественной нейронной структуры.

Ферромагнитные включения не канают, а вот чипы с нитями, как у  Нейролинк, уже интересно.. Вместо части жировой ткани использовать, выращенную из собственных гмо-клеток-клонов нервную ткань, прошитую нитями-электродами с набором чипов. Но, вопрос, что будет с этой нежной тканью вне черепной коробки или позвоночника, вне спиномозговой жидкости и гематоэнцефалического барьера?
Несомненно одно, что бóльшая масса нервной ткани потребует больше углеводов и фосфолипидов в рационе питания. Вероятно и ряда витаминов.

ИИ уже собирается паразитировать на нашем мозге. Или, наоборот, мозг будет паразитировать на ИИ. В общем, последняя презентация Маска на русском: https://youtu.be/YKzCD2IEYUQ

Ясно одно, что "Планета обезьян" отменяется , а будет "Планета киберобезьян" .
Вместо зелёного экомира, будет грязный техномир .

[otu K.]

Вместо зелёного экомира, будет грязный техномир

с экологически чистыми поселениями на Луне. и кого-то выберут губернатором Луны. не сомневаюсь, что это будет crazy_terraformer

[Maki]

Ферромагнитные включения не канают, а вот чипы с нитями, как у  Нейролинк, уже интересно..

"Ферромагнитные включения" - это была совершенно очевидная для относительно трезвого сознания т.н. "шутка юмора". Но она содержала явное предложение подумать о возможных неинвазивных связях клетки и компунктера.
А вот чипы с нитями - это интерфейс, максимум, уровня верхнего палеолита. И не более.
Вообще основное предположение, что при наличии эффективных биотехнологий и расширений родного мозга, электронные костыли могут оказаться совершено ненужными.

[otu K.]

основное предположение,

что мозг невозможно исследовать полностью внедрением электродов. и даже наполовину невозможно в принципе. а можно и получить прямо противоположные истинным результаты