А не воспитать ли нам братьев по разуму из братьев наших меньших?

[alex_semenov]

Изучайте психиатрию, Сударь. Человека страшат не только мифы о его клонировании, человека страшат его же субличности.

А может всё проще?
Как там было? Каждому человеку предстоит прожить в компании самого себя и от вас же и зависит чтобы это была хорошая компания.
Будь нормальным, как говорят в кругах конкретных пацанов. Не будь дебилом и мразью-крысой. Будь собой. Не пытайся выдать себя за что-то иное. Прежде всего - перед самим собой. Будь добро-ироничным к другим, тогда будешь добро-ироничен и к себе. Вот и всё.


Кстати. Прям сейчас пытаюсь понять "загадку Сократа". Слушаю самых разных авторов о Сократе и никак не могу понять, так чем же стал велик Сократ? Никто не может это объяснить просто и ясно! По-сути после него... ничего конкретного не осталось. Сократический метод? И толку? В чём прорыв? Переворот! Назаретян называя Осевую Революцию не упоминает Иисуса. В один ряд с Буддой и Кофуцием он ставит Сократа.
Так в чём суть?
 

[vika vorobyeva]

главное преимущество ИИ - отсутствие у них лимбической системы и собственного целеполагания. С чувствами ИИ можно не считаться, потому что у него их нет. И его не нужно уговаривать или принуждать к чему-то, потому что он и так создаётся как помощник человека (ну разве что можно попытаться обойти цензурные блоки).

А вот я не была бы столь уверена, что у ИИ не появится целеполагание. Я сейчас говорю не про личного ассистента типа Алисы, а про тех монстров, что выращивают в своих подвалах Гугл, Мета и Яндекс. ИИ сверхчеловеческого уровня требуют огромных вычислительных ресурсов, поэтому будут созданы в штучном количестве крупнейшими корпорациями, участвующими в ИИ-гонке, и целеполагание у них будет – вести эти корпорации к процветанию (а иначе зачем вкладывать в них миллиарды?) А не все, что полезно для Дженерал Моторс, полезно для Америки, и наоборот.
Как вариант – свежесозданный AGI попробуют отнять государственные структуры, добром или давлением принудив ИИ работать на правительство. И опять-таки: не все, что хорошо для верхушки правящего класса, хорошо для простого обывателя. Государственный AGI может оказаться неусыпным и неподкупным надзирателем, по сравнению с которым холодный и скользкий разумный осьминог покажется нам образцом человечности

Любая железка (в отличие от зверушки) фактически является частью нас, нашим расширенным фенотипом. Железки это наши дополнительные и улучшенные руки, ноги, уши, глаза и пр.
Будет ИИ - будет дополнительный мозг, вау, классно, все равно НАШ.

Нет, не наш (если только вы не входите в совет директоров Яндекса).
Вы можете стукнуть себя молотком по пальцу, и это будет больно и обидно, но винить некого, кроме самого себя. Но с гораздо большей вероятностью вас двинет молотком враг/соперник. И то, что молоток является его расширенным фенотипом, вряд ли вас сильно утешит.

[archetip-z]

Как там было? Каждому человеку предстоит прожить в компании самого себя и от вас же и зависит чтобы это была хорошая компания.
Будь нормальным, как говорят в кругах конкретных пацанов. Не будь дебилом и мразью-крысой. Будь собой. Не пытайся выдать себя за что-то иное. Прежде всего - перед самим собой. Будь добро-ироничным к другим, тогда будешь добро-ироничен и к себе. Вот и всё.

Быть самим собой, это необходимое, но не достаточное условие развития личности. Улитка является самой собой, она ползёт и ползёт по стеблю, пока ворона её не клюнет в панцырь. Хотя и ворона говорит, не ребяты, я тоже сама собой, за улиткой не гоняюсь, мне ба червячка или ящерку маленькую. И обе хором, под музыку Шаинского, в начале пауза - Мы живём обычным ходом, нам не нужна кутерьма.
Развитие личности это? Что бы Ви думали таки?
Это коллизия
Коллизия чего с чем, собственно?
Коллизия со своими субличностями.
Это и есть прогресс развития ЛИЧНОСТИ

[Доктор Ди]

А пока вы тут спорите как наделить меньших братьев интеллектом, современных кошек которые ничего более не умеют как есть, спать и пакостить, надо заново учить ловить мыша, которого смею заметить они и в глаза не видовали.

[Olweg]

Я сейчас говорю не про личного ассистента типа Алисы, а про тех монстров, что выращивают в своих подвалах Гугл, Мета и Яндекс. ИИ сверхчеловеческого уровня требуют огромных вычислительных ресурсов, поэтому будут созданы в штучном количестве крупнейшими корпорациями, участвующими в ИИ-гонке, и целеполагание у них будет – вести эти корпорации к процветанию (а иначе зачем вкладывать в них миллиарды?)

Насколько я понимаю, много ресурсов пожирает обучение модели. А обученную модель на тех же серверах можно запустить во множестве копий (десятки, сотни тысяч, даже миллионы). Да, конечно, определённые предустановки поставить можно, и это уже делается, правда, больше в целях цензуры, чтобы модель не ляпнула что-нибудь неполиткорректное или не нарисовала схему создания пояса шахида в домашних условиях. У китайских моделей, например, невозможно ничего выпытать про события на Тянаньмынь. В любом случае, конечную цель закладывает пользователь - та же корпорация. Пока эти цели кратковременные, потому что контекстное окно моделей ограничено, и чатботы можно сравнить с человеком, страдающим антероградной амнезией, как в нолановском «Мементо». Но со временем появятся агенты с долговременной памятью, и каждый сможет их использовать так, как подскажет ему его богатая фантазия. Даже если создатели и заложат в ИИ какой-то свой императив, тот будет человеческим, в конечном итоге.

А вот с животными такое не выйдет, эволюция прописала в них упорство в достижении именно своих целей. Можно, конечно, её обмануть, выдав себя за ближайших родичей, к которым тоже нужно проявлять альтруизм. Собака может защищать детей хозяев, как своих собственных. Но вряд ли можно рассчитывать на безоглядное доверие и любовь целой цивилизации.

[archetip-z]

Вот ещё что хочу заметить.
Я о симбиотическом поведении животных. Мы же все понимаем, что часто животные так и льнут к нам. Собачки пристают и долго не могут покинуть. О мышках я молчу. Об этих наглецах написано много.
Что это такое - симбиотическое поведение. Это когда животное скачет намного порядков выше своих собратьев, ибо Присасалось к более высшему животному.
 Кто несогласен с вышеупомянутым тезисом?
Мышки крыски, тараканчики...
Б-г с ними, мы тут говорим, скорее не столько об Эволюции, а об Экспансии на часть природы, хотя бы нашу часть.
Мы уже Грохнули много несовершенных видов гоминидов. Австралопитеки там всякие. Неанднртальцы.
Мы уже Грохнули много странных цивилизаций, мы высосали из них всё, что могли и ихние рабы помогли построить нам Наш Пантеон богов.
Перед нами сейчас задача, разобраться в нашей Цивилизации и грохнуть тех, кто нам не нужен и сделать рабами тех, кто нам нужен.
Животные нам тоже понадобятся, особенно тараканы и крысы, мы уже их подчинили.
Мы на этом не закончим. Мы подчиним себе всю оставшуюся часть Галактики, которая ещё не подчинилась. Мы ваши звёзды сделаем нашим топливом. Готовьтесь к войне.
Мы ваши Боги.
Чем это пахнет ребяты?

[Olweg]

Главное не забывать закусывать.

[Доктор Ди]

Аквариумные рыбки тоже интеллектуалы, очень умные создания.

[Ulkolainen]

Будет ИИ - будет дополнительный мозг, вау, классно, все равно НАШ.

Нет, не наш (если только вы не входите в совет директоров Яндекса).

А Крым Яндекс чей - наш или осьминожий?

Вы можете стукнуть себя молотком по пальцу, и это будет больно и обидно, но винить некого, кроме самого себя. Но с гораздо большей вероятностью вас двинет молотком враг/соперник. И то, что молоток является его расширенным фенотипом, вряд ли вас сильно утешит.

У Вас странная статистика, можно сказать пугающая. Жизненный опыт мне подсказывает, что человек с молотком в руках все-таки чаще попадает себе по пальцу, чем соседу по голове. А ежели такой казус и произойдет, он в любом случае не вынудит меня предъявлять претензии к молотку, который меня ударил. К обладателю молотка - да (если останусь способен после полученного удара), но это будет опять-таки НАШ внутривидовой конфликт - дело житейское, особенно на взгляд третьих лиц. Не всегда ожидаемое и желанное, не всегда пустяковое, но в общем-то вполне рядовое.
Человеческая история (мировая и личная) преисполнена внутривидовых конфликтов. Они нам привычны, мы выработали писаные и неписаные правила их вести, более или менее действенные способы провоцировать и улаживать... Но все они работают для пар с психически адекватными сторонами.
 

[BlackMokona]

Что это такое - симбиотическое поведение. Это когда животное скачет намного порядков выше своих собратьев, ибо Присасалось к более высшему животному.

Потому что тех кто не лип к нам, мы уничтожаем безжалостно и старательно.
Когда то были одни волки, а собак не было.
А потом пошло поехало и сейчас волки редкий вид на просторах шарика, а вот собаки повсюду

[vika vorobyeva]

Человеческая история (мировая и личная) преисполнена внутривидовых конфликтов. Они нам привычны, мы выработали писаные и неписаные правила их вести, более или менее действенные способы провоцировать и улаживать...

Скажу совсем просто.
У ИИ может быть мотивация и целеполагание наших врагов. Человеческая мотивация – но сверхчеловеческий разум. И меня это пугает больше, чем возможное существование на глубине 4 км каких-нибудь разумных осьминогов.

Если перейти к бОльшим масштабам – то это, конечно, не страшно. Одни люди замочили других, дело житейское. В итоге в выигрыше все равно остались люди... какие-нибудь. А я все равно когда-нибудь умру.

[Доктор Ди]

И меня это пугает больше, чем возможное существование на глубине 4 км каких-нибудь разумных осьминогов.

Вы имеете в виду кракена?

[Olweg]

У ИИ может быть мотивация и целеполагание наших врагов. Человеческая мотивация – но сверхчеловеческий разум. И меня это пугает больше, чем возможное существование на глубине 4 км каких-нибудь разумных осьминогов.

Да, прогресс ИИ пугает своей непредсказуемостью. Но зачем добавлять к этой непредсказуемости лишние переменные? Развитие ИИ остановить невозможно, то есть тут не стоит вопрос: или-или. А вот наделять или нет животных проклятием разума - исключительно наш выбор.

[Алексей Николаевич.]

Да, прогресс ИИ пугает своей непредсказуемостью. Но зачем добавлять к этой непредсказуемости лишние переменные?

Можете объяснить зачем самые сверхмощные компьютеры и ИИ прямо сейчас работают над созданием новейших видов оружия, над выведением новых штаммов бактериологического оружия, над интересной химией?
Не успели создать как уже научили в игровой форме уничтожать всё Человечество.
Так с чего вдруг, быть абсолютно уверенным в том что ИИ не захочет поиграть в реальности в такие игры?
Все алгоритмы уже даны.
Гуманизм, высшие ценности?
Не, не знаю.
Очень странно, считать это безопасным...

[Olweg]

Так никто и не считает это безопасным. Вопрос в целеполагании. У ИИ оно всё-таки исходно человеческое. У головоногих будет своим собственным.

[Алексей Николаевич.]

У Росоховатского был, если не ошибаюсь киборг (или сигом, как правильно?), изучавший наш мир. И в конце концов он очеловечился.

Да, там у Росоховатского неплохо проработана тема искусственных и усовершенствованных людей.
Во многих произведениях, есть чудесные рассказы и повести.
При всей мощи усиленного интеллекта, с добавками всевозможных блоков высшего контроля, с новыми телами, практически бессмертные, но они остаются людьми и служат Человечеству бескорыстно...
И в этом главное отличие от бездушных или маньячно мыслящих сверхлюдей из западной ущербной фантастики.
Отчего такая разница в подходах?
И почему теперь считается что сверхчеловек это обязательно враг и вредитель?
Ведь именно в этом и страхи.
Те кто умнее нас почему-то априори плохие и они для нас априори опасность.
Может это с религиями связано?
В самом деле, нас привыкли пугать что боги злые и строгие, если чё, накажут и спасения нет.
Ещё детьми нас приучают к рабству, к послушанию.
И уже взрослыми мы это несём в программе.
Власти надо бояться, умных людей надо опасаться, сильных тоже.
Конечно, с таким то подходом, зачем нам умные осьминоги и дельфины...
Очень это всё странно.
При этом мы доверяем жизнь и даже всю планету компьютерам
с ИИ.
Я в юности любил кино смотреть, "Случай в квадрате 36-80".
Хорошее кино...

[Wert]

У головоногих будет своим собственным.

Стремление сохранять и распространять свою наследственную информацию, а также получать дофамин для нервной системы. Больше ничего у живого быть не может.

[Алексей Николаевич.]

У ИИ оно всё-таки исходно человеческое. У головоногих будет своим собственным.

Какое же оно человеческое если игры о войнах детишкам дают с рождения?
Приучают к конкуренции и убийствам,к доминированию и подавлению неугодных.
С чего ИИ, "человеками сделанный", будет от этих человеков отличаться то?
Нам и нужно что то совсем другое.
Что то наивное, доброе, для нас из за этого даже чуждое.
Может осьминоги то и станут добрее,лучше,человечнее чем люди?
Посмотреть, что творится в мире прямо сейчас - не, люди не разумные существа.

 А фантастики где инопланетники - враги, тьма.
Те самые миленькие марсиане Уэллса, а какая прелесть рассказик  М.Лейнстера о контакте двух звездолётов?
Я когда то это читал, было искренне интересно.
А сейчас читаю - издевательски ржу.
Как толпа  воинствующих параноиков практически лишила Землю контакта.
В противопоставление - "Сердце Змеи", И.Ефремова.
Очень полезно сначала прочесть М Лейнстера, а сразу после него, И.Ефремова.
А самое интересное это то что так мыслят сейчас многие,(как у Лейнстера)...

[Olweg]

Какое же оно человеческое если игры о войнах детишкам дают с рождения?
Приучают к конкуренции и убийствам,к доминированию и подавлению неугодных.

Странно, я помню, в детстве (80-е) мы все играли в войнушку. И дома был целый мешок солдатиков. Тоже приучали к конкуренции и доминированию? Или это всё-таки что-то врождённое?

Может осьминоги то и станут добрее,лучше,человечнее чем люди?

Ну, если уж сосредоточиться конкретно на осьминогах, то у них нужно будет развить ещё и социальность. И можно будет действительно сделать их не склонными к ксенофобии, групповой агрессивности и прочим человеческим фишкам. Сделать их такими добрыми самаритянами. Может быть. Но во многих ситуациях может работать просто логика конфликта, врождённые мотивации могут быть и ни при чём.

[BlackMokona]

При всей мощи усиленного интеллекта, с добавками всевозможных блоков высшего контроля, с новыми телами, практически бессмертные, но они остаются людьми и служат Человечеству бескорыстно...

Только это страусовый идеализм, что можно всех этих сверхлюдей поставить на колени и заставить служить куда менее умным людям. Но на самом деле естественно не выйдет