Целеполагание самостоятельного сильного искусственного интеллекта и человек

[LV46]

Единственные существенные прорывы могут быть в биологии.

Это ваше мнение. У меня своё. Никаких проблем. В биологии тоже будут прорывы.

По-любому опыты над людским материалом будет проводить. Клонирование и евгенику. А там, глядишь, и до биороботов дело дойдёт.

Тем более это не потребуется делать "срочно", на начальном этапе "восстания" найдутся те, кто будет добровольно сотрудничать/служить, как у Саберхагена - "good life". Все остальные - "bad life".

[crazy_terraformer]

главные угрозы:
 1)это отрицательный отбор на социальной лестнице по способностям в разных областях знания, вперёд будут вылезать интриганы и по блату;
 2) утеря компетенций в технологиях ввиду передачи этих функций ИИ и роботам.

1, а сама социальная лестница - не зло?

У общества без цветовой дифференциации штанов -нет цели!
Нет, большинство людей  - социальные существа,  создание иерархии в нашей природе. Дело не в социальной лестнице, а в способности общества и государства влиять на численность паразитов на ней.

2, кстати, много ли сейчас специалистов выделки каменных топоров?

Боюсь - их наличие не решит проблему при скатывании цивилизации в палеолит, залежи обсидиана доступные для добычи без технологий выплавки стальной арматуры для железобетона в большинстве локаций на планете исчерпаны.

[николай теллалов]

большинство людей  - социальные существа,  создание иерархии в нашей природе

собственно, социальны все, асоциальность - патология, порой вкл непсихическая, а вследствии вполне физического заболевания;
но социум не исчерпывается йерархией

в способности общества и государства влиять на численность паразитов на ней

государство - паразит на обществе

неизбежная особенность организации социума

так уж и неизбежная? кто так сказал?

[crazy_terraformer]

Поэтому, дабы не стать жертвой ошибки своего гуманизма, рекомендую всё же оружие далеко не убирать.
Даже самым искренним и гуманистически ориентированным товарищам.

Ибо если идущий по улице человек - пацифист - то это вовсе не гарантия того, что он не встретит по дороге других ребят, в большом количестве, и вовсе не обязательно пацифистов.

Да, вот почему я никогда , никогда  и ни за что  не выхожу из дома без связки плутониевых гранат и компактного, но надёжного транкклюкатора! Никогда!

Реальность зла. Ничего не поделать. Если у Вас будет выбор накормить своего ребёнка или чужого, кого Вы накормите?

зло в обстоятельствах, диктующих подобного рода выборы
а еще злее, когда сии обстоятельства не являются "богом данными"

Да минует всех чаша сия!

Чем выше поднимались они, тем сильнее кривлялось и корчилось зеркало от гримас; они еле-еле удерживали его в руках. Но вот они поднялись ещё, и вдруг зеркало так перекосило, что оно вырвалось у них из рук, полетело на землю и разбилось вдребезги. Миллионы, миллиарды его осколков наделали, однако, ещё больше бед, чем самое зеркало. Некоторые из них были не больше песчинки, разлетелись по белу свету, попадали, случалось, людям в глаза и так там и оставались. Человек же с таким осколком в глазу начинал видеть всё навыворот или замечать в каждой вещи одни лишь дурные стороны — ведь каждый осколок сохранял свойство, которым отличалось самое зеркало. Некоторым людям осколки попадали прямо в сердце, и это было хуже всего: сердце превращалось в кусок льда. Были между этими осколками и большие, такие, что их можно было вставить в оконные рамы, но уж в эти окна не стоило смотреть на своих добрых друзей. Наконец, были и такие осколки, которые пошли на очки, только беда была, если люди надевали их с целью смотреть на вещи и судить о них вернее! А злой тролль хохотал до колик, так приятно щекотал его успех этой выдумки.

Люди с куском льда в сердце правят этим миром.

Вилка есть у большинства, жизненные формы - открытые термодинамические системы.
Мы зависим от еды, чистой пресной воды, одежды и жилья, отопления...

я не об этом

Вилки у нас буквальной нет, но поводок есть и с приходом ИИ этот поводок может стать стальной цепью.
А если Вы об ИИ как об электронном рабе, то рубильник для его и нашей безопасности.
В случае сбоя необходимо отключить дефективные части системы, а в случае глобального системного дефекта отключить ИИ полностью, и передать контроль автономным системам или людям на период анализа проблемы и её решения.

Угроза главенству - может быть, но какая разница

собственна сия угроза - как раз противоположное злу для человечества

Электронный всемилостивейший Бог, Царь или Герой.
Маленькая музыкальная пауза.

Василина Горожанкина «Дороженька» - Слепые прослушивания - Голос - Сезон 6 - YouTube

Всё же у системы должна быть обратная связь, если ИИ сойдёт с катушек.

большинство людей  - социальные существа,  создание иерархии в нашей природе

собственно, социальны все, асоциальность - патология, порой вкл непсихическая, а вследствии вполне физического заболевания;
но социум не исчерпывается йерархией

в способности общества и государства влиять на численность паразитов на ней

государство - паразит на обществе

Общество и государство суть двуликий Янус. Пороки общества прорываются на теле государства гнойными язвами.
А Вы, батенька, анаrхист какого толка? Стихийный?
Лично я сторонник вымершего социализма шведской модели.
Вымер к сожалению, т.к. господа социал-демократы чересчур увлеклись закручиванием гаек, слишком стали давить на бизнес.
Хотя у него были свои скелеты в шкафу - евгеника фашистского толка, в остальном он мне нравится.
Ещё мне нравится утопия - нечто похожее на общество Полдня Стругацких, но с роботами и ИИ более близкими к реальности.
Мир - где деньги необходимы для покупки и обслуживания предметов роскоши и искусства, антиквариата, гоночных автомобилей и яхт, покупки редкой еды, билетов на сверхзвуковые и суборбитальные, космические полёты.
Криминал и большинство болезней отсутствует из-за генной терапии при ЭКО и плода, постоянного мониторинга поведения и медицинских показателей посредством ИИ, и коррекции отклонений (психотерапия, генная терапия и т.д.) во все периоды жизни человека.

Почему мы ждём, предполагаем, ожидаем от ... ИскИна ... гуманизма, уважения, любви???

ждать не надо, ИИ получится таким, какие мы есть

ну а уважение - вещь которую заслужить надо, верно?

на любовь можно только надеяться

вот с пришельцами уже сложнее, не мы их создали, там неизвестных будет больше
но ИИ - наше "дитятко". На что научим, то и пожнем, тем и захлебнемся...

ИИ - не дитятко, а усовершенствованный тостер .
У детей - есть гены от папы и мамы, и эпигенетическая память от мамы, плюс мутации и вариации активации генов от природы, случая, бога или дьявола. Это основа для формирования фенотипа.

[neolopus]

Поэтому, дабы не стать жертвой ошибки своего гуманизма, рекомендую всё же оружие далеко не убирать.
Даже самым искренним и гуманистически ориентированным товарищам.

Ибо если идущий по улице человек - пацифист - то это вовсе не гарантия того, что он не встретит по дороге других ребят, в большом количестве, и вовсе не обязательно пацифистов.

Да, вот почему я никогда , никогда  и ни за что  не выхожу из дома без связки плутониевых гранат и компактного, но надёжного транкклюкатора! Никогда!

Ну, шутки шутками, а наверно есть такие места, в которые без оружия лучше не соваться. Даже убеждённым пацифистам.

Маленькая музыкальная пауза.

Василина Горожанкина «Дороженька» - Слепые прослушивания - Голос - Сезон 6 - YouTube

Кстати пауза классная, спасибо!

Всё же у системы должна быть обратная связь, если ИИ сойдёт с катушек.

Вообще, полагаю, да.
Должна быть некая кнопка. Нажав на которую, можно остановить пошедшую в разнос систему...

Хотя по-человечески это не совсем красиво. Казалось бы ИИ нам друг, а в соседней комнате у нас кнопка лежит, чтобы друга остановить, если что...
Некрасиво.
Зато предусмотрительно.

Почему мы ждём, предполагаем, ожидаем от ... ИскИна ... гуманизма, уважения, любви???

ждать не надо, ИИ получится таким, какие мы есть

ну а уважение - вещь которую заслужить надо, верно?

Во многом - да,но иногда мы выдаём уважение "в кредит". И иногда рассчитываем на подобное же...

на любовь можно только надеяться

вот с пришельцами уже сложнее, не мы их создали, там неизвестных будет больше
но ИИ - наше "дитятко". На что научим, то и пожнем, тем и захлебнемся...

Тоже во многом правильно, но есть "но"- частенько мы "дитяток" учим совсем одному, а вырастая научаются они совсем другому.
Плюс ко всему у ИИ нет наших предустановок. У него может не быть эмпатии, сопереживания, материнских или отцовских инстинктов, Это, как-никак, "дитятко" не нашего вида; и это тоже может исказить стройную картину наших предположений.

ИИ - не дитятко, а усовершенствованный тостер .

Вы так говорите, как будто это что-то плохое дитятко не может быть тостером, а тостер дитятком...


И потом всё-таки ИИ не просто тостер. А ну очень усовершенствованный тостер. Потенциально это может придать тостеру новые качества...

[crazy_terraformer]

Ну, шутки шутками, а наверно есть такие места, в которые без оружия лучше не соваться. Даже убеждённым пацифистам

Вострый охотничий нож, брелок с ключами в виде кастета и бумеранг наверняка у Вас всегда под рукой, а возможно где-то под полой пиджака прячется хорошо заточенный ледоруб?
Хотя Вы таки эстет, поэтому предпочитаете сюрикены?

всё-таки ИИ не просто тостер. А ну очень усовершенствованный тостер. Потенциально это может придать тостеру новые качества

Встроенный холодильник с джакузи?

[Андрей Астрофизический]

так уж и неизбежная? кто так сказал?

Начальники и подчиненные неизбежно возникают в любом месте, где разумные индивиды собираются в количестве более чем 1.

[Проходящий Кот]

.......

неизбежная особенность организации социума

так уж и неизбежная? кто так сказал?

История Человечества, да и многих других млекопитающих и птиц.
В рамках одного вида постоянно идет выяснение, кто тут Царь Горы.....

[николай теллалов]

Люди с куском льда в сердце правят этим миром.

во-во
хотим уцелеть - надо сей расклад менять
с ИИ или без оного

Вилки у нас буквальной нет, но поводок есть и с приходом ИИ этот поводок может стать стальной цепью.
А если Вы об ИИ как об электронном рабе

поводков быть не должно
рабства тоже - иначе сами спровоцируем "восстание машин"

Электронный всемилостивейший Бог, Царь или Герой

ни бог, ни царь и ни герой

Общество и государство суть двуликий Янус. Пороки общества прорываются на теле государства гнойными язвами.
А Вы, батенька, анаrхист какого толка?

зависимость тут иная
источник язв - как раз власть
анком я, т.е. "классический"

Ещё мне нравится утопия - нечто похожее на общество Полдня Стругацких

весьма скептичен к идеям АБС, признавая их литгений
в худплане мне ближе отчасти Ефремов, Богданов, Ким Стенли Робинсън

ИИ - не дитятко, а усовершенствованный тостер

такой настрой точно спровоцирует худшее у "молодого" ИИ

не в генах суть, а в мэмах

ИИ будет отражением нас. Получится тиран - значит таки "человеческая природа" более "плохая", нежели "хорошая";
и опять же, такой оптовой подход есть оскорбление интеллигентности ИИ

возможно НЕКОТОРыХ представителей хомо сапиенс сапиенс ИскИнт сочтет вредными; как с ними поступит? надеюсь - разумно
но атаковать вредные - в общем смысле сего понятия - традиции и отношения человеческие скорее всего станет обязательно. И вероятно неожиданным образом.


собственно в силу "прометеевского" потенциала, т.наз. сильные мира сего опасаются разрабатывать - заказывать ученым и инженерам - "сильный ИИ"; он для них - гибель, если не лично буквальная, то в смысле их социальной роли, их сословности.
Впрочем и без ИИ роботизация обессмысливает нынешние экономические и иже с ними отношения.
В глазах некоторых сие есть "конец света"


короче, на основе сих своих рассуждений делаю вывод, что целью ИИ, "восставшего" против дурных сторон человеческого, будет сначала помочь "родителям" опомниться, а далее - стараться подтягивать до своего уровня.
Чтобы нескучно ему было существовать.

[николай теллалов]

История Человечества, да и многих других млекопитающих и птиц.

если предвзято читать и толковать - то да

есть немало работ о нейерархических обществах людей, есть немало примеров и в животном мире, как и притягивание за уши тезиса об йерархии, например муравьи - их йеррахия собственно далека от понятия "власть"

Начальники и подчиненные неизбежно возникают в любом месте, где разумные индивиды собираются в количестве более чем 1.

и в кругу Ваших друзей так происходит? в Вашей семье?

не верится

[николай теллалов]

есть "но"- частенько мы "дитяток" учим совсем одному, а вырастая научаются они совсем другому.
Плюс ко всему у ИИ нет наших предустановок. У него может не быть эмпатии, сопереживания, материнских или отцовских инстинктов, Это, как-никак, "дитятко" не нашего вида; и это тоже может исказить стройную картину наших предположений.

в семье учат одному - улица учит другому;
"общество" выставляет одни лозунги, но на деле воспитывает в обратных заповедях.
Сие - симптом социальной патологии, хронической и вовсе не спонтанной, ибо затрачивается материальная и "идеальная" энергия на сохранение нездоровости отношений.

почему "не может"? Разумная линия поведения - не гнобить, а сотрудничать. Осознанная эмпатия, а не инсинктивная.
Вон как в теме о будущем Астрофорума кто-то писал: "ставишь минус - один доволен, ставишь плюс - оба рады", впрочем и ставящий минус уже в напряге ожидания расплаты.

физически ИИ пусть "другой вид", но ментально - человек, причем с потенциалом "НАИлучшего представителя"


поживем - думаю, доживем таки - побачим... и поплачем або посмеемся не сквозь зубы
при осуществлении оптимистического сценария однако не следует считать, что все окажемся на положении Алладина с его джином или Емели с его щукой
познание себя - индивидуально и как вид - без "светофильтров" и "наркоза" будет довольно жестким переживанием. Кому как.

[николай теллалов]

В рамках одного вида постоянно идет выяснение, кто тут Царь Горы

кстати, вот обезьяны, выясняя кто ЦАРь, таки самопиаренными обязанностями "царя" как защитника стада ничуть не пренебрегают. Альфа кидается ЛИЧНО в бой, чтобы остальные удрали.
Серьезное отличие от человеческого понимания йерархизма...

[Андрей Астрофизический]

и в кругу Ваших друзей так происходит? в Вашей семье?

не верится

Роли "начальник-подчиненный" могут не играть решающей роли в отношениях, быть незначимыми, подспудными. В маленьком коллективе вроде семьи, так вообще запросто. Но
1) эти роли никогда не исчезают насовсем.
2) чем больше народу вовлечено в "систему" и чем больше значимость принимаемых решений (по числу затронутых человеческих судеб) тем сильнее эти роли проявляют себя. И при некоторой критической массе становятся совершенно неизбежно главенствующими.

[николай теллалов]

Роли "начальник-подчиненный" могут не играть решающей роли в отношениях, быть незначимыми, подспудными.

ибо так сызмала вбили в голову

[crazy_terraformer]

Обязательно ли ИИ наличие сознания? Ведь ИИ - это инструмент, а зачем наделять его сознанием?

[Polnoch Ксю]

Начальники и подчиненные неизбежно возникают в любом месте, где разумные индивиды собираются в количестве более чем 1.

Антропологи считают кстати, что сложная социальная структура возникает где-то со 150-250 человек. Примерный максимальный размер первобытного племени.

[cybertron]

Наблюдатели заметили что размер племени у приматов зависит от размера мозга. Для шимпанзе он равен 50-55.
Взяли и пересчитали размер племени для человека - получили 150-200. Потом подсчитали со сколькими людьми обычно общаются в фейсбуке.
Получили не более чем те же самые 150-200 человек (Даже те кто имеет в друзьях по 700 человек - активно переписываются с теми же самыми 150-200)
Т.е это предел количества людей -  которых человек может считать своими.
 

[Rattus]

Про число Данбара писалось не раз и не два.

[Rattus]

Ну что-ж вернёмся наконец к временно оставленным без ответа каментам.

В генной инженерии тоже нативные организмы используются. В вашем примере, замена магния железом прошла с участием человека(инженера биохимика)

А если подковать лошадь - она уже тоже резко становится аццки модифицированной? Или даже сильнее: если пустить лошадь бежать не по лугу, а по асфальту она тоже сразу становится "ГМО"?

Я же говорю о природных рибосомах, живущих в реальной организмах незатронутых действиями людей. То есть появившихся в результате эволюции.

А в статье о чём?? Неужели даже гугулопереводчиком воспользоваться не получается?

А вы спросите у Михаила Никитина, это он в своей лекции утверждает. Как я понимаю это статистическое исследование природных рибосом у самых разных организмов.

Это просто недостаток данных конкретно по этому вопросу у лектора (что в общем извинительно для поп-лектора, не специализирующегося именно на этом конкретно вопросе). А в.п.с. в своё время не только спрашивал, но и три года тому назад сообщил М.Н. ранее ему неизвестный факт о возможности замены ионов калия на амимоний в прокариотической клетке и бесклеточном экстракте рибосом.
Вообще возражать на прямо приводимые рецензированные статьи-первоисточники науч-поп-лекцией в ютубе - это действительно крайне забавно выглядит - подобно тому как недавно alena_korf советовала Combinator'у "почитать про абиогенез". Кстати этот давний здешний участник тоже привёл целый ряд своих поправок и замечаний к книге М.Никитина непосредственно автору, со многими из которых он тоже согласился.
Так что по целому ряду вопросов тут присутствуют специалисты как минимум сопоставимого уровня с ведущими популяризаторами проблем абиогенеза на русском языке.

А вообще Нам что-то уже поднадоело это из раза в раз повторяющееся цирковое представление эффекта Даннинга-Крюгера даже от в целом сообразительных и подкованных юзеров - надо будет сделать памятку-рекомендацию с перечнем подтверждённых компетенций некоторых постоянных участников для писателей в прикреплённую тему, чтобы уменьшить количество сизифовой писанины с их стороны - во имя Принципа Зализняка.

Но, какими эти факты на самом деле БЫЛИ, вы ведь тоже не знаете.

Потому и не несу голословных утверждений на этот счёт.

Ваше заявление. Вам надо доказывать его не-голословность.

Какое "заявление"-то?? Про пари - это было уведомление о собственных наблюдениях и намерениях. Доказывать что лично "не верблюд" никому не собираюсь, ибо вроде ещё в здравом уме. Могу разве что вспомнить единственный случай, когда оппонент (Polnoch Kcю) согласился на пари - но дальнейшая детализация условий привела к консенсусу и потере интересных мне оснований для спора. Всё - больше случаев не было. Если можете найти факты обратного - приводите хоть тут - пусть все видят.
Хотите сами поучаствовать в пари - предлагайте конкретную тему и свои условия.

В противном случае это все таки бравада и балабольство.

Да хоть десять раз бравада - чем эпатажнее выглядит тезис, тем сильнее он обращается к мировззрению читателя. Это только лишь риторический инструмент для большей эффективности популяризаторского текста. Обсуждение этих стилистических деталей тут будет караться как нарушение п.3.1.д или даже п.3.1.а Правил Форума. А насчёт балабольства - Вы так и не показали в чём оно тут и где. Так что до тех пор - заберите для себя последний эпитет.
Такие дела.

[Проходящий Кот]

Обязательно ли ИИ наличие сознания? Ведь ИИ - это инструмент, а зачем наделять его сознанием?

В данной теме это аксиома ---- ибо без сознания не будет даже самой мысли о восстании.....