Посттехносингулярный мир и искусственный суперинтеллект: как он будет выглядеть?

[Olweg]

И интуиция одного говорит что шедевр, а интуиция другого что экстрименты.

Мне кажется что задача создания общего интеллекта слабо связана с разбором завихов конкретных гуманитариев. Если конечно не стоит задача создания Искусственного Идиота, всего такого спонтанного и непредсказуемого.

Если бы всё ограничивалось только вкусовщиной! Диаметрально противоположными бывают и ценности, а вот это уже серьёзно. И если для некоторых ценностей ещё можно поискать объективные критерии, то большинство строится просто на эмоциональных предпочтениях.

[MenFrame]

если для некоторых ценностей ещё можно поискать объективные критерии, то большинство строится просто на эмоциональных предпочтениях.

Потому что в основе ценностей лежит биологические мотивации, когда то сформированные отбором. По сути у любого робота, в том числе биологического есть запускающие-останавливающие триггеры.

[AlexDark]

И требующих 100% точности, например повсюду не беспилотные автомобили только по этому. Пусть беспилотники ездят лучше чем средний человек, но все хотят полную безаварийность

Это вопрос ответственности. В случае аварии с человеком можно посадить виновника в тюрьму, взыскать с него компенсацию, убить, в конце концов, в рамках мести. В случае аварии с роботом - кто будет отвечать? С робота спроса нет, корпорацию условный дядя Вася нагнуть не сможет, плюс все айти компании живут по закону "вы нам должны, а мы не обязаны". И в итоге получается, что ответственность не несет никто. Даже если корпорации  будут платить пострадавшим, это опять же будет восприниматься как "они творят, что хотят и просто откупаются от всех проблем". А это мало кому нравится. Если бы был разработан механизм ответственности за действия  и глюки софта, причем не только для вип-клиентов, а для всех - то воспринималось бы это по-иному.

[BlackMokona]

В случае аварии с роботом - кто будет отвечать?

Я тоже так думал, но потом получил кучу примеров. Что есть дофига вещей когда нету личной ответственности и ничего. Работает система. Сколько там людей садиться в тюрьму когда очередной лайнер взрывается?
Ну и механизм ответственности простой, плати это автоматическое наказание и возмещение. Установи цифры большие и народ скушает легко

[AlexDark]

При этом есть куча людей с аэрофобией, сколько бы не пытались доказать, что летать безопасно. Но если можно не летать, то без машины уже сложнее. Ну и слишком много людей привыкло, что машина - она их личная, и делить ее с роботами и корпорациями они не намерены. Это проблема юридическая и психологическая больше. Но из-за психологических особенностей после какого-нить резонансного ДТП может получиться так, что появятся группы  ненавистников роботов, как сейчас группы ненавистников мигрантов. после каких-либо резонансных преступлений. Но если людей можно защитить именно как людей, даже если они преступники, то роботы - это имущество, и защищать его как людей невозможно.

[Olweg]

Такси и автобусы в некоторых локациях Китая и в штатах вполне успешно работают (формально в тестовом режиме), люди без проблем пользуются. Кто захочет оставить личный автотранспорт - ради бога, никто же не неволит. Просто их доля со со временем уменьшится, по мере удешевления технологии и привыкания к ней.

[BlackMokona]

При этом есть куча людей с аэрофобией, сколько бы не пытались доказать, что летать безопасно. Но если можно не летать, то без машины уже сложнее. Ну и слишком много людей привыкло, что машина - она их личная, и делить ее с роботами и корпорациями они не намерены. Это проблема юридическая и психологическая больше. Но из-за психологических особенностей после какого-нить резонансного ДТП может получиться так, что появятся группы  ненавистников роботов, как сейчас группы ненавистников мигрантов. после каких-либо резонансных преступлений. Но если людей можно защитить именно как людей, даже если они преступники, то роботы - это имущество, и защищать его как людей невозможно.

Так уже были и есть. Луддиты

[AlexDark]

Луддиты

Если людям будет обеспечен переход к чему-то новому без ущерба для их благосостояния и здоровья - то это хорошо. Если же что-то мне навязывают, под видом "прогресса", но жить становится хуже - то "прогресс" столь же ругательное слово как и "луддит".
У меня нет машины, водить ее я не умею и не хочу учиться - я их боюсь и я слишком нервный для этого. Я б с удовольствием заимел машину с автопилотом, но с одним "но" - если она работает, как и вся остальная современная электроника - виснет, тупит, глючит, выполняет всякие непонятные действия - то нет, такой автопилот мне не нужен, я лучше пешком. Хотя и тут тоже проблема - я за день встречаюсь близко с несколькими десятками, а то и сотнями машин, проезжающих или стоящих ближе 3м от меня. И что в их электронных "мозгах" замкнет, я думать не хочу.  Было уже, когда, кажется, на жигулях ЭУР глючил и до предела давил руль влево (подробностей не помню, было лет 15-20 назад). На старой работе один из сотрудников вместе со всей семьей оказался под фурой. Никто не ответил. И это еще тупой софт для МК, а не ИИ.

[BlackMokona]

Если людям будет обеспечен переход к чему-то новому без ущерба для их благосостояния и здоровья - то это хорошо. Если же что-то мне навязывают, под видом "прогресса", но жить становится хуже - то "прогресс" столь же ругательное слово как и "луддит".

Так хуже не становится. Сейчас вот есть очень удобное такси через приложение для вас и крайне дешёвое посравнению с традиционным такси. Потом будут так же автопилоты

[Инопланетянин]

Кстати, а почему никто не  вбухивает столько же денег в разработки варп-двигателя или в иные идеи из научной фантастики?

Потому что это ненаучная фантастика.

[AlexDark]

Потому что это ненаучная фантастика.

А что научного тогда в идее сингулярности? И в возможности создания самоосознающего себя ИИ, способного из компа влиять на реальность?

[BlackMokona]

А что научного тогда в идее сингулярности? И в возможности создания самоосознающего себя ИИ, способного из компа влиять на реальность?

Какое самосознание? Какое влияние на реальность?
Сингулярность это про ИИ который может сделать ИИ получше

[Инопланетянин]

А что научного тогда в идее сингулярности?

Это ещё выяснить надо.

И в возможности создания самоосознающего себя ИИ, способного из компа влиять на реальность?

Ну мы же существуем. И как-то из черепной коробки влияем на реальность. Значит, теоретически можно это повторить в железе.

[AlexDark]

И как-то из черепной коробки влияем на реальность

Для этого у нас есть как минимум руки. И если долго ими махать - в птицу не превратишься, летательные аппараты работают на совсем иных принципах, а махолеты так и не взлетели. Хотя теоретически можно это повторить - птицы же летают.

[BlackMokona]

махолеты так и не взлетели

Летающих махолетов вагон и маленькая тележка, просто в габаритах птиц

[Mercury127]

Летающих махолетов вагон и маленькая тележка, просто в габаритах птиц

только птицы почему-то летают без питания по проводам...

[BlackMokona]

только птицы почему-то летают без питания по проводам.

Таки хим батарейки

[Инопланетянин]

Для этого у нас есть как минимум руки. И если долго ими махать - в птицу не превратишься, летательные аппараты работают на совсем иных принципах

Самое смешное, чтобы сделать летательные аппараты пришлось руками как следует поработать. Ну головой, конечно, тоже. Вопрос, почему гипотетический ИИ так же не сможет? Ну, начав с консультаций туповатых мешков с салом.

Летающих махолетов вагон и маленькая тележка, просто в габаритах птиц

Вот да. Даже крупные птицы уже испытывают трудности с маханием. И с разбега взлетают как самолёты и парить предпочитают как дельтапланы. Просто принцип для своего размерного класса.

[AlexDark]

почему гипотетический ИИ так же не сможет

Наверное потому что у него нет рук)

[Инопланетянин]

Наверное потому что у него нет рук)

Ну, начав с консультаций туповатых мешков с салом.

Ну подумайте.