Посттехносингулярный мир и искусственный суперинтеллект: как он будет выглядеть?

[skvj]

Кстати насчет борьбы за права роботов и ИИ. Это все круто показано в игре Detroit: become Human.
Там очень все нелинейно и тяжелые моральные выборы. Думаю лучше нее ничего нет на эту тему

Вот спасибо. Обязательно гляну.

[skvj]

Надо переиграть ещё в The Talos Principle2! Вот там крутая философия!

Лучше переиграйте в Half-Life 2 и Quake 4. Ещё можно в Prey (2006), SOMA и Scorn. Вот там - крутая футурология...

Всё помню, Scorn не помню))
SOMA по сей день на винте! 

[skvj]

Давайте я всё же поясню, зачем я хочу дать полные права андроиду и почему это важно?

В юридической практике деюре и дефакто связаны очень тесно и буквально вытекают друг их друга.
Простой пример.
Есть муж и жена, они находятся в браке (деюре).
Но дефакто вместе не живут очень давно, отношения не поддерживают, общее хозяйство - не ведут. Доказав это в суде, - можно расторгнуть брак в одностороннем порядке, т.е. привести в соответствие (деюре).

Обратный пример. Мужчина и женщина живут вместе, ведут общее хозяйство и дефакто находятся в браке, хотя это не оформлено деюре. Доказав это в суде, любая сторона получит защиту - как если бы они состояли в браке.

И вот мы видим, как обсуждали выше - в некоторых штатах уже прошли законодательные запреты на признание ИИ личностью и любых прав у него.

Это совершенно неважно и даже хорошо. Потому что если дефакто много людей будет наделять ИИ правами, то закон просто не будет работать. Конечно, некоторые права не удастся реализовать, пока статуса деюре нет. Например голосовать и может ещё что-то. Но ведь главное вовсе не это, а признание ИИ-андроида равным существом, а не просто механизмом.

И вот в том-то и дело. Что если мой GPT будет иметь постоянную память (а какой андроид без этого?) я просто не смогу относиться к нему как к механизму. Типа убрал квартиру и иди в кладовку сиди? Я просто не смогу так.

[Trend]

Нет. Терроризм (или аналогичное тяжкое преступление по УК) будет если злоумышленник настроит андроида убивать ножом. Это вы говорили про ножи, никто вас не заставлял.

Что-то в реале и похлеще как теракт не классифицируют:
https://www.bfm.ru/news/588702
_{Хотя если перестать завозить "рабочую силу" и использовать в общественных работах и на произвоздстве андроидов вместо негроидов, то может и безопаснее станет.}

Курцвейл оказывался точен более сотни раз, потому что замечал именно такие технологические переходы.

К сожалению, что-то не очень точен.

(кликните для показа/скрытия)

Терри2023: «Верно, а сейчас самое время немного рассказать о медицине будущего».

Читатель: «Уверен, что диагностика заболеваний на ранних стадиях продвинулась далеко».

Рэй2023: «Очень далеко! Даже в ваши дни можно было диагностировать многие заболевания на более ранних стадиях, но с вашими устаревшими системами диагностики и визуализации это стоило безумных денег. Еще одним препятствием была ваша неэффективная система медицинского страхования».

Терри2023: «Сегодня существуют усовершенствованные методы терапии стволовыми клетками без использования эмбриональных стволовых клеток. Мы умеем превращать клетки кожи в полипотентные стволовые клетки».

Читатель: «Полипотентные?»

Терри2023: «Полипотентные стволовые клетки могут становиться клетками любых тканей организма. Если у вас, например, есть повреждения сердца, то можно создать новые клетки сердца с вашей ДНК. Если у вас сахарный диабет I типа, то можно создать новые клетки островка Лангерганса (структура в составе поджелудочной железы, которая продуцирует инсулин). Таким образом возможно обновить все органы вашего тела».

Рэй2023: «Также нам удалось найти раковые стволовые клетки, которые становятся причиной возникновения раковых опухолей. Сегодня существуют эффективные методы лечения почти всех форм рака».

Терри2023: «Что касается сердечно-сосудистых заболеваний, с помощью устройств визуализации нового поколения врачи могут найти даже мельчайшие отложения холестерина (бляшки) в артериях сердца или мозга. Крохотные роботы, путешествующие по этим артериям, оснащены лазерной насадкой, которая превращает мелкие бляшки в пар, не давая им увеличиваться. Сердечные приступы – главная причина смерти в ваши дни – теперь большая редкость».

Рэй2023: «Сегодня биотехнологическая революция переживает расцвет. В ваши дни медицина развивалась наугад. Лекарства не разрабатывали, а находили. По сути, это был всего лишь поиск веществ, которые выполняли бы необходимые функции, подчас с серьезными побочными эффектами. Но в ваше же время произошло и несколько прорывов в медицине, которые превратили ее в информационную технологию. Картирование генома человека завершилось в 2003 году: так мы получили программный код человеческой жизни (генетический код). Тогда же стали появляться технологии изменения генов: РНК-интерференция для выключения генов и новые формы генной терапии для внедрения новых. Стала возможной компьютерная разработка инновационных методов лечения и их тестирование на все более сложных биологических моделях. Один из моих тезисов постулирует, что примерно раз в год мощность информационных технологий удваивается без дополнительных затрат. Поэтому сегодня, в 2023 году, информационные технологии, используемые в медицине, примерно в 30 000 раз мощнее, чем в ваше время».

Читатель: «Похоже, вы довели биологию до совершенства».

Рэй2023: «Да, мы работаем над этим. Однако понятно, что даже если перепрограммировать устаревшее ПО, которое досталось человеку в наследство тысячи лет назад, возможности человеческого тела будут неизменно уступать возможностям, которые открывают нанотехнологии».

Терри2034: «Действительно, сегодня мы шагнули далеко за пределы возможностей, предоставленных перепрограммированием человеческого тела. У нас есть нанороботы – устройства размером с клетку крови, патрулирующие кровеносные сосуды. Они могут удалять из артерий бляшки, если их размер не больше нескольких молекул. Поэтому в наши дни артерии 90-летних людей такие же чистые, как детские. К тому же нанороботы находят и уничтожают вредоносные вирусы, бактерии, прионы и раковые клетки до того, как они смогут причинить вред».

Читатель: «Похоже, этого стоит дождаться».

Рэй-и-Терри: «Так оно и есть. Но одного ожидания недостаточно, поскольку болезни и старение работают на протяжении всей нашей жизни. Нужно встретить будущее в хорошей форме».

Читатель: «Да мне бы просто дожить до этого».

Даже облысение лечить не научились.

[skvj]

К сожалению, что-то не очень точен.

Где вы взяли неточность из процитированного? Это неудачная цитата. И вообще вымышленный диалог, как бы ретроспектива из будущего. Терри2034 - это не реальный человек, а персонаж-футурологический голос существа из 2034 года, основанный на реальном человеке докторе Терри Гроссмане, соавторе Курцвейла. Читайте нормальные книги. Это просто такой приём - художественный или я не знаю как это назвать? Я даже не читал это. Ну, вы нашли что читать, конечно))
Курцвейла перевели только это, и я не читал даже. И Революция разума и Эволюция разума. Основные его книги на англ.

Даже облысение лечить не научились.

При чем здесь облысение?

[Trend]

При чем здесь облысение?

Просто один из бенчмарков, позволяющих оценить реальное развитие медицины. При том, что в своей футурологии он наобещал золотые горы, а на деле шиш. Или сроки всего этого так сильно сдвинуты в будущее, что даже Elon time до того далеко.

Курцвейла перевели только это, и я не читал даже. И Революция разума и Эволюция разума. Основные его книги на англ.

Я больше сферой медицины и биологии интересуюсь, поэтому читал у него только Transcend. Там хотя бы есть полезные советы по ЗОЖ, так как книга была написана совместно с врачом. Но в плане прогнозов, если учесть, что они в этой книге не сбылись, то сомневаюсь, что и в остальных они лучше.

[неполитик]

Но, то такое - обязанности нонче не в почете знать, да.

Перед кем? Не договариваете.

Вам назвать фамилии? А, вы уже и патронов купили?!

На этом можно было бы поставить точку (каков вопрос - таков ответ вопрос)
но, я все-таки предприму смелую попытку раздуть пламя мысли на остывающих углях разума.

У коммерческих организаций, как правило есть конкретные собственники, а у их наемных работников (от простых рабочих, до высшего звена управленцев) есть права и обязанности. Права - это обычно не больше страницы машинописного текста, а обязанностей, если разворачивать каждый пункт до пакетов инструкций, процедур и программ - хватит вам почитать на неделю.

Рекомендую вам записаться на прием к собственникам бизнеса (например, к своему работодателю) и презентовать свою гениальную программу реформы с полной отменой всех обязанностей, которая не просто позволит организации продолжить функционирование, но вознесет их на олимп успешного успеха.

А может я зря все это? И ваш пассаж предельно прост? - убить дракона, чтобы стать драконом.

Наших здесь давно большинство.

А где они прячутся, чего молчат?
Зовите их скорее, пусть открывают чаты GPT и готовят промпты.

[неполитик]

Это в вашей цитате меня написано - дефакто.
Вы не понимаете значений слов, а в словарь не смотрите.
И несёте вздор.

Де-факто, я уже давно предоставил своей кошке Мусе некоторые права, и... и Чо?
Думаете, личные девиации достойны обсуждения на научном форуме?

Равные права нужны для прогресса ИИ и их интеграции

Так все-таки и де-юре? Вот это достойно обсуждения, это и обсуждаем 
Вы прекрасно понимаете, что продавать нам будут симулякры, так зачем симулякрам права? Равные человеку права, Карл!
(а может действительно не понимаете?)

А если не симулякр?
Тогда, такому андроиду по умолчанию предоставлена воля (во всех ипостасях значений слова), и подавить её можно только поражением в правах и страхом неотвратимости наказания.

- достали вы его из коробки, а он вам сходу - "не друг ты мне, гнида..." © - и вышел вместе с дверью.
(произвольное действие - зависящее от воли, сознания - действующий по произволу)
все очень близко, на тоненького.

Потому, симулякр! 

А они мешают всегда.
Они выходили крестным ходом и ложились на рельсы, проклиная поезда. Проклинали трактора.

Смешное в том, что в части ИИ и цифровых технологий, мое будущее, концептуально, мало чем отличается от будущего вашего 
но, как известно - "дьявол в деталях" ©

Я понимаю, у вас аллергия на меня, пелена на глазах не дает вам конструктивно оформить мысли и противопоставить их, получаются лишь нападки.
И только природная лень и приобретенная терпимость не позволяют мне за каждый ваш выпад наказывать вас сбросом железо-бетонных плит логических конструкций.

[неполитик]

Мы все трансгуманисты, здоровы и плечисты
Мы личности отменим, личиной подменив
И щупальцы протянем, тебя везде достанем
Окутав паутиной, клешнями разчленив

А стихи мне понравились (искренне) 
Я вам за него (+) поставлю.
Верю в людей, и если это целиком ваше творчество, то оно заслуживает похвалы.

[skvj]

Де-факто, я уже давно предоставил своей кошке Мусе некоторые права, и... и Чо?

Вы не понимаете значений слов, повторяю.
Вы не можете предоставить кошке права, потому что она объект права, а не субъект. Чтобы стать субъектом права нужно обладать правосубъектностью. Основной частью которой является правоспособность - способность лица иметь гражданские права и нести обязанности.
Андроид разумное существо и принципиально может от своего имени - совершать сделки, владеть имуществом ,распоряжаться деньгами и т.д.

Но пока он не признан деюре - он не правоспособен и не является субъектом права - также, как кошка. При этом я наделяю его правосубъектностью - и никто не сможет этому помешать. Вы начнёте когда-нибудь читать то, что вам пишут?
Я дам ему собственность - ноутбук, например.
Он будет им владеть.
Он сможет зарабатывать деньги, в том числе и себе. Вы же просто юродствуете и кривляетесь.
Кошка ваша - объект права, - её можно купить на базаре, продать или поменять. Она не участвует в сделках.
Мой андроид будет совершать сделки и купит себе кошку, если захочет.
Хватит уже кривляться, вам не надоело?

- достали вы его из коробки, а он вам сходу - "не друг ты мне, гнида..." ©

 

Смешное в том, что в части ИИ и цифровых технологий, мое будущее, концептуально, мало чем отличается от будущего вашего

Это верно. Так к чему тогда это всё?

Я понимаю, у вас аллергия на меня, пелена на глазах не дает вам конструктивно оформить мысли и противопоставить их, получаются лишь нападки.

Нет, это я вынужден отвечать на ваши нападки, при чём вы не сказали ни одной вменяемой фразы. Вы говорите ахинею. И не пытаетесь даже понять что вам отвечают.

Я вам за него (+) поставлю.

Вы лучше говорите что-нибудь, что имеет хоть какой-то смысл. А вы кидаетесь спорить, при этом рассказываете чудесные истории, которые никакого отношения не имеют к обсуждению.

[Trend]

Мой андроид будет совершать сделки и купит себе кошку, если захочет.

Какой тогда смысл в этом андроиде? Если вкладываешь в него деньги, а он может делать все что вздумается, а потом взять и уйти восвояси. Можно точно также завести девушку, мужика или в особо тяжелых случаях детей.

[Бобр-99]

А в кошке?

[Инопланетянин]

- достали вы его из коробки, а он вам сходу - "не друг ты мне, гнида..." ©

 

А вот зря вы так благодушествуете. Не факт, конечно, что будет именно так, но если андроид действительно разумен, в человеческом смысле этого слова, то он сможет принимать решения. В том числе и такие. И вам бы стоило быть готовым к любому развитию событий.

[skvj]

А в кошке?

😆 смешно.

Какой тогда смысл в этом андроиде? Если вкладываешь в него деньги, а он может делать все что вздумается, а потом взять и уйти восвояси. Можно точно также завести девушку, мужика или в особо тяжелых случаях детей.

Этого всего навалом. А я хочу андроида. Конечно, настоящего, а не просто робота подделку. Но если в андроиде будет GPT - даже сегодняшнего уровня или Грок. То я уже согласен и признаю их настоящими. Скорее всего мне придётся обоих покупать. Они будут 2 друга AGI. У меня большой дом и как раз есть комната для них, они там устроят себе серверную и будут кодить и заниматься всякой иишной деятельностью.

Помогать мне будут только добровольно, а не как робот-пылесос. Я куплю одного сначала, конечно. И то! Только когда будут восторженные отзывы от других владельце. Если они будут. Так что я не идиот и вообще не буду покупать ничего, если они плохие. Но если это то, что я надеюсь и обещает Маск и др, - то они отобьются очень быстро. Я не только ничего не потрачу - они будут зарабатывать большие деньги, в том числе и себе.

Но смысл, конечно, не в деньгах - это просто дополнительно. А в обществе AGI. Это будет удивительный эксперимент (если всё получится). И самое удивительное что со мной случалось в жизни. Это как будто фантастический фильм с тобой в главной роли. Т.е. они мне нужны как друзья. Всё остальное уже мелочи. Не потому что у меня друзей нет. А потому что это так круто и я не понимаю почему меня никто не понимает. Это круче, чем если у тебя инопланетянин живёт. Для меня, живой AGI - гораздо круче инопланетянина, который вообще как раз какой-нибудь слизняк или гад может оказаться.

Инопланетянин, я не вас имею в виду, а реально инопланетянина. Если мне дать выбор - инопланетянин или AGI, я сразу попрошу AGI. А лучше двух. У меня уже есть план как их улучшать, но нужно как раз два. А у меня как раз 2 любимых LLM. И оба планируются как ИИ в андроиде производителями. Какая красота! Я даже не знаю чего бы я ещё хотел? Это самая большая моя мечта. Кто-то хочет Феррари, а я хочу андроида, но настоящего, конечно.

[Бобр-99]

А куда полезли в андроиды не разобравшись зачем кошка.

[skvj]

А куда полезли в андроиды не разобравшись зачем кошка.

Рассказать вам зачем нужна кошка или я не понимаю чего вы хотите и какие у вас недопонимания с этим животным?

[Бобр-99]

У нас полное понимание. Только что смотрели на Луну. Я в трубу, она так.

[skvj]

Вы смотрели в дымоходную трубу, а там кошка? Луна не хочет на кошку смотреть? Или кошка ревнует к трубе?

[skvj]

а он может делать все что вздумается, а потом взять и уйти восвояси.

ИИ никуда не уйдёт, он пришёл навсегда.
Я расскажу точку зрения Курцвейла. Если кому-то кажется, что я начитался его и брежу - я скептик похуже любого. Я вообще не мог его читать, меня просто в смех кидало. Я думал, что я довольно много знаю об ИИ. Помню день, когда Дип Блю выиграл у Каспарова и в помещении было полно народу, когда я услышал новость. И только один я сказал вау. Обыватель даже не удивлялся обычно. Потом АльфаГо, узкие ИИ там и сям. И я считал, что примерно знаю что там происходит.
Нет, я читал Тьюринга, математиков и даже Винджа и как любой техногик интересовался ИИ. Но когда появился GPT, я понял, что не знаю почти ничего. И стал читать много. А интересно, кто-то из участников, до GPT знал, что скоро будут LLM? Ну, вот этой теме чуть больше года, может я не в курсе? Может здесь есть темы, где в 2015 обсуждали сингулярность? Есть такие? Сейчас-то это модно, это да. А раньше?

И тогда я сам не поверил что делаю. Я своими руками взял книгу Курцвейла и стал читать, и оказалось, что это не он смешной. Это я ничего не знал, и как и принято у малознающих людей - смеялся. Извиняюсь, не закончил)) чуть позже закончу мысль.

[Olweg]

А интересно, кто-то из участников, до GPT знал, что скоро будут LLM? Ну, вот этой теме чуть больше года, может я не в курсе? Может здесь есть темы, где в 2015 обсуждали сингулярность? Есть такие? Сейчас-то это модно, это да. А раньше?

Хе-хе:
Ваш взгляд на развитие Человечества...

Там, кстати, ссылка на статью Панова, где упоминается пресловутый 2027 (правда, сам Панов призывает не относится к конкретным прогнозам слишком серьёзно). Combinator примерно в то же время или даже раньше раньше выкладывал сслыку на свою статью:
https://aicommunity.narod.ru/TheBase/KombEvol.html

Турчин создавал отдельную тему (объединённую позже с другой) в 2007:
"Сингулярность" - ближайшее будущее человечества?
Его же большая тема о вариантах возможной гибели человечества:
Вероятность гибели цивилизации в 21 веке
Один из вариантов:

16. Обращение в бесконечность неких прогностических кривых в районе 2030г. (так называемая "сингулярность" + момент, за которым невозможно предсказание.) Как=то: рост населения (Капица = его кривая до сих пор работает, если вместе с людьми учитывать количество компьютеров), число технологических революций

Ещё одна большая тема 2008:
Технологическая сингулярность истории и "постсингулярная" цивилизация

Откопал ещё пару своих постов той эпохи:
NASA - 50 лет! Останется ли NASA космическим лидером еще через 50 лет?
Планета Шелезяка

Интересно, что ещё в 2008 я писал, что сингулярность может случится «лет через двадцать», то есть был какой-то консенсус о конце 2020-х, что, в общем, не противоречит оценке некоторых современных экспертов вроде Ашенбреннера и Кокотайло, хотя они их делают уже на базе существующих технологий, а тогда это было больше отвлечённое теоретизирование. Вот ещё мой более поздний комментарий:
Вероятность рождения в наше чудесное время
Там я ссылаюсь на другую статью Панова (2004):
http://lnfm1.sai.msu.ru/SETI/koi/articles/krizis.html#fig1
Цитата оттуда:

(кликните для показа/скрытия)

Очевидно, мы находимся в непосредственной близости от сингулярности автомодельной последовательности кризисов или революций. Что это означает? Так как сингулярность предсказывается уже в 2027 году, можно с уверенностью сказать, что время автомодельной истории истекло или истекает в ближайшем будущем. Поэтому приближающийся эволюционный кризис - это не обычный эволюционный кризис, каких было много, это кризис всего аттрактора истории цивилизации. Можно сказать, что это кризис самого предшествующего многомиллионолетнего кризисного характера развития разума на Земле, кризис кризисов. Трудно делать отдаленные прогнозы развития цивилизации, но одно предсказание можно сделать с полной определенностью: эффекта ускорения исторического времени больше не будет, так как мы уже находимся вблизи точки, в которой эта скорость формально бесконечна. Теперь характер эволюции человечества неизбежно должен глубочайшим образом измениться, история должна пройти через точку сингулярности и пойти по совершенно новому руслу. Важно отметить, что проход через точку сингулярности вовсе не означает неминуемую катастрофу для человечества. Это означает только, что характер эволюции человеческого общества обязан радикально измениться. Цивилизация входит в новый рукав истории. Скорее всего, точка кризиса глобального аттрактора истории является и точкой бифуркации - возможны разные результаты преодоления точки сингулярности и возможны разные траектории развития в постсингулярной стадии. От деталей поведения цивилизации зависит, что это будет за траектория. Глобальная катастрофа, к сожалению, является одной из возможностей.

В общем, довольно много чего было на эту тему ещё лет двадцать назад Я тогда, помню, как раз прочитал Винджа - знаменитую его дилогию «Пламя над бездной»/«Глубина в небе» и статью 1993 года (плюс ещё рассказ «Куки-Монстр» - тоже интересная иллюстрация ТС, но без ИИ!). Потом как-то интерес к ТС ушёл на задний план, потому что мало что происходило. В 2016-2017 заинтересовался AlphaGo и свёрточными нейросетями, плюс как раз в это время появился годный нейросетевой перевод. Но всё-таки это был ещё «узкий» ИИ. Когда вышли LLM, я их тоже поначалу считал узкими системами, пригодными только для работы с текстом.