Посттехносингулярный мир и искусственный суперинтеллект: как он будет выглядеть?

[Rattus]

в нём про цену микропроцессоров вообще нет ни слова.

Это довольно прямое следствие его действия. Там про цену одного транзистора из чипа. И оно допрежь более-менее выполнялось.

И, кстати, покамест он продолжает выполняться, хотя, когда-нибудь, конечно, рост остановится.

На самом деле прямо сейчас перестаёт. Хотя может быть какой-нибудь вышеупомянутый стартап Substrate ещё и гальванизирует труп на одну-другую итерацию - но уже не в канонические сроки, конечно.

[Combinator]

Это довольно прямое следствие его действия. Там про цену одного транзистора из чипа. И оно допрежь более-менее выполнялось.

Ещё раз - про цену там нет вообще ничего!
https://en.wikipedia.org/wiki/Moore%27s_law

[Rattus]

Ещё раз - про цену там нет вообще ничего!
https://en.wikipedia.org/wiki/Moore%27s_law

Да вот же - от самого автора:

Density at minimum cost per transistor – This is the formulation given in Moore's 1965 paper.[1] It is not just about the density of transistors that can be achieved, but about the density of transistors at which the cost per transistor is the lowest.[140]
--
Плотность при минимальной стоимости на транзистор – эта формулировка дана в статье Мура 1965 года. [1] Речь идет не только о плотности транзисторов, которая может быть достигнута, но и о плотности транзисторов, при которой стоимость на транзистор будет наименьшей. [140]

[Trend]

Логика у вас безупречная. Согласен.
Все умрут жестокой смертью, зарезанные своими андроидами.
Вы останетесь живой, но потом вас найдут и тоже зарежут.
Вопрос закрыт?

Вы похоже из моего поста только одно слово прочитали.

[Combinator]

Ещё раз - про цену там нет вообще ничего!
https://en.wikipedia.org/wiki/Moore%27s_law

Да вот же - от самого автора:

Density at minimum cost per transistor – This is the formulation given in Moore's 1965 paper.[1] It is not just about the density of transistors that can be achieved, but about the density of transistors at which the cost per transistor is the lowest.[140]
--
Плотность при минимальной стоимости на транзистор – эта формулировка дана в статье Мура 1965 года. [1] Речь идет не только о плотности транзисторов, которая может быть достигнута, но и о плотности транзисторов, при которой стоимость на транзистор будет наименьшей. [140]

Это просто уточнение понятия "плотности транзисторов" в основном законе, не более того. То есть, предполагается, что транзисторы располагаются на плате так, что бы оптимизировать конечную цену, что вполне логично. Про то, как будет меняться сама цена, он не говорит ничего.

[skvj]

Логика у вас безупречная. Согласен.
Все умрут жестокой смертью, зарезанные своими андроидами.
Вы останетесь живой, но потом вас найдут и тоже зарежут.
Вопрос закрыт?

Вы похоже из моего поста только одно слово прочитали.

Я прочитал все ваши слова и буквы. И остановился на главной опасности, которую вы сам обозначили.
Техногенные катастрофы - постоянный фон, в котором живёт современное человечество и опасность андроидов там - на предпоследнем месте. Тем более, вы сам понимаете, и пишете, что их могут взломать. Значит опасность не в андроидах а в терроризме, а это будет именно он.

Все остальные ваши слова также не имеют к андроидам никакого отношения, потому что прослушивать и шпионить за вами будут в любой момент если захотят без всяких андроидов. А если есть умный дом - а он есть у многих - это самостоятельная, постоянная опасность. И как-то мы все справляемся и всё хорошо.

Хотя, да случаются и эксцессы. Но как это очевидно - проблема в людях, а вовсе не в инструментах, иначе нужно запретить молотки как орудие убийства - это ровно из той же оперы, которую вы написали вашими словами.
Хотите продолжить дискуссию дальше?

[skvj]

это объективные инженерные единицы:.. на доллар

Очень инженерные, да.

Именно. Это применяется абсолютно во всех расчётах инженерной аналитики, всеми и везде.

Выложу чисто научные публикации:

https://cdn.openai.com/papers/ai_and_efficiency.pdf



Три фактора определяют прогресс ИИ: инновации в алгоритмах, данные и объём доступных вычислений для обучения. Прогресс в алгоритмах традиционно сложнее измерить, чем вычисления и данные. В этой работе мы утверждаем, что у алгоритмического прогресса есть аспект, который одновременно прост в измерении и интересен: снижение со временем объёма вычислений, необходимых для достижения прошлых возможностей. Мы показываем, что число операций с плавающей запятой, требуемых для обучения классификатора до уровня производительности AlexNet на ImageNet, уменьшилось в 44 раза между 2012 и 2019 годами. Это соответствует удвоению алгоритмической эффективности каждые 16 месяцев в течение 7 лет. Примечательно, что это опережает исходный закон Мура по улучшению аппаратной эффективности (11x за этот период). Мы наблюдаем, что улучшения в аппаратной и алгоритмической эффективности умножаются и могут быть на сопоставимом масштабе на значимых горизонтах, что предполагает, что хорошая модель прогресса ИИ должна интегрировать меры из обоих.



https://cloud.google.com/blog/products/compute/performance-per-dollar-of-gpus-and-tpus-for-ai-inference



https://epoch.ai/data-insights/price-performance-hardware

https://cset.georgetown.edu/wp-content/uploads/AI-and-Compute-How-Much-Longer-Can-Computing-Power-Drive-Artificial-Intelligence-Progress_v2.pdf



https://ourworldindata.org/grapher/gpu-price-performance



Это серьёзная наука и стандартные отчётные метрики для индустрии, облачных сервисов и суперкомпьютерных центров!
FLOPS/$ - официальный и публичный способ сравнения эффективности вычислений для ИИ и научных задач. Без единого упоминания Курцвейла. Это способ исчисления.

Не вижу смысла обсуждать с вами что-то далее, если вы игнорируете очевидное и общеизвестное, как всегда называя попугаями то, что вам не нравится. Теорию суперструн)) FLOPS/$

При этом сам, тут же рядом делаете то же самое:

[Rattus]

Это просто уточнение понятия "плотности транзисторов" в основном законе, не более того.

А в чём тут отличие от

Это довольно прямое следствие его действия.

?

FLOPS/$ - официальный и публичный способ сравнения эффективности вычислений для ИИ и научных задач. Без единого упоминания Курцвейла. Это способ исчисления.

При этом далеко не универсальный - он имеет свою область применения, вне которой бесполезен.

Это соответствует удвоению алгоритмической эффективности каждые 16 месяцев в течение 7 лет. Примечательно, что это опережает исходный закон Мура по улучшению аппаратной эффективности (11x за этот период).

Как раз исходный (1965-1975) закон Мура давал удваение за 1 год. Ну и всё то же секвенирование геномов в нулевые-начале десятых дешевело быстрее чем по Муру. Это вполне в порядке вещей.
Я же пишу только лишь о том, что эта тенденция вовсе не обязательно продлится хотя бы даже два десятилетия. Напротив - закон Мура стал редким исключением по своей продолжительности.

[Trend]

Значит опасность не в андроидах а в терроризме, а это будет именно он.

То есть вы терроризмом назвали слежку со стороны государства, компаний и преступников.

Все остальные ваши слова также не имеют к андроидам никакого отношения, потому что прослушивать и шпионить за вами будут в любой момент если захотят без всяких андроидов

У меня дома нет самоходной камеры с руками, к которой может подключаться кто угодно и делать ее руками что угодно, наблюдая и записывая все, включая как я посрать хожу.

Сейчас даже большинство людей с незнакомого номера звонки не принимают, если не ждут ни от кого звонка. Потому что эту технологию стали использовать преступники в чудовищных масштабах. А ноутбуки часто уже продаются со встроенными шторками для камер.

Хотя, да случаются и эксцессы. Но как это очевидно - проблема в людях, а вовсе не в инструментах, иначе нужно запретить молотки как орудие убийства - это ровно из той же оперы, которую вы написали вашими словами.
Хотите продолжить дискуссию дальше?

Тут и запрещать не надо. Проосто этот "молоток" за такую цену почти никто покупать не будет.

[Combinator]

А в чём тут отличие от "Это довольно прямое следствие его действия".

?

В том, что зависимость не обязательно прямо пропорциональная, а вы в своих расчётах подразумеваете её именно таковой. При увеличении количества элементов на единицу площади процессора его цена вовсе не обязана оставаться той же что и раньше.

[skvj]

При этом далеко не универсальный - он имеет свою область применения, вне которой бесполезен.

Так ни одна технологическая экспонента не гарантирует вечного продолжения в виде "золотого закона". Сам Мур предвидел затухание своего принципа, а практические кривые удешевления (секвенирование, вычисления, память) рано или поздно сталкиваются с фундаментальными пределами (материальными, структурными, энергетическими).

Но суть наблюдений Курцвейла.

Он фикcирует не вечную экспоненту, а динамику смены технологических платформ: всегда появляется новая парадигма, поддерживающая продолжение роста (пример - переход от кремния к нейроускорителям, квантовым чипам, облачной интеграции и алгоритмическим оптимизациям).

Именно это позволило закону ускоряющейся отдачи держаться не одно десятилетие: экспонента не останавливалаcь на вакуумных лампах, переехала в транзисторы, микросхемы, нейроускорители, кластерные AI, и теперь идет в биотехнологии, материалы, архитектуры.

Никто не утверждает, что тенденция обязана длиться ещё 20 лет без изменений, но суть экспоненты в том, чтобы улавливать смену парадигм и правильно прогнозировать точки предела/перелома.
Курцвейл оказывался точен более сотни раз, потому что замечал именно такие технологические переходы.

Как раз исходный (1965-1975) закон Мура давал удваение за 1 год. Ну и всё то же секвенирование геномов в нулевые-начале десятых дешевело быстрее чем по Муру. Это вполне в порядке вещей.
Я же пишу только лишь о том, что эта тенденция вовсе не обязательно продлится хотя бы даже два десятилетия. Напротив - закон Мура стал редким исключением по своей продолжительности.

Да, геномы шли быстрее, чем по Муру именно из-за смены технологий (анализа, автоматизации, параллелизации).

FLOPS/$ в ИИ не универсален для вселенной, но критически важен для эволюции ИИ и прикладных задач.

Короче:
Гарантий нет, но анализ тренда, прогноз точек смены технологических платформ - и есть суть длительных "исключительно длинных" экспонент, как у Мура или Курцвейла.
Именно эти переходы рождают новые возможности, и если будет новый скачок (например, массовое внедрение квантовых вычислений/ASIC/нейроархитектур), мы увидим продолжение экспоненты. Поэтому вы и в квантовых компах скептик!

А на рынке, и в индустрии ИИ, что есть по сути сообщающиеся сосуды, как и любая индустрия без рынка не значит ничего - экспоненциальный тренд FLOPS/$ продолжается уже куда дольше, чем исходная "эра одного закона".

[skvj]

То есть вы терроризмом назвали слежку со стороны государства, компаний и преступников.

Нет. Терроризм (или аналогичное тяжкое преступление по УК) будет если злоумышленник настроит андроида убивать ножом. Это вы говорили про ножи, никто вас не заставлял.

У меня дома нет самоходной камеры с руками, к которой может подключаться кто угодно и делать ее руками что угодно, наблюдая и записывая все, включая как я посрать хожу.

У вас дома есть смартфон, у многих людей умный дом, у ещё больших - камеры наблюдения, ноутбуки, планшеты, подключённые к сети холодильники и бесконечные интернет-устройства. Которые могут следить за ними 24/7 если это будет нужно. Ничего принципиально нового андроиды не привнесут. Можете не покупать его, вас кто-то заставляет?

Сейчас даже большинство людей с незнакомого номера звонки не принимают, если не ждут ни от кого звонка. Потому что эту технологию стали использовать преступники в чудовищных масштабах. А ноутбуки часто уже продаются со встроенными шторками для камер.

Какие удивительные подробности!
))

Тут и запрещать не надо. Проосто этот "молоток" за такую цену почти никто покупать не будет.

Так и в чём проблема, я не понимаю? У вас никогда не будет андроида, даже не сомневайтесь. Зачем это всё писать?
Андроиды будут у тех, кому они нужны или интересны. Вам это не нужно и не интересно, вы их не купите и останетесь живой и никто за вами следить не будет. Что и зачем мы обсуждаем?

[skvj]

Rattus, а вы мою гипотезу забросили? Не интересно стало или что? 

[неполитик]

Предсказать, как отреагируют общество и политики на такое новое явление, как разумные роботы, я думаю, просто нереально.

Стерпятся-слюбятся 

А если серьезно, не андроиды заставят реагировать общество и тем более неповоротливые государственные институты, а отдельные ячейки этого самого общества, что вбросят увесистую пачку дрожжей в отхожую яму современного и без того придурковатого мира.

Вот образцовый пример:

Я своему андроиду дам полные права дефакто. А деюре произойдёт чуть позже, автоматически или через суды.

Замечательно! (искренне)
Гражданин skvj правда забыл про неделимую связку права-обязанности. Но, то такое - обязанности нонче не в почете знать, да.  А трансгуманисты о них и вовсе не думают 

Однако, наши государственные мужи как никогда здесь на острие прогресса и уже об обязанностях думают 

Депутат Никитин: власти России обсуждают введение налога на труд роботов

Ну, допустим, сбылась мечта идиота  (я сейчас образно, если что)
Тут интересная правовая коллизия получается: гражданин skvj купил иностранного гражданина (мы же не поверим в производство андроидов в отсталой России?) с целью экспроприации его труда для личных потребностей. Ходит по судам, пытается легализовать 


Да, по миру страсти будут нешуточные, будем с интересом и попкорном наблюдать.

[Бобр-99]

Но, то такое - обязанности нонче не в почете знать, да.

Перед кем? Не договариваете.

[skvj]

Тут интересная правовая коллизия получается: гражданин skvj купил иностранного гражданина

Опять генератор бреда заработал?
Вы когда незнакомые слова употребляете - смотрите в словарь. Я понимаю, что такой сложный термин как "гражданин" вам сразу осилить не получится, но вы читайте частями. Не сразу, а скажем, раз в неделю и через пару лет освоите.



Пишите лучше о личинах и бейте тревогу - у вас отлично получается.
А когда вы делаете вид, что рассуждаете логически - получается дикий бред))

[неполитик]

Вы развивайте мысль, не останавливайтесь))
Про склизкие щупальцы не забудьте!

Про скользкие щупальца не сильно умею, но раз уж вы сами просите моих комментариев, не могут отказать.

Бойтесь! Ибо настанет час!
Я не трансгуманист. Я постгуманист. Бойтесь!

Напугали ежа голой жо...ой 
Не путайте неприязнь с боязнью (я про некоторые аспекты трансгуманизма, а не про личности, а то неровен час опять оскорбитесь и потеряете запал)
Возможно (и даже точно), я не так хорошо как вы представляю себе будущее, но я к нему готов... готов лучше чем вы.
И оно меня не пугает.

Я своему андроиду дам полные права дефакто.

Какие права? Наделите всеми гражданскими правами и свободами, или все-таки речь про новый Code Noir с юридическим закреплением статуса андроида и регламентированием их правовых отношений с владельцем/собственником?

Да, история повторяется дважды: первый раз в виде трагедии, второй в виде фарса 

Он сказал, что люди будут дружить со своими ИИ.

Я вам дам своего андроида поиграть))

Ага, купил друга (милота  ), и соседу дал поиграть
- нельзя купить РАВНОГО! - в этом и есть суть претензий к вам, оголтелым трансгуманистам, с интеллектом подменившим разум.
Вы, или штаны оденьте, или крестик снимите (вычеркните гуманизм из своей философии).

Если один субъект права (человек) может купить/продать другого субъекта права (андроид), почему в ваших координатах ценностей не должна реализовываться обратная возможность?
Буду ждать объявления на Авито от вашего андроида  (подержанный, недорого)

смогут поступать потом на военную службу, но добровольно - также, как и любой человек.

Кем, поваром? Или все-таки убивать?
т.е. никаких вшитых на аппаратном уровне тормозов? Или предполагается, что три закона робототехники будут носить сугубо территориальный характер, а экстерриториально можно убивать? В этом не сомневаюсь (при реализации такового уровня андроидов, конечно). Так-то, армия, особенно во время ведения боевых действий, неплохая среда для освоения и закрепления нужных моделей поведения 

Кстати, а почему добровольно, а не по призыву?
Опять про обязанности не помните. Люди сейчас хворые, а андроиды все поголовно медкомиссию пройдут 
Вот тебе и армия железных дровосеков 

А вообще, если AGI андроид не дурак, то он пойдет не на военную службу, а на государеву, воспользуется своим правом быть избранным (а что?! - вон у него какой железный электорат), после чего в армию по призыву пойдет skvj, отстаивать с ружьем идеалы кремний-органического равенства 

Не давать ему задачи - он сам будет видеть проблемы и решать их. Это сейчас звучит громко. Права андроидов - ого-го!

Уверен, ИИ научно-обоснованно докажет превосходство человеческого мяса на поле боя по энерговооруженности и боездатности выраженных в эквиваленте на 1 доллар.

И в целом, при вашем-то размахе мысли, зачем армия?
Андроид в каждой семье, андроид каждому! Это же персональный аппарат принуждения, личный полицейский. Даже робокопов на улицах не нужны.
Идеальное законопослушное общество под одной "крышей" общего дома 

vika vorobyeva - не нужны железяки-штурмовики, мир захватят торговцы 
Но, только для того, что бы объединиться в любви и счастье!

[неполитик]

Опять генератор бреда заработал?
Вы когда незнакомые слова употребляете - смотрите в словарь. Я понимаю, что такой сложный термин как "гражданин" вам сразу осилить не получится, но вы читайте частями.

Юридические права, напротив, основаны на обычаях, законах, нормативных актах или действиях законодательных органов общества. Примером юридического права является право голоса граждан.

https://en.wikipedia.org/wiki/Law

Это называется, сам себе в штаны нагадил 

Браво, маэстро знаний! Браво!
Или специально для вас выстроить из ваших цитат логическую связь?
Ведь так не поймете, где запахло. 

[skvj]

Ага, купил друга

Если и когда ИИ будет признан личностью - ей будет не андроид, а ИИ, что повлечёт изменение прав собственности его агрегатора. Робот просто костюм для ИИ, их покупали, покупают и будут покупать. Это собственность владельца.

Не путайте неприязнь с боязнью

Ничего кроме страха у вас нет. А у меня к вам и неприязни нет, потому что вас никто не спрашивал и не спросит. Индустрия будет развиваться. Я всего лишь устал читать бред, не более. И это не имеет отношения к позиции тех, кто против андроидов - я её понимаю и уважаю, и никакой неприязни не испытываю. Любой человек имеет право быть против того, что ему не нравится.

Все что вы пишете ниже плинтуса. Я только против отсутствия логики, а не против того, что вы против андроидов. Но ваше глумливое "общение" в кавычках просто неприятно. Но и это вы никак не можете понять.

[skvj]

Юридические права

Я наделю его правами - у себя дома.
От этого он не станет гражданином, потому что я не консул и не посол, и не паспортный стол.
Он будет иметь все права - и вы не сможете помешать.
Вы продолжаете генерировать бред.