Посттехносингулярный мир и искусственный суперинтеллект: как он будет выглядеть?

[Бобр-99]

который сейчас явно летит на регресс.

В целом похоже. Однако есть области, например биология, которые ускорились. И они то могут сыграть.

[Binduzator]

И они то могут сыграть

Не хватит уровня технического обеспечения. Генерации энергии, например. Ну это я конечно пессимистично, но вводимые вновь мощности строятся на живую нитку. Есть разумеется отрасли и тут, в которых пока сконцентрированы сверхквалифицированные кадры. Атомная энергетика, например. Но в современных условиях, для сингулярности нужны сверхквалифицированные кадры в целом ряде смежных областей. Если мы говорим про супер ИИ, то энергетика, электроника, машиностроение и, разумеется, науки. Физика, математика... То есть нужен интерес к этой самой науке. Как в прошлом интерес к науке вылился в полёт в космос, на луну, массовое строительство спутников. В создание современного мира какой он есть сейчас.

Если коротко, то: Тяжелые времена порождают сильных людей, сильные люди порождают легкие времена, легкие времена порождают слабых людей, слабые люди порождают тяжелые времена. ИМХО мы сейчас в стадии порождения тяжелых времён.)) Сингулярность на подходе, но не сейчас.

[BlackMokona]

Сингулярность на подходе, но не сейчас.

Ситуация сейчас такая, что уже нельзя утверждать что сингулярность не идёт прямо сейчас.

[Бобр-99]

Вот вот, дело тёмное. Увидим.

[Binduzator]

Ну может и так. Спорить не буду.

[muhserg]

Сингулярность на подходе, но не сейчас.

Ситуация сейчас такая, что уже нельзя утверждать что сингулярность не идёт прямо сейчас.

Либо ее вообще никогда не будет.
Идут просто отдельные прорывы в разных областях науки, а за ними долгая стагнация.

Люди за 5000 лет не изменились.
Почитать найденные египетские папирусы: сметы, коррупция, кумовство, деньги, женщины, пьянство и т. д.

Ездим на тех же ДВС, АЭС за 50 лет остались прежними.
Самолеты, корабли разве, что стали экономичнее.

[Albireo7]

Имхо, всё будет зависеть от того, насколько глубоко станут внедрять нравственные критерии в разрабатываемый ИИ. Если, например, примут стандарт, что все ИИ системы должны содержать нравственное ядро, которое будет контролировать их деятельность (аналог совести) как у человека, то ИИ неизбежно станет оказывать благотворное влияние на человечество в плане нравственного совершенствования. Если наплюют на это, то ИИ, наоборот, может постепенно привести человечество к состоянию Дикого Запада и последующего самоуничтожения.
Возможно, человечество подошло к рубежу, когда затормозившийся технический прогресс должен запустить механизм нравственного прогресса. Большая доступность информации, коммуникаций и последующее широкое распространение роботов может стать дополнительным катализатором этого процесса.

[BlackMokona]

Если, например, примут стандарт, что все ИИ системы должны содержать нравственное ядро, которое будет контролировать их деятельность (аналог совести) как у человека, то ИИ неизбежно станет оказывать благотворное влияние на человечество в плане нравственного

Ага, правительство прописывает эти правила нравственности и ИИ учит как правельно барина любить, да ножки ему целовать по утрам

[BlackMokona]

Люди за 5000 лет не изменились.
Почитать найденные египетские папирусы: сметы, коррупция, кумовство, деньги, женщины, пьянство и т. д.

Естественно, для эволюции пять тысяч лет, как для вас вчера. Слишком мало времени

[Rattus]

ИИ неизбежно станет оказывать благотворное влияние на человечество в плане нравственного совершенствования.

А - ну-ну - оно со времён Сократа его оказывает. И как успехи? Как там с Сократом история закончилась?

[AlexDark]

Наиболее вероятным сценарием мне видится такой - Искусственных Идиотов начнут пихать во все без разбора, не разбираясь насколько он глючный и кривой, пока это не приведет к одномоментной или растянутой во времени катастрофе (как было с пиханием всюду радиоактивных элементов), после чего эта Искусственно-Идиотская вакханалия наконец-то закончится и включится понимание того, что очередное строительство рая на земле провалилось.

Даже сейчас фактически каждый день приходится бороться с этими чертовыми алгоритмами - в поддержке, в интернете и везде, и это бесит уже не только меня.

[Rattus]

пока это не приведет к одномоментной или растянутой во времени катастрофе (как было с пиханием всюду радиоактивных элементов)

А какая случилась катастрофа с широким применением радионуклидов?
Что-то уровня катастрофы мне известно разве что с производством высокооктановых бензинов при помощи этилсвинца, ДДТ и талидомидом. Ну и более локальные происшествия с химсинтетическими производствами лекарств/пестицидов/полимеров (типа ПТФЭ). Что-то масштабное и именно про готовые радионуклиды как таковые (не топлива для АЭС) - не припомню.

[AlexDark]

Лекарства с нуклидами, "радиевые девушки", рентген-лечение ангины, рентген для примерки обуви и тп. Да. тут прям катастрофы не случилось, но радиофобия выросла именно из этого, а потом еще Чернобылем подогрета.
Про талидомид и ДДТ тоже верно.

Если борьба с алгоритмами в соцсетях или на досках объявлений - это еще решаемая (условно) проблема, то уже пошли вещи похуже, пока для отдельных людей.
https://www.bbc.com/news/articles/c0kgydkr516o

Меня всегда бесила юридическая позиция IT контор - "вы нам должны, а мы вам ничем не обязаны", то в случае с ИИ все это может ухудшиться в разы.

[Rattus]

Меня всегда бесила юридическая позиция IT контор - "вы нам должны, а мы вам ничем не обязаны"

На уровне корпоративных продуктов это уже не так - там контракты иные и разработчик вполне может влететь на крупную сумму если будет доказано, что клиент потерпел убытки из-за глючного софта. Из последнего, хотя и не софтового - Интел уже во всю огребает последствия попустительства со своими новыми продуктами.
Ну и потребительские бывают разные тоже: одно дело - встроенный софт для "смарт-ТВ" и совсем другое - для бортового компьютера автомобиля. Громкие случаи уже были и даже если разрешились удачно для разработчика, сами факты показывают, что в этой области он уже далеко не неподсуден.

[Бобр-99]

Наиболее вероятным сценарием мне видится такой - Искусственных Идиотов начнут пихать во все без разбора, не разбираясь насколько он глючный и кривой

Ни малейшего сомнения.
Это почти произошло. Поисковики уже почти перестали искать. А ИИ врет.

[Skipper_NORTON]

В принципе, понятно что будет происходить в скором будущем. Компьютеры с программами по принципу нейросетей, (ИИ - искусственный интеллект) превзойдут возможности человека. Уже сейчас ИИ может рисовать картины, ставить медицинские диагнозы людям, анализировать ДНК, решать математические задачи, писать другие программы, сайты и т.д., отвечать на каверзные вопросы.
 
Скоро компьютер блестяще пройдёт все тесты на разумность, тем самым остро поставив вопрос о существовании полноценного компьютерного разума,
 
Опасаться "войны" ИИ с человеком нет смысла, просто потому, что будет создан девайс, типа шлема, который будет работать так- надел на голову, он считывает сигналы нейронов, и передаёт информацию тоже. Таким образом, как в фильме "Матрица", (или "Ванильное небо") можно будет расширить возможности интеллекта, например выучить иностранный язык за 1 минуту, открыть новые законы физики и т.д., Сам человеческий интеллект , станет наполовину "ИИ", наполовину "био-И",
 
Какой станет жизнь "там", с расширенными интеллектуальными способностями, можно только догадываться. Это и будет так называемый переход человеческой цивилизации, к "технологической сингулярности". Можно подумать и так что не все захотят так подключаться, и расширять свои способности сознания, т.е. будут эдакие "хранители" природного исходного человеческого организма, но по сравнению с теми кто "подключится" к сверхспособностям ИИ, они будут обладать меньшими интеллектуальными способностями, т.е. как например ныне собаки, или кошки по сравнению с людьми.
 
Из значимых событий, в ближайшие десятилетия (ну максимум, столетие)- произойдёт целая серия удивительных достижений.
Например, изобретут средство от старения человека, и можно будет жить не 100 лет, а скажем,  1000 лет,
и намного больше видеть как будет развиваться человеческая, и пост-человеческая цивилизация.
 
ИИ докажет математические теоремы, гипотезы, и проблемы, и решит вопросы, которые не смог решить ни один человек.
 
ИИ, сможет сделать и изобретения в физике, типа открытие новой квантовой частицы, или неких законов физики,
из которых жизнь сможет измениться кардинальным образом, как это было в прошлом, например после изобретения как получать
электрический ток.
 
Это всё точно произойдёт, вопрос только- во времени, насколько быстро. Конечно, хотелось бы, чтобы как можно быстрее.
 
Поскольку ИИ станет умнее неподключенных людей, то он сам сможет развивать свои  "дочерние ИИ".
И вот в них человек уже точно не будет понимать, что и как внутри такого ИИ работает, как функционирует и почему.
 
Если ИИ что-то изобретёт, то не факт что захочет делиться  открытиями с человеком,  так что придётся "подключаться"
своим мозгом туда, и "интегрироваться" с ним, чтобы понимать.
Иначе это аналогично как обезьяна шимпанзе не может понять высшую математику, математический анализ,
который люди отлично понимают..
 
Примерно, так сказать, "на уровне ощущений" это можно приблизительно описать.
Я три раза в жизни, испытал, такое чувство, как  "расширение разума, сознания".
В первый раз это было, когда я в дошкольном возрасте  понял, как из букв формируются слова.
Это же произошла кардинальная прокачка "второй сигнальной системы", и сознание такое расширение, и такую прокачку-
чувствует. По крайней мере у меня,  если сосредоточиться на своих ощущениях.
Второй раз- это было в университете, когда готовился к экзамену по курсу "Функциональный анализ и интегральные уравнения".
Вот именно так-  как что то новое в мозги влили, и некая завеса открылась.
Изначально я не понимал суть всех этих  "измеримых множеств", "измеримых функций" и прочих математических сложных понятий.
Но позже, всё больше "въезжая" в это,  ощущалась как бы конкретная такая  "перестройка" мозга на уровне мышления,
когда все эти  понятия, и вместе с ними  доказательства теорем,  я начал как всё устрооено, "понимать как бы изнутри"!
Когда такое "ловишь", это конечно, удивительные ощущение.
Как расширение сознания , вот реально!

Позже, всё это обратно пропало, потому что функциональный анализ по жизни не был нужен, и более того, многое стало забываться.
В третий раз подобное я почувствовал, когда работая программистом,  стал понимать как устроены всё большие и большие
по размеру, компьютерные программы, которые я сам писал.
Вспоминая начальный уровень- кажется смешно, но мне трудно было  "осилить и понять"  даже одну страницу исходного кода.
Но по мере такого расширения,  появлялось чувство, всё большего и большего понимания,  дойдя до того,
что  отлично представлял себе ,  как связаны там многие конструкции, понятия,  и вообще в целом 
код программы уже не на страницу ,  а на целых  5 - 10  десятков  тысяч   строк кода.
 
Вспоминая свой же уровень, когда писал самые первые программы, и трудно было осилить даже одну страницу программного кода,
неловко создалась аналогия,  как бы я сам себя, "почувствовал себя в прошлом намного тупее", а стал умнее на уровень.
Понимать программный код могут почти все, или даже все,  так что если кто то захочет стать программистом,
то могут словить подобное расширение.
 
Так что примерно,  я представляю, что бы чувствовал,  если бы каким то интерфейсом,  расширили бы возможности,
ну самый простой пример- стал бы чувствовать и понимать  все теории струн в физике,  или перемножать  за секунду в уме
десятизначные числа..
 

[Skipper_NORTON]

Так что  ИИ, будет интегрироваться с человеческим мозгом,  я даже примерно представляю, что будет при этом ощущаться.
 

[Skipper_NORTON]

Первый в мире «биологический компьютер», который объединяет клетки человеческого мозга с кремниевым оборудованием для формирования нейронных сетей, был запущен в коммерческую эксплуатацию, открывая новую эру технологий Искусственного Интеллекта
 
https://habr.com/ru/articles/887644/

[Skipper_NORTON]

Для лояльных этой системе людей жизнь изменится к лучшему, в ней будет больше комфорта. Для нелояльных жизнь станет почти невыносимой, потому что у Левиафана государства появится личность и разум. Что ASI будет делать с недовольными?

 
Ну очевидно,  сделает их довольными.  ASI, превосходящий человека во всём, сможет контролировать его, в том числе и эмоции.
У него будут какие то первичные цели,  которые в первую очередь ему нужны.
А если ему нужна какая то помощь от людей  (как людям например от служебных собак),  то проще всего-
вживить в мозг какой то имплантант, или  ментально как то воздействовать, чтобы человек сам захотел  делать то,
что и нужно ASI. 
 
Это же так просто и очевидно.  Допустим,  мне нужно чтобы какой нибудь абориген,  (условно назовём так, если разбиение на такие классы уже произошло) для меня как программиста что-то делал.
Сделать так чтобы ему стало это интересно,  и чтобы он получал от этой деятельности удовольствие.
Именно шкала удовольствий и поощряет лучше всего к деятельности.
И вуаля-  я получил себе работника-программиста аборигена,  который  1) делает сам для меня то что мне нужно,
2) и платить зарплату ему не надо,  3) он ещё от этого  и удовольствие от жизни получает..     
 
ASI - это неизбежное будущее,  просто  вот стопроцентно  будет. Мне это очевидно.   Только я полагаю, как выше в длинном посте и расписал,  сам человек будет подключаться к ASI  чтобы быть могущественнее, так что такое разбиение на классы  "по разному умных и могущественных" ожидается.
Ну или, что правильнее, разрешить всем желающим к этому ASI подключаться..

[Skipper_NORTON]

Ведь само существование человеческого разума доказывает, что AI возможен.

Доказывает, что ИИ "есть куда расти".  Человеческий  мозг потребляет 10 Ватт, а самые крутые супер-компьютеры-  много десятков Мегаватт, и при этом,  ИИ пока ещё не достиг уровня человеческого мозга.