Посттехносингулярный мир и искусственный суперинтеллект: как он будет выглядеть?

[Бобр-99]

Не знаете о чем говорите.
Советские шариковые ручки были бездумно, криво скопированы с западных. У меня от них навсегда мозоль на пальце.
Та же история с интерфейсами - халтура.
Выдаете мусор за прогресс. Бижутерию за бриллианты.

[Rattus]

Чистописание - это особая "дисциплина" была. Нужно было написать страницу и умудриться не поставить кляксу.

Вроде как в Японии до сих пор есть что-то подобное. По крайней мере по воспомнинаниям Константина Батыгина, который в детстве некоторое время жил там с родителями и ходил в местную школу: там целый урок проходило изучение и вырисовывание одного иероглифа - без различия кто и как с этим уже справился. Видимо что-то навроде медитации.

к каждой тетрадке прилагалась промокашка! Погуглите, что это такое.

Перьевых ручек в школе 90-х уже, разумеется, не застал, а вот промокашки к некоторым тетрадям ещё прилагались, так что успел "пощщупать". В это время уже особым шиком стали перьевые автоматические ручки - с резервуаром для чернил  в корпусе. Кстати прикольная штука - она позволяет регулировать толщину линии скоростью ведения. Шариковой ручке нужны стержни - если прежний закончился, запасные засохли все, а ближайший канцтоварный магазин чёрте-где или закрыт уже, тут можно достать из дальнего ящика такую винтажную ручку в пенале, баночку чернил, причём не обязательно чернила из магазина - можно развести простой микробиологический краситель типа генцианового фиолетового - да почти любой вообще из аптеки или лаборатории (кроме мутагенных)!, аккуратно наполнить (лучше над раковиной, хехе), промакнуть и что-нить выводить... А керосинка - залил керосину, запалил - и коптит тебе безо всякого электричества где угодно!

[Rattus]

Ну что-ж продолжим, пожалуй, большое обсуждение темы.

Будет ли сознавать себя рекурсивно совершенствующийся ИИ или нет - дело, на мой взгляд, десятое. Гораздо интереснее, что в итоге будет с нами.

Ну, так-то фундаментально интересно всё, но сейчас и в первую очередь таки да.
Независимо от того, насколько AGI может быть мощным, самостоятельным и самосознающим, ключевое фундаментальное изменение в обществе он уже запускает: неизбежное обесценивание человеческого интеллекта - по сути его главной адаптации, обеспечивавшей доминирование в экосистемах. Не просто каких-то отдельных специфических умений типа быстрого проведения логических расчётов - как у счетоводов или шахматистов, а всех вообще его вариантов, вплоть до творческой интуиции. Пока это касается только "среднеквалифицированных" специальностей, но это только самое начало. Причём это обесценивание будет происходить не где-то там отдельно в высших организационно-управленческих сферах, а в самом человеческом обществе. Все люди творческих профессий и интеллектуального труда станут такими же маргиналами и декоративными диковинами как какие-нибудь гончары или писцы.
При этом ценность человека как физического агента с его манипуляторами никуда не делась, а значит "рабочий класс" везде на местах, где нет хорошо формализованной и стабилизированной конвеерной среды однотипного массового труда, никуда в обозримой перспективе не денется: даже если он окажется заменим не только "в принципе", но и "в корпусе" - себестоимость таких роботов не позволит ими заменить рабочих в бОльшей части обитаемого мира. Также как автомобили даже не смотря на массовость не стали доступны вообще всем и каждому далеко - в мегаполисах становится слишком высока стоимость владения и минимально удобство, а на далёкой периферии просто не всем далеко доступно.

Вы употребили выражения "где то" и "может быть". Может быть просто коротенько поясните свою точку зрения? Для чего создавать "субъектного" робота*?

Читайте внимательно следующую строку после цитируемого - там всё уже написано.

модель либо сгенерирует терминирующий токен, либо будет продолжать процесс ради процесса. Нет нужды сюда тянуть эволюционные процессы репликаторов - они тут неприменимы. Если модели в промте не прописать эволюционные стремления (копироваться, выживать, итд) - она ничего такого делать не будет, даже прекрасно зная, как работает эволюция.

Ясное дело,что это  модель, и как модель она сильно ограничена - точно также как вы не ждёте, что в забытом на месяц в холодильнике супе ещё через год микробы устроят кембрийский взрыв многоклеточности.
А вот когда мы обсуждаем вопросы в масштабе данной темы и раздела Астрофорума, без эволюционных механизмов и процессов не обойтись никак - они лежат в самой основе явлений тут. Если где-то есть достаточное разнообразие конкурирующих и развивающихся агентов (то есть не только тупо самих ИИ-продуктов, но и их компаний-разработчиков, авторов и владельцев), то тот из них запустит высокоавтономного ИИ-агента, способного и постоянно стремящегося к самоподдержанию, причём вообще не важно по какой причине - "злонамеренно" ли, по халатности или недомыслию - все естественные эволюционные последствия этого события не замедлят сказаться.

Так что, paperclip maximazer, если будет создан

Будет побеждён в конкурентной борьбе аналогичным по сложности устройством, лишённым иррационального паразитного мотива делать что-то кроме обеспечения собственного выживания и распространения. Старая глупая Дрекслеровская "Серая слизь" кстати ровно из тех же соображений росла, только без оглядки на реальность законов физики-химии: она имела целью только собственное воспроизводство, без каких-либо побочных паразитных целей. А таким системам не нужно никаких сказочных чудесных наносамобранок - это просто будет их modus operandi целиком в рамках инфраструктурных мощностей цивилизации. Тогда как этот самый мифический "максимимзатор скрепок". на котором Вы так зациклились - нет. Самосохранение - максимамльно общая задача. которая может быть решена самыми разными способами. Расширение  производства какого-либо предмета - предельно конкретная, помешать выполнению которой может неисчислимое множество самых разных обстоятельств непреодолимой силы, преодолеть которые не поможет никакой, самый развитый интеллект. Именно поэтому "максимизатор скрепок" - вообще никакая не угроза в принципе.

[Ulkolainen]

Потом была зелёная энергетика. Такая же длинная и тупая. И опять ни-о-чём. И после ряда блек-аутов, видимо тоже напор "закулисных властителей дум" спал... Дурак перестал с этим бегать (первые полосы "научных новостей" заряло другое).

Потому что "зелёный переход" уже не новость и не предмет полемики. Это рутина. Как ею первые полосы занимать?

Вроде как в Японии до сих пор есть что-то подобное. По крайней мере по воспомнинаниям Константина Батыгина, который в детстве некоторое время жил там с родителями и ходил в местную школу: там целый урок проходило изучение и вырисовывание одного иероглифа - без различия кто и как с этим уже справился. Видимо что-то навроде медитации.

Это, наверное, неизбежность для всех стран, где иероглифическое письмо. Там и конкурсы каллиграфии проводятся не только среди детей.

Перьевых ручек в школе 90-х уже, разумеется, не застал, а вот промокашки к некоторым тетрадям ещё прилагались, так что успел "пощщупать". В это время уже особым шиком стали перьевые автоматические ручки - с резервуаром для чернил  в корпусе.

В 80-е классических перьев тоже не было, а промокашка оставалась в комплекте потому, что качество шариковых ручек оставляло желать, и при плохом стержне на листе иногда оставались кляксы не кляксы, а этакие "козявки". После закрытия тетради могли отпечататься на противоположной странице.
За этим мало уже кто следил, но предполагалось делать именно так - при перелистывании прокладывать промокашку.   

[skvj]

Перьевых ручек в школе 90-х уже, разумеется, не застал, а вот промокашки к некоторым тетрадям ещё прилагались, так что успел "пощщупать". В это время уже особым шиком стали перьевые автоматические ручки - с резервуаром для чернил  в корпусе. Кстати прикольная штука - она позволяет регулировать толщину линии скоростью ведения. Шариковой ручке нужны стержни - если прежний закончился, запасные засохли все, а ближайший канцтоварный магазин чёрте-где или закрыт уже, тут можно достать из дальнего ящика такую винтажную ручку в пенале, баночку чернил...

Это было круто. Многие так делали и по моему я тоже имел такие. Они были очень не дешевые, а с выходом шариковых просто стали никому особо не нужны. И везде они валялись, дома, у бабушки, везде. И когда прошло какое-то время они стали вдруг популярны. Однажды у меня вытекла такая и испортила пиджак и рубашку)) Так что там кроме промокашек было ещё много каких недостатков. А главный хит был Паркер. Это прям вот у директоров и партийных работников. Реально крутая была и никогда не текла. Она как шариковая писала почти. И даже лучше советских шариков намного))

В 80-е классических перьев тоже не было, а промокашка оставалась в комплекте потому, что качество шариковых ручек оставляло желать, и при плохом стержне на листе иногда оставались кляксы не кляксы, а этакие "козявки". После закрытия тетради могли отпечататься на противоположной странице.
За этим мало уже кто следил, но предполагалось делать именно так - при перелистывании прокладывать промокашку.

Точно! Я прям вспомнил. Промокашки остались, потому что шариковые мазались страшно. Строчку пишешь и несколько раз протираешь.

[skvj]

Странная вещь память. Сейчас прям вспомнил - десятилетиями я это не вспоминал. И вдруг, как вчера - прямо вижу картинку. Ассоциативная память? Где-то хранилось всё это. И прям образы. И когда писал сообщение - вспомнил, что вроде и у меня были такие. И тут пиджак вспомнил и понеслось. Ручка сломалась просто и все чернила вытекли. Получил по ушам от бати за пиджак и рубашку. Зачем ты таскаешь эту дрянь? - Так это твоя ручка! из уважения! Не прокатило 

[Stalk.er]

Это - катастрофа. Они все - ТУПЫЕ. Реально! Узколобые "опытные потребители". И всё. Кнопки давят - лихо. А вот шнурки завязать...
И это я по данному форуму тоже вижу (а тут - лучшие из лучших!)
Да, пока есть "промежуточное" поколение (мы и те кто младше на 10-20 лет) всё пока путём (и даже автомат есть кому взять в руки).
Но когда наши инфантильные отупевшие "на кнопках" дети-придурки (я не о своих лично, у меня как раз всё-таки что-то передалось, надеюсь) займут наши места, наступит полный пи-сец. И этот Вавилон - падёт. Закон чертыхёх поколений Ибн Хальдура - неотвратимо сработает...

Они не тупые, они узкоспециализированные...
Так же как Шерлок Холмс - в своей области он сущий гений, но даже не знает что Земля вертится вокруг Солнца, а при попытке его просветить - говорит, что это абсолютно мусорные для него знания и в чем то он прав.
Тут прямая аналогия с современными ИИ. Есть узкоспециализированные нейросети - они уделывают не только среднего человека но и лучших из лучших в своей очень узкой области  - в шахматах, фолдинге белка, в го, в поиске новых лекарств и т.д.
А есть LLM - это всезнайки. Их знания широкие но неглубокие и в шахматах и в математике они слабы против специализированных нейросетей