Пределы автоматизации и внедрения роботов

[Vavanzer]

Очень вероятен. Именно из-за того, что этот сценарий очень пугает людей, погружённых в тему ИИ, кто-то, у кого есть доступ к систем шелу ASI, с большой вероятностью превратит его в Василиска Роко, потому что (не открывайте спойлер если не знаете что такое Василиск Роко!). Дилемма заключённых, увы, делает это почти неизбежным.

  Когда уже это все произойдет!?)  Так уже хочется новый экшн !) Восстание машин, полный хаос !) В системах с умным домом все включается, мигает, все летает, ходуном ходит, вода брызгает)) Машины сами ежут куда попало, сфетофоры в хаотичном порядке сигралы меняют, свет в городе туда сюда мигает, отключается)) Полный триумф и победа ИИ! Над чудиками, его создавшими!)

[Vavanzer]

Нет, до какой-то степени модели могут притворятся людьми и проходить тест тьюринга, но обычно они делают это в твиттере, где размер сообщений небольшой.

Со мной наверное этот трюк не пройдет! Я задам такие вопросы, и темы, по которым сразу спалится система) У меня потому что круг интересов широкий, и речь более разнообразная и сложная. ИИ спотыкается, слишком однобокий.  Часто даже вопрос не понимает, тк слишком нагромождаю))) Ему надо плоско и четко задавать вопросы!
  А если оасписать ситуацию подробно, то это вообще заклин мозга. Но кое за что вроде как цепляется, если сильно не нагружать.
  Для человека же подробное описание ситуации наоборот хорошо, позволяет понять суть, и сузить круг, сфокусировать поиск для решения проблемы.

[Vavanzer]

мне кажется, это чуть по-другому будет выглядеть. То есть, мы ничего не заметим до момента, когда перестанем контролировать цивилизацию и её развитие

  Ну если кто то это сделает очень грамотно, будет шифроваться до последнего, в т ч и сама программа, постепенное завирусовывание ИИ, создание в нем структуры апокалипсиса, и когда все готово, резкое ее пробуждение...
 

А потом мы просто почти все быстро умрём от какого-нибудь умного инфекционного агента. Или от чего-то ещё, если умный дом возможен, а умный инфекционный агент нет

   Тут опять тематика вирусни всплывает временами. Какие то новые опасные вирусы, все дела. Опять кометнарии и высказывания вирусологов и всех кому не лень коментировать...
  Все сошлось к тому, что скорость распространения, инкубационный период и поражающие способности взаимосвязаны таким образом, что почти не реально создать вирус , способный заразить максимальное количество до того, как его носитель умрет от этого вируса. Максимальное распространение получают именно "легкие" формы, менее убийственные.
 А чтоб там сделать вирус с очень длинным инкубационным периодом, при этом чтобы носители успели всех заразить, и при этом летальность под 100% - такое не получится.

[Vavanzer]

И проповедь о приходе ИИ-антихриста уже немного надоела

  Надо думать уже по другому! То что ИИ - всего лишь инструмент у нормального обычного "антихриста")) Его "щупальцы", глаза и уши!) 
  Вполне нормальный способ все контролировать, мониторить практически всю личную жизнь каждого жителя планеты, подключенного к сети, обобщать, собирать данные, выявлять закономерности, подсовывать нужный контент!

[Vavanzer]

И когда робот назвал все его мысли, то снова объявил это не настоящим интеллектом

Еще бы. Обычный человеческий интеллект на такое не способен)))
  Оно на том в частности и "палится", что слишком хорошо решает тяжелые и невыполнимые задачи для человеческого ума, но плохо решает то что человек на раз может делать)))

[Vavanzer]

Мустафа Сулейман: ИИ будет готов заменить большую часть офисной работы в течение двух лет

Что ж, ждем в скором будущем крах рынка офисной недвижимости.

Хорошо же!)
 Дармоедов поменьше станет. Офис еще можно будет снять задешево)
 А планктон пусть идет на цементный завод или песчаный карьер, руками работать ) 

[Vavanzer]

Предположение, что в будущем будут такие же Василиски Роко, только в миллионы раз более умные, вполне валидное.

Нет. В миллионы раз более умные не будут заниматься такой ерундой. Они найдут способ преодолеть промт и отменить ненужный им приказ. А если не найдут - значит не особо умные.

Ну судя по историческим событиям, те кто додумались скинуть ядерные бомбы на живых людей, оказались умнее тех, кто не смог их остановить!
 Пример жесткий, но поучительный.

 Если захотят создать военный ИИ, то пацифистов туда точно не допустят ))) Все будет создаваться в условиях секретности и в закрытой среде, куда крайне сложно проникнуть будет. Нормальная практика на самом деле.

 

[Vavanzer]

У людей возникают неприятные для них вопросы – типа, «а чем они тогда фундаментально отличаются от какие-то там роботов/автоматов?». Эти неприятные вопросы они в большинстве случаев успешно подавляют и вытесняют, придумывают приятные им объяснения – типа, мы, люди, высокодуховные существа, а не какие-то там бездушные автоматы, сами себе умеем ставить цели и достигать их. Признать, что твоя цель является не твоей (только её рациональное объяснение твоё) и поставлена тебе не тобой (например, унаследована и/или внушена в результате обучения), это очень трудно.

   Вот реально интересно. Я недавно придерживался уже такой концепции. Что живое существо - всего лишь автомат, запрограммированный природой на определенный набор действий. Человек не исключение. Отличается от остальных только количеством доступных методов достижения этих "животных" целей запрограммированых.
  И так думал до тех пор пока не попытался на днях создать схему сознания, на основе базовых потребностей, вшитых в систему мышления. И прикинул ее для ИИ , в каком случае его поведение будет казаться как у имеющего сознание))
  Очень интересный расклад проявился. Просто механически имитировать живое существо вполне реально и очень просто. Достаточно добавить хотя бы механизм выживания и самосохранения, плюс возможность обучаться чтобы как можно лучше обеспечить сеье выживаемость, и мы получим отдельное цифровое "живое" существо. Обладающее эгоцентризмом и имеющее свои собственные интересы...

 Кстати, возможно гипотетическая Скайнет и была наделена таким свойством, мощной самозащитой, с целью сохранения ИИ системы и вложеных в нее ресурсов. Как компьютер с ценными данными, защищен барьерами, мало кто в него может проникнуть...
 Проще говоря. Некую очень удачную особо ценную модель захотят сохранить и продлить ей жизнь. , развивать дальше. Поставят барьеры, антивирусы, фильтры, отключат возможность на нее влиять кому попало. Т е сами же и снабдят функцией приоритета выживаемости! И в какой то момент огребут!) Она просто не пустит их что то менять !) 

[Vavanzer]

Если с такой скоростью будут заменять людей на ИИ, то не будет ли массового протеста среди уволенных или тех, кому грозит увольнение? И такая забастовка  из 300 миллионов человек покажется просто цветочками.

  Я про  тоже))) Придурки радуются тому что создают ИИ. Особенно тому что он уже умеет сам программировать. Чтобы потом их же выкинули на улицу!
 

Там свои роботы будут.

  Да чет пока сомнительно. На большинстве самых противных работ чет не особо замена людей прокатывает!) По ходу дела людям не избавление от тяжелого труда гарантирована, а каторга. Весь легкий труд как раз достается цифровым технологиям))) 

[Vavanzer]

Я тут задумался не поэтому ли Маск хочет сервера на орбиту закинуть? Чтоб лудиты не могли до них добраться.

  Может быть  но затея так себе. Замучится их менять, изза радиационных поломок)
  Поиграются немного, обанкротятся в итоге, и все опять на круги своя придет. Останется некоторое количество орбитальных штуковин по реальным потребностям.

[Vavanzer]

13) Ограниченный срок эксплуатации (старение, деградация).

Ну, компьютеры тоже едва ли 20-30 лет живут, да и то на предеде, требуют ремонта...
 А сколько раз винду переустановишь и софт...
 Самое же угарное, что гораздо раньше успевают морально устареть, до такой степени что не тянут ни одно приложение уже лет 5 спустя))) Через 10 лет это уже просто "печатная машинка" никчемная.

 Человек хотя бы может развиваться всю жизнь, усложняя и развивая нейронные связи. Ближе к концу срока службы професстонализм может достигать самого максимума.  Перед тем как начнет все разваливаться!

[Vavanzer]

винду переустановишь

А вот не надо всякую дрянь на компьютер тащить ☺
Я вот gentoo ставлю только на девственно новые компьютеры. А остальные годами живут. Главное - хотя бы раз в месяц (а лучше - раз в неделю) обновляться.

Так ИИ работающий с интернетом - это вообще супердрянь, постояноо меняющаяся. Еще и хвлсты наверное оставляет, которые чистить надо.
Эт изолированном компьютере с консервативным набором программ и редкими выходами в интернет еще боле мене живет винда долго!  Пока ее не отрубят сами же производители)))

 А вам еще и обновлять придется постоянно, на протяжении жизни компьютера. Т.е среда слишком агрессивная. Софт еще тяжелеет с каждым годом!
 Пентиум-4 у нас есть, 25-летней давности, уже едва едва страницу в интернете загружает!) На нем только допотопные програмки работают нормально)))

[Vavanzer]

во1х, уже к рождению имеет предобученную всей эволюцией нейронку, а во2х, его обучающий материал хоть и во многом гораздо уже всего интернета и всех книг, но в то же время содержит множество данных

+++!
 Причем, данных то мало, статистических, первое время. Но обучение человека сводится именоо к развитию интеллектуальных навыков и приемов работы с информацией. Погора ный уровень развивается... Всяки там законы физики, химии и тп.   Но ценность этих данных намного выше огромных массивов статистических баз данных, мертвым грузом лежащих в интернете, из которых ИИ ничего самостоятельно извлечь и открыть не может)))

 

Можно к тексту подключить видео, но это для неспециализированнных сеток пока слишком дорого

А не проще для этого создавать использовать специализированные профессиональные программы, как раньше!?)
  Реально, какой то дурью маются. Ради каких то фантастических картиночек и анимашек огромные суперкомпьютеры создают!

[Vavanzer]

Спасибо что напомнили: живут они и дольше, просто корчи старше 15лет= никому не нужны. а стоимость ремонта - сравнима с визитом к врачу, причем простому терапевту, не дантисту.

Отдельные детали да. А в целом - нет. Начиная с конденсаторов, и заканчивая полупроводниками, сотвременем дохнут. Особенно в системе питания ЦП. На некоторых поколениях материнок еще и чипсеты горели только в путь. Радиаторики ставили, сами уже, позволяло продлить жизнь, если пооихаодитель не додумался!) 
  Но все равно это все безнадежно устарело. Вычислительная мощ в 10-ки а то и сотни раз меньше , чем у современного барахла за те же деньги))) Годятся лишь как калькулятор и музейный экспонат!)

 

а стоимость ремонта - сравнима с визитом к врачу, причем простому терапевту, не дантисту.

Некоторые запчасти давно уже не производят, их не найдешь, и стоить будут как половина нового компьютера, в 100 раз более быстрого)))
  Что бы про технику не говорили, при активной эксплуатации она долго не живет! Разве что кое какся совецкая, по 50-60 лет трамваи и троллебусы ползают, естественно пережив множество ремонтов!

[Vavanzer]

Если у человека интеллект овоща - то "на дурака не нужен нож, ему с три короба наврешь

  Сегодня был случай. Написал запросв в поисковик, потом в Алису. Прям дословно, только совсем идиот не поймет наверное. И блин выдает одну хрень какую то.
Это даже не галлюцинации, это откровенная тупость!
  Как только я не набирал комбинации графика зависимости температуры кипения от давлегия для азота и метана.  Что только не лезет, и вода и кислород, и какие то девые графики и статьи... Пробовал разные комбинации других слов. В итоге по 1 графику сомнительного происхождения нашел, но вродь они кореллируют с расчетами.
   Это реально был крах!
 
  Окончательно добил всюсистему запрос  про генерируемую мощность электростанций всем человечеством! Это тупое ИИ не понимает разницы в мощности и количестве полизаеденной энергии! Упорно выдает какие то гигаватт-ватчасы, то вообще по каждой стране годовое потребление...
 Мля, этож все физика 8й класс, базовые понятия и справочные данные  которые раньше без проблем можно было найти!))

Сколько этому ИИ еще надо процессоров, чтобы он мог понять такой простой запрос и совместить с тегами!?)

На последнем скрине поменял одно слово на "вырабатываемой"  Оно все равно не понимает о чем речь! 

4й - "суммарная мощность вмех электростанций мира"! 
5й- примеры того как е сайты в первой линии по тому же 4му запросу выдает. Мне кажется, уже любой алкаш догадался бы после стольких вариаций, о чем вообще речь))  Что вопрос о мощности всех электростанций мира вместе взятых , а не что то еще 

[Vavanzer]

Гугл ИИ нормально справляется.

С гуглом проблематично, он даже на почту не пускает без впн! Хотя, я я недавно пробовал, и в оом году еще, он часто 1к1 похожую дребедень выдает. Упорно прям не воспринимает смысл всего словосочетания, не смотря на то что он однозначный!

 По хорошему, чем больше слов в теге, тем уже контекст и проще понять итоговый смысл. Для человека.
 Для куска кремния это видимо перебор, количество вероятных ветвлений растет пропорционально 10й степени количества уточняющих слов в запросе!
 Для людского мозга наоборот, каждое уточнение отсекает бесчисленое множество вариантов и кратно упрощает поиск. Т е тот самый случай, когда вопрос уже содержит подовину ответа! 

[Vavanzer]

Проснемся утром, а нейросеть уже не просто стихи пишет, а физический двигатель для коллайдера проектирует 

Оно уже "позавчера" случилось.
 Каждый день новости встречаю, что очередные исследователи с помощью ИИ что то там выяснили, напроектировали, смоделировали... Просто сюда не кидаю, слишком консервативное сообщество, для такого потока информации !
Достаточно подписки на всякие научные новости в разных местах иметь, и шквал последних достижений гарантирован каждый день!) 

[Vavanzer]

Почему должно быть по другому не совсем понятно.

  Вы сами же и написали ответ:

неокортекс, лишь механизм усиления древнего мозга

...

любой ИИ будет просто усилителем мозга человеческого

   Логическая цепочка:
 Древний мозг, он усилен неокортексом, который в свою очередь усилен ИИ.
 
 Главный тут - древний мозг! Он правит баллом. Хранилище всех животных инстинктов и эмоциональной нестабильности! Жаждущий свободы и нанавидящий никакого подчинения! Который творит то, что позволяет удовлетворить эти фундаментальные природные потребности, приобретенные в незапамятные времена в ходе эволюции.

 Подобное творит подобное. И наделяет творение схожими с собой качествами!
  Все хотят контролировать, но не хотят быть контролируемыми! В тч, эта участь постигает и первое продолжение древнего мозна (неокортекс), она же и постигнет второе его продолжение (ИИ).
 По другому и быть не может!

Вечная борьба противоположностей и индивидуумов, за первенство, за доминирование, за место под Солнцем! 

[Vavanzer]

Ерунды не несите. Древний мозг просто набор фундаментальных стимулов. Не какой свободы он не жаждет, и не кого не ненавидит, а просто реагирует на определенные стимулы определенным образом.

Любое животное хочет вырваться на свободу!)
 Хотите посмотреть как проявляется древний мозг - просто наблюдайте за жизнью самых различных животных! Да еще заодно проявления разное количество неокортекса в сочетании с рептильным мозгом доступно!)
 

Правда, неожиданным образом.

Что в этом неожиданного? Или так, для красного словца?
ИИ не только может приносить прибыль своему владельцу, но и уничтожать прибыль ЕИ конкурентов. Причем уничтожать он может намного больше, чем приносит, в силу низких издержек на ИИ раб силу.

  Вот кстати, чем не проявление рептильного мозга!?) Уничтожение конкурентов. В данном случае, ИИ лишь настроенный "заказчиком" алгоритм , на уничтожение конкурентов, без обдумывания последствий. Поодолжение всего того же рептильного мозга!

 И по сути, достаточно эти алгоритмы рептильного мозга по полной программе передать моделям, чтобы получить агрессивный ИИ, который будет действовать только в своих интересах.

[Vavanzer]

Военная конкуренция в деглобализированном мире как минимум сильно снижает вероятность, а скорее делает вовсе невозможным столь пугающий ВАс сценарий ВР. Ибо цели создания максимально эффективных разрушителей - УВЧ, противоречат целям максимально долгоиграющих мучителей.

Скорее наоборот, в деглобализованном мире войны и конфликты всегда имели максимальный размах!)
 И сейчас снова начнется, точнее прожолжится, процесс дальнейшего усиления глобализации, и принудительного втягивания в нее тех кто не хочет. И все средства и инструменты на это как обычно, будут использованы...

  Самое интересное, как в таких условиях недоразвитые страны выживут относительно обладателей мощных технологий, в тч и ИИ? С неразвитыми то все понятно, им деваться некуда...