Пределы автоматизации и внедрения роботов

[vika vorobyeva]

Добавьте в число возможных символов пробел. И будет "яж ыдвлм яжчсдм лвюаждмло вам", например. И чем это отличается от осмысленной фразы? Объективно.

[vika vorobyeva]

Отсутствием информации?

Это для вас там нет информации. А для меня, получателя информации, там зашифровано сообщение "вечером отдай папку с документами Васе". Или это координаты передатчика на языке глизейских хомяков.
Нет никакого способа отличить хаотический набор символов без информации от хаотического (казалось бы) набора символов с зашифрованной информацией.

Рассказ Борхеса "Вавилонская библиотека" прочитайте, там много о случайных символах и их смысле.

[vika vorobyeva]

Нет никакого способа отличить хаотический набор символов без информации от хаотического (казалось бы) набора символов с зашифрованной информацией.

А умение читать и расшифровывать текст (которое есть, как минимум, у автора текста) - это что,  не способ?

У вас нет ни автора, ни получателя. У вас есть только набор символов. И нет способа узнать, есть ли в этом наборе символов информация или ее нет. Текст от случайного набора символов отличается в точке отправления или в точке приема (у Автора или Получателя), но не посередине. Посередине и то, и другое является последовательностью символов и ничем больше.

Так вы меня отсылаете к осмысленному авторскому тексту, а не к абракадабре?

А вы все-таки прочитайте, он короткий. Там как раз про абракадабру и ее смыслы.

[vika vorobyeva]

В Китае создали первый ИИ, который может руководить всеми вооруженными силами страны:
https://naked-science.ru/community/966182

Искусственный интеллект (ИИ), как пишет издание SCMP, уже был испытан в ходе крупномасштабных компьютерных военных игр с участием всех родов войск НОАК. ИИ были предоставлены беспрецедентные полномочия верховного командования. По словам исследователей, виртуальный командир быстро учится и развивается во время игр.
ИИ позволяет НОАК проводить большое количество военных симуляций «без участия человека». Он выявляет новые угрозы, разрабатывает планы и принимает оптимальные решения, исходя из общей ситуации, когда сражения заходят в тупик или поставленные результаты не достигаются. Он также учится и адаптируется на основе побед и поражений.

До создания Скайнета осталось совсем немного времени...

[vika vorobyeva]

Если честно, меня больше беспокоит высшее командование. Пехоту можно оставить и мясную, она дешевле.

[vika vorobyeva]

По моему обывательскому мнению, инженер и даже квалифицированный рабочий с завода Форда 30-х годов, попав на современную сборочную линию и осмотревшись, идентифицировал бы ее как очень продвинутую сборочную линию Если бы ему объяснили, что он находится в будущем через сто лет после своего времени, он бы увиденному и не поразился. Конечно, мы ожидаем, что в будущем технологии станут более продвинутыми. Он (инженер) сам мог прикинуть, как изменились технологии с 1830-х годов, и мысленно продлить эту линию дальше. С чего тут молиться, падать ниц и т.п., совершенно непонятно – он же не дикарь из джунглей, не знающий, что такое техника.

[vika vorobyeva]

Современные жертвы ЕГЭ, может, и не отличат, а люди воспитанные на настоящем искусстве сделают это всегда и с "полоборота".

А анализ искусства вот так запросто, в Форумах не делается. Это серьёзный и длительный процесс. Можно сказать научно-исследовательская работа, требующая значительных усилий. 

Нет ли здесь противоречия?

[vika vorobyeva]

ivanij, вашу точку зрения поняла.
Я ее не разделяю.
На мой вкус, анекдот снобский и ничего не объясняющий. Примерно из той же серии: "Можно вывезти девушку из деревни, но нельзя вывести деревню из девушки"(с). Какие-то культурные коды должны быть усвоены в раннем детстве, пусть так. Но кто сказал, что одни коды априори чем-то лучше других? И в том, и в другом случае речь идет о принадлежности к определенной социальной группе, не меньше, но и не больше.
На мой взгляд, искусство не должно воспитывать. Воспитывать должны мама с папой. Потом человек воспитывает себя сам. Он может воспитывать себя с помощью искусства, может с помощью других вещей (например, спорта или турпоходов), а может не напрягаясь рубить монстров под пивасик.

На мой взгляд, искусство – это сообщение. Сообщение автора потребителю искусства (читателю, зрителю). Сообщение может быть понято, может быть не понято, оно может быть понято, но не нужно. А есть еще прикладное искусство. Хочу я допустим повесить натюрморт на кухню, потому что дырка на обоях или стена слишком пустая, хочется туда цветное пятно. Какая мне разница, нарисует мне этот натюрморт человек или ИИ? Или, допустим, моя коллега тоннами читает любовные романы. Говорит, правды жизни ей и в жизни хватает, а хочется душою отдохнуть. Если такой роман напишет ИИ, кто это заметит и чем это будет хуже, чем аналогичный роман, по шаблону написанный литературным негром?
Когда я смотрю на стилизованный пейзаж, нарисованный ИИ, я знаю, что это среднее арифметическое нескольких сотен аналогичных пейзажей, нарисованных людьми. И чувства он во мне рождает точно такие же. Осень в старинном городе, мокрая дорога, фонари и люди под зонтами – и я чувствую эту осень и эту печаль. А покажи мне стилизованный рисунок Фудзи и ветку сливы – так я не пойму 90% сообщения, потому что почти не знакома с японской культурой, вне зависимости от того, нарисована Фудзи и ветка человеком или ИИ.

[vika vorobyeva]

ИИ раскладывает данные намного глубже.

Я не спец по ИИ. Я читала, что нейросеть представляет арт-объект (кусок текста, рисунок, музыкальный отрывок) как вектор в тысяче- или миллионо-мерном пространстве. Сначала в это пространство загружается множество векторов, созданных людьми (и это называется обучением), а потом нейросеть рисует свой вектор примерно в ту же область. Где-то на этом этапе появляется генератор случайных чисел, чтобы обеспечить некоторый разброс и вариабельность генерируемых векторов. Потом происходит обратное преобразование вектора в арт-объект.
Я знаю, что это объяснение – совсем на пальцах и наверняка слишком много упрощает, но мне для иллюзии понимания хватило

[vika vorobyeva]

Может, плюсы и минусы Базового безусловного дохода обсудим в отдельной теме? ББД не очень про роботов, скорее, про возможные варианты устройства общества.
 
Но в целом, наблюдая за окружающими (в том числе близкими родственниками), понимаешь, что наличие ББД не мешает людям продолжать активно работать, причем не только за деньги. Вариант ББД у нас уже есть – это пенсия. И почти все мне известные пенсионеры при наличии хотя бы минимального здоровья впахивают на дачах. Каждую осень у нас борьба с урожаем – что-то замораживаем, что-то солим, что-то в банки закатываем И помимо дачи – кто вяжет, кто кукол делает, кто старую мебель реставрирует. И я сама, дай мне ББД – все равно буду заниматься сайтом и обучать детишек, даже забесплатно.
Кроме того. Прогрессирующее старение населения потребует больше сиделок, компаньонок, социальных работников, сотрудников домов престарелых. Люди будут не производить материальные блага, а обмениваться услугами. Людям все равно нужны люди. Так что желающие работать – работать будут, так или иначе.

[vika vorobyeva]

Уже началось?

Насколько я поняла, речь идет о занятости в IT сфере в Российской Федерации. В которой проблемы с экономикой вызваны не взрывным развитием ИИ, а, скажем так, внешними причинами. Было бы любопытно узнать, как обстоят дела с IT персоналом в других странах с более ровной обстановкой.

[vika vorobyeva]

Про кроссовки и ответ Grok 4 Fast.
Большинство посмеется над глупой моделью, не вникшей в обозначенную проблему (разве не очевидно, что кроссовки надо просто поменять местами?) Но на самом деле она просто решила задачу в общем виде.
У моей мамы – ревматоидный артрит 4 стадии, она шьет обувь на заказ и делает ортопедические стельки по слепку ног. В обычной обуви она ходить не может: ступни искажены, причем каждая по-своему. Поэтому если бы она сделала слепки стелек, а ей в результате какого-либо сбоя выдали эти стельки зеркально отраженными (правую как для левой ноги, а левую как для правой) – она не смогла бы в них ходить, и обувь пришлось бы возвращать.
И раз клиент видит в этом проблему (что у кроссовок перепутаны левый и правый) , то совет дан правильный.

[vika vorobyeva]

Да, перспективы захватывающие, но и риски велики.
Как защищаться от перехвата управления своего робота простому обывателю? Мобильный телефон меня не убьет, максимум по нему мошенники позвонят. А робот-сиделка – запросто. Обокрасть может и горничная-человек, но ей можно хотя бы пригрозить тюрьмой. А роботу чем пригрозишь?
Тут я даже не роботов как таковых боюсь, а перехвата управления злонамеренными людьми.

Вот тут и встанет во весь рост сравнительная стоимость этих подписок с наймом живых работников.

Видимо, будет зависеть о страны, доступности рабочей силы, стоимости самих роботов и пр.
Одну нишу я прямо сейчас могу предложить – уход за дементными стариками, которых в будущем будет все больше. Работа тяжелая, желающих мало. Если удастся приспособить под это дело оптимусов – это будет замечательно.

[vika vorobyeva]

Элаймент - это не согласование мировоззрений, а понимание различия мировоззрений без разрушения ни одного из них. Человек говорит: у разных людей разные ценности. Инженер говорит: как их привести к общему знаменателю? А ИИ, когда будет достаточно развит, скажет: не надо сводить ничего.

Это все конечно замечательно. Если все носители разных ценностей живут по принципу "живи сам и давай жить другим". Но что, если нет? Если ценности группы А оскорбляет само существование группы Б? Если одна из их базовых ценностей – беспощадная борьба на уничтожение группы Б? Или, как минимум, искоренение в группе Б определенных практик, членами группы Б считающихся традиционными и правильными?
Беда в том, что иные системы ценностей между собой не примирить. И если ИИ примет их как равноправные, недовольны будут и А, и Б.

Upd Пока писала, Rattus опередил.

[vika vorobyeva]

Когда группа A хочет уничтожить группу B это не этика. И не ценностная система. Это поведенческая стратегия максимизации доминирования.

Вам уже приводили в пример радикальный ислам. Это вполне себе логичная ценностная система.
Все должны жить по шариату. Кто не согласен жить по шариату – должны быть уничтожены.

Помнится, вступая в комсомол, я учила моральный кодекс строителя коммунизма. Там тоже была непримиримая и беспощадная борьба (другое дело, что практика на тот момент уже заметно отличалась от теории). И если у ИИ будет мировоззрение, выровненное с МКСК – мало тоже не покажется.

[vika vorobyeva]

Но культовые практики, противоречащие правам человека, это не этика, это вредоносные нормы общества, которые подлежат реформе, как когда-то были реформированы везде.

Что и требовалось доказать.
Есть правильная этика (моя) и нехорошие культовые практики, которые неплохо бы уничтожить.
А носители "нехороших культовых практик" хотят уничтожить вас, потому что вы пытаетесь их ввергнуть в пучину греха и беззакония и лишить вечного блаженства на том свете.

Не все можно привести к одному знаменателю.

[vika vorobyeva]

Китай создал один из крупнейших центров массового обучения человекоподобных роботов на реальных данных: https://naked-science.ru/community/1144697

В Китае начала работу необычная школа, предназначенная для подготовки человекоподобных роботов к самому широкому спектру задач — от работы на производственных линиях до помощи в быту и общественных пространствах. Комплекс занимает два этажа и воспроизводит как реальные производственные линии, так и жилые помещения.
...
По словам руководителя центра Чжу Кая, каждого робота сопровождают два человека-инструктора.
«Подобно тому как детям требуется многократная практика, чтобы научиться ходить, роботам необходимо длительное обучение в самых разных сценариях, чтобы сформировать функциональный интеллект», — отметил он.
В ходе обучения один из инструкторов демонстрирует гуманоиду выполнение задания, а второй контролирует и фиксирует данные.