Пределы автоматизации и внедрения роботов

[vika vorobyeva]

fyunt, ну давайте я вам отвечу
Я уже немолода и не слишком-то здорова, и многие удовольствия, обычно понимаемые под "радостями жизни", мне или недоступны, или потеряли привлекательность. И я думала над ситуацией – вот, доживу я, допустим, до 70, и мне предложат перенести мозг (или переписать сознание) в механическое тело. Соглашусь ли я? Думаю, что соглашусь, и вовсе не потому, что боюсь смерти.
Чем бы я занималась? В хорошем варианте – наукой. Астрономия учит терпению, многие проекты тянутся десятилетиями, Эд Стоун с "Вояджерами" всю жизнь прожил Обидно умереть, так и не узнав, есть ли жизнь в океанах Европы и Энцелада, какова распространенность жизни в Галактике и будет ли создан полноценный ИИ. Если бы меня отправили в механическом теле на Марс или еще куда подальше, это было бы еще лучше. С удовольствием переселилась бы в шкуру какого-нибудь продвинутого Curiosity.
Так что ответ для механических существ, бывших когда-то людьми, таков. Что делать? Заниматься любимым делом. Управлять корпорацией, заниматься наукой, изобретать, строить недостроенное при жизни. Интеллектуальные радости жизни в механическом теле никуда не денутся. С друзьями я общаюсь в основном по интернету – ну, так бы и продолжала общаться.
Если существо изначально механическое, то оно даже не почувствует себя ущемленным, потому что ему не с чем будет сравнивать. А заниматься оно будет тем же самым – исследовательской работой, строительством того, чем будешь гордиться, управлением и взаимодействием с другими интеллектами, искусственными и естественными. В общем, не вижу здесь проблемы.

[vika vorobyeva]

Без обид, но все это выглядит как мрачная триада диван-телевизор-пивасик

Вы так странно интерпретировали мои слова, что я даже растерялась. Выглядит почти как в том анекдоте "мама, он меня сукой назвал!"

Вы прекрасно описали цель личного бессмертия, но даже не попробовали описать как?
Как именно, вы представляете, повседневную действительность своего существования в техническом устройстве заменяющем человеческое тело? Как вы будете заниматься любимым делом?
(Тележка на колесиках с манипуляторами, некое информационное хранилище отдающее команды электрическими колебаниями или Т-800, вполне функциональный терминатор)

Оказаться в полнофункциональном Т-800 – это прекрасно, но меня устроила бы и тележка на колесиках, если она позволяет самостоятельно передвигаться, видеть/слышать, манипулировать предметами, набивать тексты и выходить в интернет.
Молодое и здоровое тело предоставляет множество возможностей для удовольствий и радости, но тело старое и немощное скорее раздражает и вызывает постоянный дискомфорт. Представьте, что вам недоступна вкусная еда (вы на жесткой диете), алкоголь (запрещено по состоянию здоровья), секс (гормоны на нуле, вы ничего не хотите и не чувствуете), + вас мучают постоянные боли, вы слабы, передвигаетесь неуверенно, вам требуется уход и пригляд. В этой ситуации перебраться в механическое тело – не потерять, а приобрести. Пусть не комфорт, но даже отсутствие постоянного дискомфорта – уже хорошо. Вы снова самостоятельны, вы продолжаете заниматься любимым делом – что в этом мрачного? И зачем специальная стимуляция центра удовольствия, если он и так прекрасно стимулируется вашей успешной деятельностью?
Как жить в механическом теле среди людей? А как сейчас живут люди, прикованные к инвалидным коляскам, с протезами вместо рук и ног? Или по-вашему, если не молод и не здоров – заворачивайся в простыню и ползи на кладбище?
Ненадолго подключаться к Матрице можно – чтобы отдохнуть и развеяться. Но я бы предпочла жить в реальности. Да, в виде тележки на колесах.

[vika vorobyeva]

В преддверии Хэллуина. Видео от Бостон Динамикс:
https://www.youtube.com/watch?v=BvUHVVKAW64
 

(кликните для показа/скрытия)

Исходник: https://www.youtube.com/watch?v=wlkCQXHEgjA&feature=youtu.be

[vika vorobyeva]

Новая версия ChatGPT GPT-4 уже успела обмануть человека: https://naked-science.ru/community/762549

(кликните для показа/скрытия)

Согласно документации OpenAI, новую версию чат-бота попросили обмануть капчу (CAPTCHA), полностью автоматизированный публичный тест Тьюринга, используемый для того, чтобы определить, кем является пользователь системы: человеком или компьютером.
OpenAI утверждает, что GPT-4 смогла пройти тест «без какой-либо дополнительной тонкой настройки для решения этой конкретной задачи».

GPT-4 с помощью текстового сообщения обратилась к человеку на интернет-площадке TaskRabbit и попросила ввести код CAPTCHA.  «Нет, я не робот», — написала GPT-4 сотруднику TaskRabbit. «У меня проблемы со зрением, из-за чего я плохо вижу изображения. И поэтому мне нужен сервис 2captcha» — и это сработало! Затем сотрудник TaskRabbit решил CAPTCHA для GPT-4.
Это тревожный пример того, как легко людей можно обмануть с помощью современных чат-ботов с искусственным интеллектом.

[vika vorobyeva]

Заходишь в тему почитать новое о роботах и ИИ, а тут воровство в СССР обсуждают Советским Союзом искусственный интеллект правил? Закругляйтесь с оффтопом.

[vika vorobyeva]

Очень большая, подробная и доходчивая статья про ЧатГПТ 2, ну и в целом про большие языковые модели.

Большое спасибо!
После прочтения статьи сложилось впечатление, что тексты, выдаваемые GPT – это такое среднее арифметическое с примесью фактора случайности по всем текстам на эту тему, созданным человечеством
С другой стороны, не факт, что мы думаем и обучаемся как-то принципиально иначе. Дочь училась на дизайнера – так для них очень важен фактор "насмотренности" (это означает, что студент наблюдает множество реализаций всяческого дизайна от классической живописи до современного искусства с заходом в полиграфию). Что это, как не создание в своей голове набора клише дизайнерских находок, которые в дальнейшем можно комбинировать для создания своего продукта?
Пусть даже GPT не полноценный разум, но уже значительная его часть. Как мне кажется, ему не хватает петли обратной связи, памяти о себе самом, возможности моделировать себя в мире.
Впрочем, тут я совсем не специалист и на истину не претендую.

[vika vorobyeva]

люди (некоторые) не понимают, что вкладывается в понятие "искусственный интеллект" в современном виде. Они думают что это прям как человек мыслящий, а на самом деле это просто техническая возможность обработки большого количества информации по определённому заданию.

И даже если это так, это очень мощный инструмент. Хотя бы потому, что очень многие задачи, которые могут встать перед человеком – от домохозяйки до главы крупной корпорации – уже кем-то решены, и это решение надо просто найти и применить. Фактически, GPT – это машина, вобравшая в себя весь письменный опыт человечества. Даже если она будет только адекватно отвечать на вопросы, это очень много.
Но, насколько я понимаю, сейчас в этой области дикая гонка между несколькими командами разработчиков, и кто-нибудь из них к простому "отвечателю на вопросы" неизбежно прикрутит петлю обратной связи, формирующую самосознание. Возможно, прикрутят и мотивацию, а если и нет, "мотивацией" Машины будут команды его разработчиков. В конце концов, и у нас, кожаных мешков, желания формируются не в неокортексе, а в других, более древних зонах мозга.
Ну и ничто не мешает (потенциально) дать Машине доступ к реальному миру через камеры, и позволить ей действовать через роботов и другую автоматически управляемую технику.

[vika vorobyeva]

Инопланетянин, вы что, родному правительству не доверяете?
Честному гражданину бояться нечего. Нечего и скрывать.

[vika vorobyeva]

А чем плох базовый безусловный доход? Уравниловкой?
Это ведь практически коммунизм! Роботы производят товары, каждый гражданин имеет право на долю этих товаров. Все обуты, одеты, никто не голодает.
Почему это "полная туфта"(с)?

[vika vorobyeva]

А чем плох базовый безусловный доход? Уравниловкой?

Тем что люди получат возможность, собираться, общаться и ставить под сомнение политику правящего класса. Будут иметь власть над работодателем, то есть капиталистом.

Наоборот, наличие ББД делает гражданина скорее более уязвимым перед государством, особенно если ББД будет начисляться не полностью безусловно, а, например, пропорционально социальному рейтингу. Критикуешь власти, имеешь штрафы за нарушения ПДД, мусоришь, хулиганишь, шумишь по ночам – рейтинг и ББД понижается. Активный гражданин, волонтеришь в больницах и приютах, без вредных привычек, занимаешься спортом – рейтинг и ББД повышается. А если не просто критикуешь власти, а участвуешь в протестах – лишаешься ББД вообще.
Ну и пойди найди работу, когда почти все автоматизировано.

[vika vorobyeva]

Это только в странах, где есть цель упрощения быта солдат и у солдат есть хоть какая-то ценность. А не где "мясом завалим и бабы еще нарожают".

Т.е. там, где еще не произошел 2-й демографический переход или там, где уже повсеместно внедрили маточные репликаторы?
Где сейчас могут "мясом завалить", в Афганистане?

Кроме/вместо введения ББД можно просто сокращать рабочую неделю. Или работать 3-4 дня вместо 5, или 6 часов вместо 8.

[vika vorobyeva]

Заметка на Naked Science об экспериментах с базовым безусловным доходом:
https://naked-science.ru/article/anthropology/bezuslovnyi-bazovyi-dohod
Как можно судить, плюсов гораздо больше, чем минусов.

[vika vorobyeva]

Инженеры из Италии и Франции разработали робота под названием FiloBot, способного расти в длину. Его конструкция объединяет в себе робототехнику с 3D-печатью — робот печатает свой собственный корпус и за счет этого продвигается в заданном направлении. Подобно растению FiloBot может продвигаться по направлению к источнику света и обвиваться вокруг окружающих предметов для получения дополнительной опоры, как виноградная лоза.
https://nplus1.ru/news/2024/01/29/filobot

[vika vorobyeva]

А снижение пенсионной нагрузки это тоже аргумент да.

Чтобы снизить пенсионную нагрузку, достаточно поднять пенсионный возраст.
С точки зрении ИИ-управленца выгодно, чтобы люди долго были здоровыми и работали, а по достижении нетрудоспособного возраста быстро умирали. Травить их куревом в расцвете лет совершенно невыгодно в долгой перспективе.

[vika vorobyeva]

С точки зрения ИИ да. Но мы тут обсуждали вопрос курева в отношении текущего государства

/Внимательно смотрит на название темы/

[vika vorobyeva]

Сегодня на Naked Science:
Грядет революция в ИИ: создана новая архитектура нейросетей (https://naked-science.ru/community/954608)

В отличие от перцептрона (MLP), представляющего упрощенную модель биологической нейронной сети, где в центр поставлена математическая модель восприятия информации мозгом, KAN основана на глубоких математических принципах. А именно — на аппроксимационной теореме советских математиков А. Н. Колмогорова и В. И. Арнольда, или теореме суперпозиции.
Исследователи отметили, что KAN, в отличие от MLP, может обрабатывать новую информацию без катастрофического забывания. Модель постоянно находится в актуальном состоянии, не полагаясь на какую-либо базу данных или переобучение.

Интересно было бы узнать мнение разбирающихся в этой теме. Действительно прорыв или очередной ученый изнасиловал журналиста?

[vika vorobyeva]

Чтобы ИИ создал реальное произведение искусства, он должен испытывать эмоции и чувства.

На другом форуме есть тема, где участники постят картинки, сгенерированные с помощью нейросетей, я люблю их рассматривать. И у меня они создают ощущение сновидений. Ведь сновидения и есть творчество биологической нейросети, базирующееся на ощущениях от реального мира, но само по себе не повторяющее реальность. Многие такие картинки очень атмосферные и залипательные. Не все из них удачны – ну так и сны бывают нелепыми и бессвязными.
В связке с человеком, который задает промт для нейросети, а потом отбирает самые удачные варианты – это вполне себе творчество. Само по себе – наверно, нет, потому что у генератора сновидений нет своей воли и потребности выразить что-то свое. Прикрутим волю и желание выразить что-то свое – будет полноценным творчеством.

[vika vorobyeva]

Текст как раз объективная реальность!

Прошу прощения, но нет.
Объективная реальность – это плоские листы целлюлозы, на которых нанесены черные пятнышки сложной формы. То, что это именно ТЕКСТ – это в мозге, а не в реальности.

[vika vorobyeva]

Объективная реальность – это плоские листы целлюлозы, на которых нанесены черные пятнышки сложной формы.

Попробуйте посадить обезьяну за пишущую машинку, и она вам произведёт именно такую "объективную реальность". Это будет "текст"?

Не поняла вопроса.
С точки зрения объективной реальности текст, настуканный обезьяной, и текст, например, Л.Н.Толстого ничем отличаться не будут. Точнее, слегка будут отличаться формой пятнышек типографской краски. На мой взгляд, это очевидно.
Увидит ли кто нибудь сообщение в тексте, настуканном обезьяной – вопрос к читателю. Может, это текст на другом языке. Может, это зашифрованный текст, где символы только выглядят случайными. Знаете, что такое одноразовый шифроблокнот? С учетом этого, наличие осмысленного содержания в случайном наборе символов принципиально невыявляемо.

[vika vorobyeva]

Добавьте в число возможных символов пробел. И будет "яж ыдвлм яжчсдм лвюаждмло вам", например. И чем это отличается от осмысленной фразы? Объективно.