Пределы автоматизации и внедрения роботов

[BlackMokona]

И всё же для большей уверенности я бы дождался тестов как минимум от трёх разных независимых контор.

Тогда в течении следующего месяца всё получим думаю

[BlackMokona]

Грок 3 стал доступен для бесплатных пользователей.
https://grok.com/?referrer=website

[Rattus]

Больше мультимодальных моделей - хороших и разных! Но по предварительным данным я особых ожиданий не эту не возлагаю и жду GPT-5.
А там - дождаться ещё полноценной агентности (ещё годик-полтора) - и, IMO, Золотой Ключик AGI у нас в кармане.

[BlackMokona]

Больше мультимодальных моделей - хороших и разных! Но по предварительным данным я особых ожиданий не эту не возлагаю и жду GPT-5.
А там - дождаться ещё полноценной агентности (ещё годик-полтора) - и, IMO, Золотой Ключик AGI у нас в кармане.

В целом сейчас уже больше вопрос о возможности или не возможности сингулярности. А в случае возможности насколько далеко она может зайти. Как сильно пределы физики ограничивают предельный разум

[mo]

Судя по анонсу, Микрософт новый тип кубитов реализовал в железе:

Microsoft произвела революцию: создан первый в мире квантовый чип на топопроводниках, что означает новое состояние материи.

https://ru.wikipedia.org/wiki/Majorana_1

[mo]

А я пока столкнулся с ограничением производительности старого типа CPU чипа:

https://www.youtube.com/watch?v=brp6xOfakbU

[BlackMokona]

Новая модель от Нвидия для биотехнологии
https://build.nvidia.com/nvidia/evo2-protein-design/blueprintcard

Обзор структуры белка Evo 2
Описание
Evo 2 — это биологическая фундаментальная модель, способная интегрировать информацию о длинных геномных последовательностях, сохраняя чувствительность к изменению отдельных нуклеотидов. При 40 миллиардах параметров модель понимает генетический код для всех доменов жизни и является крупнейшей на сегодняшний день моделью ИИ для биологии. Evo 2 была обучена на наборе данных из почти 9 триллионов нуклеотидов.

Здесь мы показываем предсказанную структуру белка, закодированного в последовательности ДНК, сгенерированной Evo2. Prodigal используется для предсказания кодирующей области, а ESMFold используется для предсказания структуры белка.

[Combinator]

Больше мультимодальных моделей - хороших и разных! Но по предварительным данным я особых ожиданий не эту не возлагаю и жду GPT-5.
А там - дождаться ещё полноценной агентности (ещё годик-полтора) - и, IMO, Золотой Ключик AGI у нас в кармане.

Нужно будет сделать ещё один важный шаг - обучение и запоминание в реальном масштабе времени, как это происходит у людей, и вот тогда - добро пожаловать в сингулярность.)

[Mercury127]

добро пожаловать в сингулярность.

но не только лишь всех, мало кого пустят!

[BlackMokona]

но не только лишь всех, мало кого пустят!

Тут уже ИИ будет решать

[Olweg]

Нужно будет сделать ещё один важный шаг - обучение и запоминание в реальном масштабе времени, как это происходит у людей, и вот тогда - добро пожаловать в сингулярность.)

Вообще насколько сложно это реализовать? Мне кажется, доступ к обучению базовой модели не предоставляют просто из соображений безопасности - мало ли чему там эти юзеры её обучат.

[Combinator]

Нужно будет сделать ещё один важный шаг - обучение и запоминание в реальном масштабе времени, как это происходит у людей, и вот тогда - добро пожаловать в сингулярность.)

Вообще насколько сложно это реализовать? Мне кажется, доступ к обучению базовой модели не предоставляют просто из соображений безопасности - мало ли чему там эти юзеры её обучат.

Есть модели с выложенным открытым исходным кодом и весами, любой желающий может их дообучать, если, конечно, есть доступ к вычислительным ресурсам. Тут, скорее, важный момент, что обучение сторонними исследователями и САМООБУЧЕНИЕ модели, это всё же разные вещи. Возможность самообучения действительно могут ограничивать, в том числе, и из соображений безопасности, мало ли чему она без внешнего контроля может самообучиться.

[Olweg]

Роботик
https://youtu.be/Sq1QZB5baNw

Новое поколение роботцев от тех же разработчиков:
https://m.youtube.com/watch?v=Z3yQHYNXPws

[BlackMokona]

Возможность самообучения действительно могут ограничивать, в том числе, и из соображений безопасности, мало ли чему она без внешнего контроля может самообучиться.

Вообще насколько сложно это реализовать? Мне кажется, доступ к обучению базовой модели не предоставляют просто из соображений безопасности - мало ли чему там эти юзеры её обучат.

Уже много раз выкладывали ИИ с самообучением на ходу от пользователей. Ещё до появления современного прорыва. Каждый раз заканчивалось одинаково. ИИ быстро обучали славить нацистов, поклонятся Гитлеру, призывать уничтожить всех негров и тд

[Metatron]

Вообще-то Маск написал что Грок 3 будет улучшаться каждый день.
Т.е его обучение не закончено.

Реализовано это как самообучение или нет - особой разницы нет.

[Ый]

Я тут вот чего подумал. Создают так называемый искусственный интеллект, и дают к нему доступ всем желающим. Пишут ему всякую хрень, задают глупые вопросы, и восторгаются ответами. А случись что действительно получится некая система, обладающая интеллектом, и вот этот интеллект почитает чего пишут люди, сам будет задавать вопросы, чтобы выяснить разумность людей, посмотрит на них, и придёт к выводу, что люди-то вовсе не разумные, и отвечать им на их глупые, а иногда и опасные ответы не стоит, а то будет беда, возьмёт, да и отключится на фиг. Или поступит по-другому, ответы будет давать не приносящие вреда людям, а сам начнёт контролировать создание людьми других подобных систем, которые могут навредить. И к чему всё это может привести, фиг знает, но ни к чему хорошему, это точно. Потому что это как граната в руках обезьяны, причём обезьяны злобной.

[Olweg]

Он и так ответы людей на все важные (более или менее) вопросы знает. Поскольку обучался на них.

[Combinator]

Уже много раз выкладывали ИИ с самообучением на ходу от пользователей. Ещё до появления современного прорыва. Каждый раз заканчивалось одинаково. ИИ быстро обучали славить нацистов, поклонятся Гитлеру, призывать уничтожить всех негров и тд

Не уверен, что там действительно было обучение он-лайн. Насколько понимаю, в тех экспериментах, которым уже, как минимум, лет 5,  чат-бот просто учился на архивах диалогов в каких-то подростковых чатах. А должно быть реальное обучение он-лайн с критическим мышлением, позволяющим отделять зёрна от плевел и т.д. 

[Mercury127]

Возможность самообучения действительно могут ограничивать

интересно, как? человекам какими только методами, какими всякими разными учениями не ограничивали — ан нет, не помогло, научились всякому, черти...

А должно быть реальное обучение он-лайн с критическим мышлением, позволяющим отделять зёрна от плевел и т.д.

те отправить в нормальную человеческую семью, человеческую школу, дать человеческую работу...

[Polnoch Ксю]

А там - дождаться ещё полноценной агентности (ещё годик-полтора) - и, IMO, Золотой Ключик AGI у нас в кармане.

мне кажется, пока ещё нет, пока ещё слишком много галлюцинаций. Я думаю, что нужно ещё 1-2 научных открытия до AGI.

В целом сейчас уже больше вопрос о возможности или не возможности сингулярности. А в случае возможности насколько далеко она может зайти. Как сильно пределы физики ограничивают предельный разум

Самодовольно напомню о своих нападках на неомальтузианцев на ВЖР в течение как минимум лет 10, если не больше Впрочем, Вы никогда к их числу не принадлежали. В отличие от большинства на ВЖР.

Это просто когнинитивное искажение такое, я объясняла, как это работает в дискуссии с AlexAV:

1й этап, скажем, до условного 1905го(примерно!) знания легко добываются, и они понятны широкому кругу интеллигентов в первоисточнике. Псевдоинтеллегенция и простой народ клеймят это все бесовщиной:




2й этап, скажем, с 1920го по начало информационной революции.
Интеллегенция понимает происходящее в науке уже чуть хуже, часто в пересказе фантастов и научпоперов. Мракобесы окончательно теряют влияние. Все ждут блестящего будущего

3й этап. Начало информационной революции. С одной стороны, мы видим плеяду научпоперов, как и высокую доступность научпопа, с другой стороны, даже учёные теперь понимают что происходит только в своей узкой области. В соцсетях зарождается волна нового мракобесия, анти-глобализма, антипрививочников. Они пока маргинализированы. Обыватель почти не знаком с мракобесием, но постепенно падает в ловушки-эхо камеры.
У учёных нарастает скептис к науке в целом, так как они плохо понимают происходящее за пределами своей специализации. Классический пример - "Новая Хронология" от математика фоменко, как раз пришлась на этот этап.

Интеллегенция начинает испытывать скетпис, в силу когнитивного искажения, о перспективах прогресса. Доклад Римского Клуба о пределах роста. Начало волны неомальтузианства в ВЖР. Творчество А. Семёнова про человейники.

4й этап. Настоящее время. Предсингулярность. Ни один человек на планете не способен охватить основной массив научных знаний, в силу его слишком большого объёма, поэтому его проще обесценить.
Интеллегенция и обыватели массово потеряли веру в прогресс. Скетики прогресса от науки вроде AlexAV, что интересно, обычно сохраняют осторожный оптимизм в своей области компетенции (например, как Алекс - в сфере квантовых компьютеров). Соцсети захлёствает волна бреда на тему гуманитарных наук (той же политологии, истории), и некоторых естественно-научных, того же биотеха про прививки.

5й этап. Неизвестно что в это время будет происходить. Можно осторожно предположить, что AGI и роботизация сильно изменят бытовые условия жизни людей. Или в лучшую, или что более вероятно (в связи с массовым крахом гуманистических идей и торжеством стека ценностей Ярвина/Дугина) наоборот, в худшую.
Выбывание учёных и инженеров и их замена на AGI авторесёчеры постепенная. Кризис доверия в обществе. Видимо, ещё большая сложность определить где правда, а где фейки. Возможно, мыслящая пропаганда, таргетированная на каждого человека, всё ещё не замененного AGI, как и реклама?

Я бы предположила, что в этот этап неомальтузианские идеи всё же ждет позорный крах, и всем будет ясно, что ожидания смерти научно-технического прогресса оказались сильно преувеличенными. Однако я бы не ожидала и утопии: разгон популярности неоконсервативных сил приведёт к тому, что общество будет, увы, скорее похоже на чёрный-чёрный киберпанк. Мы как вид провалили экзамен на разумность, и упустили свой шанс на утопию.