Пределы автоматизации и внедрения роботов

[BlackMokona]

С помощью нейросети можно создать любое изображение. От крайне реалистичного фото, до абстракции. Но правда - создаются они на базе созданных людьми изображений в КОНЕЧНОМ ИТОГЕ. То есть, если даже взять созданные нейросетью изображения и обучать на них - первоначальные изображения, котоыре стояли у истоков - были созданы людьми.

Люди тоже создают на базе чужих изображений. Когда создавали без этого, то выглядело это так.

[troglodit888]

Люди тоже создают на базе чужих изображений. Когда создавали без этого, то выглядело это так.

Всё так и происходит, да.

Только без этого вообще никогда не создавалось ничего. Ну и более того - при помощи нейросетей все так же люди создают изображения, даже если там автоматизировано. Это инструмент такой как бы, как и всё остальное.

[Stalk.er]

В общем, ещё один довод в пользу того, что GPT и им подобные скорее движутся по направлению к AGI, чем куда-то глухими окольными тропами.

В общем то так только помимо архитектуры трансформера нужна новая революция- нужна ещё одна надъархитектура. С gpt5 уже проблемки с обучающими данными.
В идеале нужна полностью итерактивная архитектура. Например нечто подобное AlfaGo только для реального мира.
То есть такая система, которая учится на своих собственных ошибках и взаимодействует с внешним миром. То есть как и AlfaGo она должна быть непрерывно самообучаема, а не так что загрузили тонной данных- через полгода она обучилась на этих данных при этом никак не взаимодействуя с реальным миром.

[BlackMokona]

То есть как и AlfaGo она должна быть непрерывно самообучаема

ГПТ уже непрерывно обучаемый. Поэтому у него постоянно и менялись характеристики, характер и прочее в ходе использования. В нейросетках это называются дообучением.

[Stalk.er]

ГПТ уже непрерывно обучаемый. Поэтому у него постоянно и менялись характеристики, характер и прочее в ходе использования. В нейросетках это называются дообучением.

И это дообучение показало что он деградировал. Реально эта нейросетка улучшалась только тогда когда её специально подобранными огромными объемами дообучали либо тюнили.
Да и самая большая проблема - она не итерактивна. Чтобы сделать её хоть немного интерактивной к ней прикручивают различных агентов.
То есть в идеале она должна обучаться на долговременных крупных заданиях. Т.е ей ставят цель - она сама ставит планы, чек-листы. Сама звонит, пишет людям, устраивает совещания, согласования, рисует в Автокаде, готовит конструкторскую документацию, пишет код и т.д , тоесть находится в непрерывном обучающем интерактивном процессе.

[BlackMokona]

И это дообучение показало что он деградировал.

Потому как горы новой цензуры накатывали, всё больше и больше

[BlackMokona]

Т.е ей ставят цель - она сама ставит планы, чек-листы. Сама звонит, пишет людям, устраивает совещания, согласования, рисует в Автокаде, готовит конструкторскую документацию, пишет код и т.д , тоесть находится в непрерывном обучающем интерактивном процессе.

Это она умеет уже, в агентском варианте

[troglodit888]

ГПТ уже непрерывно обучаемый.

Значение слова "непрерывно" заиграло новыми красками. Размеется там ничего непрерывного нет. Время требуется на обучение любой модели, даже небольшой. А оно вообще виртуально не будет никогда реализовано, тут аналоговое устройство нужно, с нейросетью, выполненной на элементной базе.

[BlackMokona]

Значение слова "непрерывно" заиграло новыми красками. Размеется там ничего непрерывного нет. Время требуется на обучение любой модели, даже небольшой.

Таки одну учим, другие работают. Потом заменяем по очереди на серверах, пока учиться ещё одна и тд. Конвеер

[ivanij]

Чтобы ИИ создал реальное произведение искусства, он должен испытывать эмоции и чувства.

На другом форуме есть тема, где участники постят картинки, сгенерированные с помощью нейросетей, я люблю их рассматривать. И у меня они создают ощущение сновидений. Ведь сновидения и есть творчество биологической нейросети, базирующееся на ощущениях от реального мира, но само по себе не повторяющее реальность. Многие такие картинки очень атмосферные и залипательные. Не все из них удачны – ну так и сны бывают нелепыми и бессвязными.
В связке с человеком, который задает промт для нейросети, а потом отбирает самые удачные варианты – это вполне себе творчество. Само по себе – наверно, нет, потому что у генератора сновидений нет своей воли и потребности выразить что-то свое. Прикрутим волю и желание выразить что-то свое – будет полноценным творчеством.

  Конечно. Но фальшь видна невооружённым глазом. И не надо быть слишком "продвинутым" и утончённым знатоком и ценителем искусства, чтобы это понять. И мне тоже иногда некоторые произведения такого рода нравятся. Ну и что, нормальный кич, который тоже имеет право на существование.     

[Olweg]

В общем, ещё один довод в пользу того, что GPT и им подобные скорее движутся по направлению к AGI, чем куда-то глухими окольными тропами.

В общем то так только помимо архитектуры трансформера нужна новая революция- нужна ещё одна надъархитектура.

Вполне возможно. Но не факт, на самом деле. Я думаю, нет экспертов, которые смогли бы ответить на этот вопрос. Во всяком случае, мы теперь знаем, что трансформерная архитектура всеядна и универсальна, ей всё равно, какие данные обрабатывать. И в этом плане сходна с корой мозга, которая удивительно единообразна (за небольшими вариациями) во всех своих зонах. Причём, что интересно, она единообразна и в зонах обработки информации - затылочной, височной, теменной - и в зонах, связанных с моторной корой и принятием решений. Конечно, алгоритмы могут быть совсем другими, но вот такая схожая универсальность обнадёживает (если вы оптимист, конечно).

[troglodit888]

Но фальшь видна невооружённым глазом.

Да ничего там не видно, в том и дело.

Вот к примеру 4 ремейка картины Левитана. Где там фальшь видна?

[BlackMokona]

Но фальшь видна невооружённым глазом.

Все попытки учёных создать детектор который будет отличать сгенерированное от человеческого, потерпели полное фиаско. 

[troglodit888]

отличать сгенерированное от человеческого

Так а как его отличать, если оно человеческое. Человеческое от человеческого действительно не отличить. Инструменты разные для создания, только и всего.

[EmperioAf]

Вот к примеру 4 ремейка картины Левитана. Где там фальшь видна?

На картинке из левого нижнего прямоугольника в правой части картинки чуть выше середины видно дерево, которое как будто стоит из реки. Учитывая, что по фону картинка смахивает на пейзаж из умеренного климата, то такие высокие деревья из реки обычно не растут. Это выглядит неестественно.

[troglodit888]

Это выглядит неестественно.

Неестественно много чего на разных картинах выглядит. И что - художник так не может нарисовать?

[Норихати Такаянаги]

И что - художник так не может нарисовать?

Это вообще железная отмазка - "Я художник, я так вижу". Одинаково работающая и на художников-людей, и на нейросеть рисующую 8-с-половиной пальцев на руке.
Но вообще же, если внимательно анализировать, где и как нейросеть ошибается (когда ошибается), то становится понятно - это такие моменты где нейросеть не знает как правильно. Какой-то нюанс которому недо-обучили.

Эрзац

Забавнее всего, комментарии людей не понимающих с чем имеют дело.
Это принципиально иная система интерпретации информации. Не-биологическая, не на нейронах. Без наших биохимических мотиваторов и исходно без нашего опыта, включая генетический.
Может ли быть на этой базе создан настоящий ИИ? Не знаю. Посмотрим.
Просто не надо забывать что для нейросети - весь наш реальный-физический мир это нечто "потустороннее", изучаемое только через "замочную скважину" загружаемых датасетов, ну и немножко через общение... нейросеть не может "потыкать палочкой", чтобы разобраться "что это такое". Во всяком случае пока не может. От того может не знать/не понимать что-нибудь такое, что годовалый ребенок знает и понимает. У ребенка есть год опыта жизни в реальном-материальном мире, пусть даже не сознательный, тактильный опыт. У нейросети его нет. Оттого могут быть местами нелепые ошибки, которых годовалый ребенок не допустит. Нейросеть не знает. Многое из того что для нас настолько само собой разумеется, что мы об этом даже не говорим.
Когда и если, нейросети будет позволено иметь физическое тело в виде какого-то робота, и органы восприятия реальности в виде каких-то приборов, это по идее еще здорово улучшит ее понимание реального мира.

[troglodit888]

это такие моменты где нейросеть не знает как правильно

Ну так она не мыслит. Там алгоритм, в который впихнули огромное кол-во вариантов составления изображения. В смысле - представления об объекте в полном смысле слова у неё нет.
Вручную такие алгоритмы конечно не составляются, поэтмоу там методика есть с весами и обучением.

Просто не надо забывать что для нейросети - весь наш реальный-физический мир это нечто "потустороннее"

Для нейросети мир вообще никакой. Она пошагово работает, как и любая цифровая система.

Когда и если, нейросети будет позволено иметь физическое тело в виде какого-то робота, и органы восприятия реальности в виде каких-то приборов, это по идее еще здорово улучшит ее понимание реального мира.

А там нечему воспринимать - в ней вообще ничего не меняется при взаимодействии с пользователем. Её обучили и после там никаких изменений не происходит. А нет изменений - нет и восприятия.

[Норихати Такаянаги]

В смысле - представления об объекте в полном смысле слова у неё нет.

Вы в этом уверены?
Я где-то видел обратные утверждения от кого-то из создателей нынешних широкоизвестных нейросетей. Но ссылку сразу не найду... возможно позже.
Но собственно и мой пост выше, он в т.ч. на основании где-то увиденной ранее информации о том, что нейросеть строит свою картину мира, и обсуждаемых объектов. Досадно будет если меня ввели в заблуждение.

Для нейросети мир вообще никакой.

Можно и так сказать. Она в нем не живет. Ни в каком из возможных смыслов этого слова.

А там нечему воспринимать - в ней вообще ничего не меняется при взаимодействии с пользователем.

А взаимодействие не может быть продолжением обучения? Почему?

[troglodit888]

А взаимодействие не может быть продолжением обучения? Почему?

Ну так в сети ничего не меняется. Это как шарик запустить по наклонной плоскости со сложным рельефом и он куда то там покатится. Рельеф не поменяется, новый опыт не будет получен. Но результат за счет сложности рельефа некий будет.