Пределы автоматизации и внедрения роботов

[ivanij]

Но фальшь видна невооружённым глазом.

Все попытки учёных создать детектор который будет отличать сгенерированное от человеческого, потерпели полное фиаско.

 И правильно. Вам "+"-ик. только подтверждает мнение о полной несостоятельности ИИ в отношении отличия подделок от настоящего искусства. Для этого нужен профессиональный эксперт, специалист. Кстати, и виднейшие ассы в этом деле иногда заблуждаются, иначе не смог бы так долго водить за нос некто Мегеерен, выдававший свои холсты за подлинного Вермеера.
 А интересно, как смог бы подделать писать под Вермеера ИИ? Я видел этот процесс собственными глазами. Анимация "Девушки с письмом". Очень здорово получилось. Но это всего на всего декорация, техническое спортсменство, вроде забивания гвоздей микроскопом.
 Как будто варвар получил в своё распоряжение компьютер © 

[BlackMokona]

Вы в этом уверены?
Я где-то видел обратные утверждения от кого-то из создателей нынешних широкоизвестных нейросетей. Но ссылку сразу не найду... возможно позже.

Есть, и очень давно есть. Гугл ещё кучу лет назад это самосозлаваймое представление обнаружил.
Вот он среднекот в представлении уже крайне примитивной да маленькой по нынешним меркам нейросети.

[BlackMokona]

А иначе бы не было деформированных объектов - кисть руки например это некий объект

У людей сплошь и рядом деформированные объекты, у нас тоже нету представлений об объектах? Зайдите в обсуждение любых работ новичков, которые просят мастеров помочь. Там такие шоблы деформаций находят, даже на работах где на обывательский взгляд всё отлично

[BlackMokona]

Также она может не знать, что у человеческих рук обязательно должно быть не более 5 пальцев.

Раскрою вам секрет, такого правила не существует. У людей может быть разное число пальцев, может один быть, а может быть шесть или семь. Запихнут в нейросеть всё что найдут включая людей с большим и меньшим количеством пальцев, с разными искажениями пальцев, кривыми пальцами и тд и тд и тд. У некоторых пальцы реальные просто жуткий кошмар. А потом, почему нейросеть не знает что пальцев должно быть пять?

Полидактилия у человека наиболее часто проявляется, как удвоение мизинца на кисти руки либо как второй мизинец. Таким образом, на руке образуется не пять, а шесть пальцев. Часто случается, что дополнительный палец не до конца развит, в нем присутствуют лишь три фаланги, которые отходят от шестой пястной кости.

[BlackMokona]

У человека кстати вопрос о наличии сознания для гипотетического постороннего наблюдателя - экспериментально был доказан самой природой. Поскольку сама концепция появилась и существует. Хотя всё равно есть нюансы.

Для этого придумали зеркальный тест и по нему проверяют есть ли у живого существа сознание. Так вот, нейросетки зеркальный тест проходят успешно. Если показать ей картинку со своим интерфейсом то они скажет что это она. Только это больше вопрос к этому зеркальному тесту

[BlackMokona]

Для этого нужен профессиональный эксперт, специалист

Профессиональные эксперты не могут отличить и фейлят. В данный момент задача различия считается неразрешимой принципиально. А единственным методом которым сейчас хоть как то держат под контролем ситуацию, как с шахматистами. Пусть нарисует под неусыпным контролем судей сам на камеру. Пока ИИ генераторы видео не так хороши

[Olweg]

У человека кстати вопрос о наличии сознания для гипотетического постороннего наблюдателя - экспериментально был доказан самой природой. Поскольку сама концепция появилась и существует. Хотя всё равно есть нюансы.

Для этого придумали зеркальный тест и по нему проверяют есть ли у живого существа сознание. Так вот, нейросетки зеркальный тест проходят успешно. Если показать ей картинку со своим интерфейсом то они скажет что это она. Только это больше вопрос к этому зеркальному тесту

Я бы сказал, это тест на самосознание (осознание себя как отдельной сущности), чем на сознание как на способность к субъективным переживаниям. Последнее пока непроверяемо. У животных, проходящих зеркальный тест, вероятно, одно сосуществует с другим, но у ИИ - ? Впрочем, об этом можно поговорить в одной из соседних тем.

[ivanij]

Профессиональные эксперты не могут отличить и фейлят.

Значит, он не профессионал, а жалкий дилетант.

В данный момент задача различия считается неразрешимой принципиально. А

Да, неужели? Первый раз слышу такое.
 Где-то несколько выше мы уже обсуждали вопрос о том, как ИИ выступает в качестве эксперта-криминалиста. И к каким катастрофическим последствиям это могло бы привести. Кажется, я сам и приводил ссылку на соотв. материал.

[Olweg]

Интересно почитать мнение профессионального программиста по поводу ChatGPT:
https://ai-news.ru/2024/05/po_povodu_poslednih_novostej_o_chatgpt.html

[Vitaliy]

И еще https://pikabu.ru/story/operatsiya_yi__perevod_s_pomoshchyu_ii_11416691?utm_source=linkshare&utm_medium=sharing

[BlackMokona]

Значит, он не профессионал, а жалкий дилетант.

Кто он? Я говорю про всех.

Да, неужели? Первый раз слышу такое.
 Где-то несколько выше мы уже обсуждали вопрос о том, как ИИ выступает в качестве эксперта-криминалиста. И к каким катастрофическим последствиям это могло бы привести. Кажется, я сам и приводил ссылку на соотв. материал.

Это где ИИ больше давал указаний на чёрных, потому что чёрные совершают больше преступлений, что является расизмом по мнению некоторых?

[Olweg]

И еще https://pikabu.ru/story/operatsiya_yi__perevod_s_pomoshchyu_ii_11416691?utm_source=linkshare&utm_medium=sharing

Давно такого жду.
https://astronomy.ru/forum/index.php/topic,18541.msg6063291.html#msg6063291

Надо проверить обратный, с иностранных на русский!

[troglodit888]

Ага, вы бы ещё для иллюстрации конфетную обёртку "Утро в сосновом лесу" использовали. Кстати, медведей на самом деле писал совсем не Шишкин, а Савицкий.

Ну так авторство то нейронной сети. Я вас не понимаю.

[troglodit888]

Если показать ей картинку со своим интерфейсом то они скажет что это она.

Потмоу что это алгоритм, имитирующий общение с человеком. Он именно так и задумывался. И все действия, котоыре предприняты во время разработки - на это нацелены. Слово обучение тут может сбивать с толку. Это не обучение как если бы человек чему то учился.

[ivanij]

Ага, вы бы ещё для иллюстрации конфетную обёртку "Утро в сосновом лесу" использовали. Кстати, медведей на самом деле писал совсем не Шишкин, а Савицкий.

Ну так авторство то нейронной сети. Я вас не понимаю.

 Да потому, что нейросети "работают" на масскультуру, поэтому и пример с медведями, на мой взгляд, вполне уместный, иллюстрирующий то, как произведение выдающихся живописцев, при массовом тиражировании со временем может перейти в разряд кича, и вовсю использоваться в качестве массовой поделки.   

[troglodit888]

произведение выдающихся живописцев,

Так это всё развлекательный контент так или иначе. Работа имела ценность для автора и автор вправе эту работу оценивать. А для всех остальных - это развлекательный контент, что бы и кто ни говорил.

[BlackMokona]

Потмоу что это алгоритм, имитирующий общение с человеком. Он именно так и задумывался. И все действия, котоыре предприняты во время разработки - на это нацелены. Слово обучение тут может сбивать с толку. Это не обучение как если бы человек чему то учился.

Неа, абсолютно не так. Это Т9, просто продвинутый

[Olweg]

Пишут, что это может быть настоящая мультимодальность, потому что обработкой текста, аудио и видео занимается одна нейросеть, а не разные модули посредством перевода в текст и обратно.

Сами OpenAI это подтверждают:
https://openai.com/index/hello-gpt-4o/

Ниже человек делает обзор GPT-4o и в шоке от того, что она может создавать картинки, хотя даже не является специализированной системой типа Midjourney или Dall-e от той же OpenAI, причём, по его мнению, картинки получаются даже лучше, чем у последней версии Dall-e, более согласованные и непротиворечивые. Например, персонажи не меняют внешний вид от картинки к картинке. Вот что мультимодальность животворящая делает Понятно, что это пока только специально подобранные демки (можно их посмотреть по ссылке в моей цитате выше), но реакция людей разбирающихся интересна…

https://youtu.be/WkB2bvYi73k?si=Tf9wWlpNsFCye3Zc&t=12m22s
(с 12:22, если тайм-код не работает)

[Ulkolainen]

Повторяю (специально для вас) Человек никогда не полетит на другие планеты

К сожалению, Лотман сильно не дожил до нынешнего буйства прото-ИИ, поэтому не имел ни потребности ни возможности рассмотрения нечеловеческих произведений, претендующих на попадание в разряд искусства (истинного ли, альтернативного, дегенеративного... - да любого, для начала без к-л градации), ввиду отсутствия таковых.
Каляки-маляки, рисованные уже тогда слониками и свинками, очевидно вычеркиваем все вместе: Вы, я и он. Они не претендовали.

Из этого вытекает, что культура есть форма общения между людьми и возможна лишь в такой группе, в которой люди общаются.

Собс-но, и Лотман был того же мнения, определяя искусство в область нашей коммуникации - а всё потому что не было нелюдей, с которыми нам удавалось бы коммуницировать через художественный образ. Очень-очень долго не было (и даже в момент того диалога трехлетней давности, на который идет отсылка, практически еще не), а сегодня,  весною  2024-го - "Се, при дверях":
Можем показать нелюдю картину и спросить, что на ней изображено - он опишет.
Заказать ему картину, описав, что на ней должно быть изображено - он нарисует.
Спросить, какая картина ему больше нравиться - он ответит. Неизвестно, да и не важно, как:  ткнёт пальцем в небо или скомпилирует ответ, перешерстив чужие мнения (искусствоведов и жертв ЕГЭ вперемешку). Если это не коммуникация, а её иллюзия, то где грань?
...и вот, кстати, о жертвах на этой грани - их надо вычеркнуть из числа коммуницирующих субъектов за то, что копипастили рефераты, не составив собственного мнения об искусстве позднего рококо? а жертву ВСЕОБУЧа, осуждавшую нечитанного ей Пастернака?

Русские частушки это оно?

Не надо хамить и делать вид, что вы не поняли мною написанное.

ОК, частушки Вам не нравятся (возможно, не как жанр, а как предмет обсуждения). Ну а парадный портрет свой Вы могли бы теоретически заказать? Поясной, в образе, скажем, римского патриция на пиру или комиссара в пыльном шлеме и с алым бантом...
Или такая идея приобщиться к искусству Вам также чужда?

[ivanij]

Ну а парадный портрет свой Вы могли бы теоретически заказать? Поясной, в образе, скажем, римского патриция на пиру или комиссара в пыльном шлеме и с алым бантом...
Или такая идея приобщиться к искусству Вам также чужда?

 Но это всё равно, не культура, это кич. Я не хочу сказать, что это вовсе плохо и разрушительно, но это уровень местечкового обывателя.

К сожалению, Лотман сильно не дожил до нынешнего буйства прото-ИИ, поэтому не имел ни потребности ни возможности рассмотрения нечеловеческих произведений, претендующих на попадание в разряд искусства (истинного ли, альтернативного, дегенеративного... - да любого, для начала без к-л градации), ввиду отсутствия таковых.

 Это верно. Но самое главное, что проблему-то он видел. И сформулировал довольно точно. Думаю, что доживи он до нашего времени (даже до начала 2000-х), вполне возможно, что свои идеи он смог бы и далее развить. Да, жаль не успел.
  Кстати, по некоторым сведениям на лотмановских чтениях эти темы тоже рассматривались