Пределы автоматизации и внедрения роботов

[ivanij]

Спросить, какая картина ему больше нравиться - он ответит. Неизвестно, да и не важно, как:  ткнёт пальцем в небо или скомпилирует ответ, перешерстив чужие мнения (искусствоведов и жертв ЕГЭ вперемешку). Если это не коммуникация, а её иллюзия, то где грань?
...и вот, кстати, о жертвах на этой грани - их надо вычеркнуть из числа коммуницирующих субъектов за то, что копипастили рефераты, не составив собственного мнения об искусстве позднего рококо? а жертву ВСЕОБУЧа, осуждавшую нечитанного ей Пастернака?

 И это вы тоже правильно заметили, согласен. Кстати, "жертвами ЕГЭ" бывают не только желторотые мальчики и девочки, среди старшего поколения таковые, увы, тоже встречаются.
 Предыдущим поколениям ещё повезло, поскольку, если их не учили понимать, скажем, Пастернака (я сам в руки не брал, но по причинам более сложным, на которых здесь не стану останавливаться - off-top, и весьма грубый) то во всяком случае прививали определённые качества, которые должны быть свойственны не просто культурному, но интеллигентному человеку. И, надо сказать, не всегда безуспешно.

[Норихати Такаянаги]

Ниже человек делает обзор GPT-4o и в шоке от того, что она может создавать картинки, хотя даже не является специализированной системой типа Midjourney или Dall-e от той же OpenAI, причём, по его мнению, картинки получаются даже лучше

На самом деле это неудивительно, учитывая задействованную производительность.
Поинтересуйтесь, сколько требуют нейросети специализирующиеся на картинках - их даже локально на хорошем ПК запустить можно, как тот же Stable Diffusion. И сравнить с "текстовой" нейросетью, хотя бы тот же GPT-4, сколько терафлопс ему надо... мягко говоря, совершенно недостижимые для современного ПК.
Мультимодальность в этом смысле, это просто напросто, на порядки более мощная нейросеть, нежели Midjourney например. Более мощная по задействованным аппаратным мощностям, оперативной памяти, потребляемой энергии. Естественно что с частной для нее, задачкой нарисовать картинку, она справится не хуже.
И в целом это подтверждает напрашивающийся вывод. Количество (потоков, терафлопс, петабайт, мегаватт) в общем и целом конвертируется в качество нейросетей, во всяком случае пока.

[Olweg]

Дело не просто в мощности. Нужно же ещё породнить разные типы информации в одной нейросети. До сих пор, насколько я понимаю, этого не удавалось - мультимодальность обеспечивалась "переводом" данных в текст, работу с текстом в LLM и переводом обратно в речь или картинки в другие сети. А тут всё в одном. Это реально прорыв. Я лично давно такого ждал, и думаю, что это очень важный этап в развитии ИИ.

[Норихати Такаянаги]

Дело не просто в мощности. Нужно же ещё породнить разные типы информации в одной нейросети.

Да, это понятно. Но я убежден что это должно требовать больше аппаратных мощностей, и во вторых что даже важнее. Сама возможность так обучить нейросеть (породнив разные типы), открывается только после некоторой планки аппаратной мощности сервера на котором идет обучение.
И те же самые аппаратные мощности, после того как рост производительности чипов окончательно заглохнет, станут лимитирующим фактором из-за которого нейросети существенно выше чем на тот момент, уже не поднимутся.

[troglodit888]

И сравнить с "текстовой" нейросетью, хотя бы тот же GPT-4

аналоги локально запускаются и работают, мощности для обучения в основном нужны

Midjourney

а она ничем не выделяется на фоне sd и sdxl- качество соответствующее

очень важный этап в развитии ИИ

Только он от ситуации с мертвым червяком с замороженной нервной системой никак не избавит. И причем чем более продвинутая неронка будет, тем сложнее этого червяка будет клонировать.

[Olweg]

Только он от ситуации с мертвым червяком с замороженной нервной системой никак не избавит. И причем чем более продвинутая неронка будет, тем сложнее этого червяка будет клонировать.

Мёртвый червяк с замороженной нервной системой вряд ли сможет как-то отреагировать ) Скорее можно сравнить с человеком с антероградной амнезией, который не помнит ничего за пределами последних минут 10-15. Скорее всего, продукты и дальше будут так разрабатываться - неизвестно, чему там своего автономного голосового помощника или домашнего робота сможет научить пользователь, лучше ограничить автономную обучаемость.

[troglodit888]

Мёртвый червяк с замороженной нервной системой вряд ли сможет как-то отреагировать

Нет, с червяком именно мертвым и замороженным. Нейронка не меняется. Так они сейчас устроены. памяти там вне кеша нет.

А ему и не надо реагировать - на входы подаётся нечто, затем снимается результат с выходов.

[Норихати Такаянаги]

памяти там вне кеша нет.

К вам это также применимо

[troglodit888]

К вам это также применимо

Да нет. Выводы не очень хорошие получаются из того, если считать нейронку отдельно и кеш отдельно - единым целым и ещё и с чем то вроде самосознания.

В такой ситуации можно вообще абсолютно всё вокруг считать наделенным самосознанием. Любые неодушевленные сущности, камни, атмосферу, вакуум и тд.

Более того - тогда можно с тем же успехом считать, что два или более людей, занятых некой общей работой - так же имеют некое единое самосознание.

Причем. Существует гипотетическая возможность - каждый такт работы нейронной сети - выполнить в виде скажем металлической конструкции без подвижных элементов. Затем следующий такт - в виде другой конструкции. Принципиально - оно будет работать одинаково с нейронкой, которую вы запускаете на компе. Просто займёт очень длительное время, возможно миллиарды лет.

Но вам тогда придётся признать, что эта деятельность, раснесённая на миллиарды лет, имеет некое самосознание, причем единое, как и у человека.

[Olweg]

Для обсуждения сознания есть другие, более лучшие темы, например:
https://astronomy.ru/forum/index.php/topic,86900.0.html

[troglodit888]

Для обсуждения сознания есть соседние, более лучшие темы, например:

Есть, но там же оффтопом будет обсуждение предела автоматизации и внедрения роботов. А я указываю на предел.

[Olweg]

А как сознание связано с автоматизацией и внедрением?

[troglodit888]

А как сознание связано с автоматизацией и внедрением?

Вы самостоятельно могли бы подумать и дать себе ответ. Но так и быть. Хотя принуждаете меня плодить излишние сущности. Предел нейронной сети типа большой языковой модели - это экспертная система с поведением не отличающимся от поведения человека в диалоге. Большего ожидать не стоит.

И не стоит верить, что нечто там наделено самосознанием и мыслит.

[Olweg]

Вы самостоятельно могли бы подумать и дать себе ответ.

Вряд ли - телепатемы я не принимаю, а мой взгляд на проблему, видимо, отличается от вашего.

Предел нейронной сети типа большой языковой модели - это экспертная система с поведением не отличающимся от поведения человека в диалоге. Большего ожидать не стоит.

До недавнего времени я сам был скептичен в отношении LLM (хотя, пожалуй, сравнивать их с экспертными системами - это перебор). Считал их очень крутыми, но всё равно узкоспециализированными, «слабыми» ИИ. В общем-то, так оно и было. Но универсальность трансформерной архитектуры доказывает, что для полноценной многозадачности к ним не нужно ничего прикручивать - в них уже заложен потенциал для дальнейшего развития. Во всяком случае, я считал, что для создания универсального ИИ не хватает именно универсальности, как в человеческом мозгу. Писал об этом, например, тут и тут (и немного дальше по ссылке). Ну, а сейчас эта универсальность как раз и зарождается. Так что мы живём в историческом моменте, в некотором роде. И таких моментов на ближайшую нашу жизнь хватит с избытком.

Ну, а предобучена система или обучаема в реальном времени - вопрос, на мой взгляд, не такой важный. Зависит от задач, под которые она создаётся.

И не стоит верить, что нечто там наделено самосознанием и мыслит.

А верить не нужно - нужно доказывать, искать способы описания этих феноменов. Но, повторюсь, для этой темы это вообще не важно - сознание из машины может стать важным вопросом с этической или юридической точек зрения, но никак не с точки зрения её функциональности.

[-Asket-]

https://t.me/s/dtulinov
Новую попытку ‘обратного инжиниринга мозга’ финансируют AFOSR и IARPA (Военно-воздушное управление научных исследований США и Агентство передовых исследований в сфере разведки США), что любопытно. Вышел препринт, где изложены концепция и подход, авторы из UC Davis, UC Berkeley, MIT, Stanford, Georgia Tech, UT Austin, University of Florida: Towards Reverse-Engineering the Brain: Brain-Derived Neuromorphic Computing Approach with Photonic, Electronic, and Ionic Dynamicity in 3D integrated circuits
Их кредо: с появлением новых поколений фотонных и электронных мемристивных материалов задача выглядит куда более реалистичной. Следует отказаться от КМОП, от архитектуры фон Неймана и перейти на электронно-фотонные 3D схемы и биоправдоподобные алгоритмы, чтобы воспроизвести пластичность, адаптивность и способность обучаться на шумных данных. Повторяя за мозгом, они хотят получить энергоэффективные и не жадные до данных вычисления — то, что мозгу дается легко.
В препринте подробно о том, что и как они будут делать. Ключевое — фраза о разработке “интеллектуальных агентов, которые могут работать в тандеме с людьми над сложными задачами в шумной и непредсказуемой среде”. Вот откуда здесь AFOSR и IARPA. Это часть стратегии, где также и DARPA c программой N3, а восходит она к отцам-основателям Агентства, таким как Дж. Ликлайдер с его “Симбиозом человека и компьютера”.
Очевидно, интерес к нейроморфным вычислениям будет расти, поскольку нейросети прожорливы, а материалы становятся все более биомиметическими.

[MenFrame]

А верить не нужно - нужно доказывать, искать способы описания этих феноменов.

Как вы можете доказать наличие у машины сознания, если вы у человека не можете доказать его наличие?

[troglodit888]

Их кредо: с появлением новых поколений фотонных и электронных мемристивных материалов задача выглядит куда более реалистичной. Следует отказаться от КМОП, от архитектуры фон Неймана и перейти на электронно-фотонные 3D схемы и биоправдоподобные алгоритмы, чтобы воспроизвести пластичность, адаптивность и способность обучаться на шумных данных. Повторяя за мозгом, они хотят получить энергоэффективные и не жадные до данных вычисления — то, что мозгу дается легко.

Ну вот о чем я и писал. А виртуально подобная задача не решаема будет. Только вот так - это позволит избежать мертвого замороженного червяка.

[Olweg]

Как вы можете доказать наличие у машины сознания, если вы у человека не можете доказать его наличие?

Продолжил в соседней теме.

[Vitaliy]

https://www.youtube.com/watch?v=hNck6YeWyZU

[Olweg]

Уже приводил выше ) Правда, без перевода. Интересно именно оригинальные интонации послушать.