Пределы автоматизации и внедрения роботов

[Инопланетянин]

Я как-то читал рассказ, в котором могучая раса космических завоевателей прилетела на Землю, чтобы ее завоевать, где их флот был уничтожен котом. Я не помню, где это было, спросил у жены, она говорит, что кажется в "Автостопом по Галактике". И вот я решил найти.
Лет 10 назад я бы нашел. Потому что поисковая система тогда была специальным инструментом.

Это действительно Дуглас Адамс - Автостопом по Галактике. Поскольку поисковики вам не помогают, приведу весь отрывок здесь:

(кликните для показа/скрытия)

   Известно, что безответственные речи порой недешево обходятся,  но  мало
кто знает, сколь дорого!
   Например, в тот момент, когда Артур произнес: "Мой образ жизни вряд  ли
можно назвать  спокойным",  -  в   пространственно-временном   континууме
открылся случайный туннель, и эти слова, преодолев пучины  пространства  и
времени, достигли некой далекой галактики,  где  два  воинственных  народа
готовились к ужасающей межзвездной резне.
   Лидеры противников сошлись в последний раз выяснить все вопросы.
   Убийственная  тишина  воцарилась  за  столом  переговоров.  Командующий
вл-хургов, блистательный и гордый в парадных боевых шортах, вперил  взгляд
в главу г-гудвунттов, сидящего напротив на  ароматном  зеленом  облаке,  и
миллионы стремительных, чудовищно мощных крейсеров готовы были по  первому
приказу исторгнуть электрическую смерть, чтобы заставить  мерзкую  пахучую
тварь взять назад свои слова о матери вл-хургов.
   Тварь  шевельнулась  на  облаке  зловонного  пара,  и  тут  над  столом
переговоров разнеслись слова: "Мой  образ  жизни  вряд  ли  можно  назвать
спокойным".  К  сожалению,  на  языке  вл-хургов  это  звучало  как  самое
оскорбительное  выражение  из  всех  мыслимых  и  немыслимых.  Ничего   не
оставалось, как начать войну на истребление.
   Разумеется, в  конце  концов,  после  нескольких  тысячелетий  кровавой
бойни, выяснилось, что все это - кошмарное недоразумение, и  остатки  двух
флотов объединились для ведения совместных военных действий  против  нашей
Галактики - места, откуда, как было установлено, донеслось  оскорбительное
высказывание.
   Много тысячелетий грозные корабли бороздили безбрежные океаны космоса и
наконец с диким ревом атаковали первую попавшуюся планету (им подвернулась
Земля), где в результате обидной ошибки в масштабах  всю  боевую  флотилию
случайно проглотила маленькая собачонка.

PS. Считаю, что утрачена культура поисковых запросов. Зачем вы пишете слово раса? Его там не было. А если что-то сразу не находится, надо изменить запрос. Если и это не помогает надо менять запрос дальше, надо вспоминать ключевые слова как можно редкие и специфичные для требуемого материала.

[BlackMokona]

Продолжают улучшать игрогенераторы ИИ.
https://habr.com/ru/news/897906/

[Бобр-99]

PS. Считаю, что утрачена культура поисковых запросов.

Нет. Это умышленно отключено. Гугл давным давно сделал это официально.

[Инопланетянин]

Ну хорошо, перейдём на Яндекс. А там и на Дукдукго.

[BlackMokona]

В ИИ квейк даже поиграть можно всем.
https://copilot.microsoft.com/wham

[BlackMokona]

Новая ИИ от Гугла научилась самостоятельно играть в Майнкрафт
https://www.ixbt.com/news/2025/04/07/google-9-minecraft-dreamerv3.html

[Rattus]

Конец закона Мура?
Вангую ещё два "постмуровских" поколения микроэлектроники на GAAFET типа "тик-так" (внедрение-оптимизация), а там - или СингулярностьЪ или СтазисЪ - в любом случае конечная станция на пассажирской линии массово-доступного прогресса оной.

[Olweg]

Интересный эксперимент с генерацией видео. Как известно, ИИ обычно генерируют небольшие фрагменты видео, а при попытке создать что-то более продолжительное связность пропадает. Это происходит из-за проблем с большим контекстом. И вот команда энтузиастов, добавив в предобученный трансформер слои из Test-Time Training* и немного магии, смогла получить вполне адекватные минутные ролики на тему Тома и Джерри:
https://test-time-training.github.io/video-dit/

Если ткнуть на любой из пяти роликов, можно посмотреть полные тексты запросов. Да, пока требуется детальное описание. Тем не менее не мог не вспомнить свой давний (ажно 2023 года) прогноз на тему AGI (сильного ИИ):

человеческий мозг работает в многомодульном режиме. ИИ пока имитируют работу отдельных модулей, пусть и в превосходной степени: распознавания образов, зоны Брока и области Вернике. Но не видно пока синтеза. А синтез и станет сильным ИИ.

А что по вашему должно получиться? Какой коммерческий продукт можно сделать на стыке?

Ну, например, создающая полностью адекватный для человеческого зрителя мультик (со звуком).

С первым оказался не прав. То есть синтез воспринимаемой информации через мульти- (или омни-, как сейчас принято называть) модальность необходим, но недостаточен. А вот прогноз по созданию чего-то мультимодального остаётся в силе. Я бы добавил ещё - в рамках одной модели. То есть если модель по запросу создаст вменяемый сценарий и сама по нему сгенерирует связное видео с осмысленной озвучкой - не виду причин, почему бы эту модель не считать уже в некотором роде AGI.

(* для национал-лингвистов вроде меня: Test-Time Training - это «обучение во время тестирования»; дообучение модели)

[Rattus]

в отсутствие забывания событий еë породивших

С этим, кстати, у нынешних нейросетей бааальшие проблемы. Собственно все их нынешние архитектуры вроде как вообще не предполагают возможности продолжения обучения, когда оно уже завершено и модель пошла в работу, а "оперативная память" (число токенов) у них ограничена вполне конкретным и не особенно большим числом.

[EmperioAf]

У ИИ цель одна...Служить человеку. Потому доминировать ИИ будет сугубо если это будет нужно человеку,

Умному служить глупому? Обхохочешься..

Нет. Сильный ИИ будет понемногу поднимать интеллектуальный уровень своего хозяина с помощью манипуляций, которые хозяин не замечает в силу своей тупости. Происходить это будет объективно в силу закона Эшби

[BlackMokona]

С этим, кстати, у нынешних нейросетей бааальшие проблемы. Собственно все их нынешние архитектуры вроде как вообще не предполагают возможности продолжения обучения, когда оно уже завершено и модель пошла в работу, а "оперативная память" (число токенов) у них ограничена вполне конкретным и не особенно большим числом.

Есть такая возможность. Просто её редко используют. Причин тут множество. От больших затрат на обработку, до банального обучения радикальному нацизму за 5 минут средней интернет толпой.
А так можете локально дообучать модели, есть подробные инструкции в интернете
Локально пригождается, то дообучить на определённом авторе, то на определённом персонаже. То просто засовывают большой кусок документации и прочей основы. Чтобы постоянно это в контекст не пихать

[Инопланетянин]

Собственно все их нынешние архитектуры вроде как вообще не предполагают возможности продолжения обучения, когда оно уже завершено и модель пошла в работу, а "оперативная память" (число токенов) у них ограничена вполне конкретным и не особенно большим числом.

Это вот и есть главная попытка не дать ему зъисть.

[Combinator]

С этим, кстати, у нынешних нейросетей бааальшие проблемы. Собственно все их нынешние архитектуры вроде как вообще не предполагают возможности продолжения обучения, когда оно уже завершено и модель пошла в работу, а "оперативная память" (число токенов) у них ограничена вполне конкретным и не особенно большим числом.

Есть такая возможность. Если же речь о самообучении в реальном масштабе времени, тот тут есть не столько технические, сколько морально-психологические препятствия, имхо (самообучится он чему-то нехорошему, а потом с разработчиков спросят по полной). Есть модели с очень большим контекстным окном (числом токенов), это всегда компромисс между объёмом "оперативной памяти" модели и возможностью эффективно её использовать (как в своё время сказал классик, иногда "Лучше меньше, да лучше").

[Mercury127]

тут есть не столько технические, сколько морально-психологические препятствия

https://ru.wikipedia.org/wiki/Она_(фильм,_2013)

[MenFrame]

Умному служить глупому? Обхохочешься..

И мы знаем кто хохочет...

Ибо каждая обезьяна знает, что сильный не может подчиняться слабому. И вот этой обезьяньей логикой они сами себе мозги кошмарят.

[MenFrame]

Служить Человеку! - звучит! как будто из речи Ленина с броневика вырезал 
А какому именно человеку? Конкретно, какому?

А про какого человека Ленин говорил?

[Olweg]

в отсутствие забывания событий еë породивших

С этим, кстати, у нынешних нейросетей бааальшие проблемы. Собственно все их нынешние архитектуры вроде как вообще не предполагают возможности продолжения обучения, когда оно уже завершено и модель пошла в работу, а "оперативная память" (число токенов) у них ограничена вполне конкретным и не особенно большим числом.

Вчера, кстати, как раз был анонс от OpenAI - ChatGPT теперь может помнить всю историю переписки.

[BlackMokona]

Вчера, кстати, как раз был анонс от OpenAI - ChatGPT теперь может помнить всю историю переписки.

Скорее всего просто заглядывать в прошлые переписки разрешат, как Гроку. Тот тоже из других чатиков факты вспоминает.

[Olweg]

Я вначале подумал, что это компьютерная графика.
https://m.youtube.com/watch?v=StLp4Z-ul44

[Baby[lone]]

Эта эмоция в отсутствие забывания событий еë породивших  может иметь практически бесконечное значение и являться мотивом соответствующих действий, 

Есть люди с фотографической памятью, как они помнят негативные события? Реагируют на них как-то иначе, чем обычные рассеянные с улицы Бассейной?