Телескопы покупают здесь


A A A A Автор Тема: Пределы автоматизации и внедрения роботов  (Прочитано 296388 раз)

0 Пользователей и 1 Гость просматривают эту тему.

Оффлайн Vitaliy

  • *****
  • Сообщений: 42 892
  • Благодарностей: 1369
    • Сообщения от Vitaliy
    • Два стрельца
.
Добро пожаловать на сайт Два стрельца http://www.shvedun.ru/
Телескоп Добсона 8" (203мм) по кличке "Карандаш", Advanced C9¼-SGT XLT, Celestron NexStar 5 SE
Видео Мой канал на Ютубе - http://www.youtube.com/user/VitaliyShvedun
Мои 3D модели https://www.thingiverse.com/vitaliysh/designs
Дзен https://dzen.ru/vitaliysh
Rutube https://rutube.ru/channel/308317
Telegram https://t.me/hobby_3Dprinter_radio

Оффлайн Rattus

  • Модератор
  • *****
  • Сообщений: 14 518
  • Благодарностей: 554
  • Души прекрасные порывы!
    • Сообщения от Rattus
Во-1-х основные затраты вычмощностей происходят при обучении нейросетей - для работы уже обученной модели ресурсов ребуется гораздо меньше. Во-2-х в источнике написано, что чуть меньшая нагрузка могла бы существенно поднять долговечность оборудования, но экономические условия отраслевого бума предъявляют свои требования для конкурентоспособности на рынке.
Тому, кто жаждет всех запретных тайн Астрофорума в одном месте поможет число 1919.

Ннапыльн%х тpапинкахъ далиокихъ плонеттъ астануцца нашшы погадкиъ! (ЙожЪ, SKL)
Скоро у людей закончится космос. (П.Лемтыбож - "Теоремы Пафнуция")
Я брала города, я стану - еда! (Серебряная Свадьба - "Пищевая цепочка")
Уранизация естественным образом снижает численность человечества (Вика Воробьёва, ВЖР, 30.10.2012)

Оффлайн Olweg

  • *****
  • Сообщений: 16 034
  • Благодарностей: 423
    • Сообщения от Olweg
Китайские роботцы

Планеты других звёзд. История открытий
http://allplanets.ru/history_Olweg.htm

Оффлайн Olweg

  • *****
  • Сообщений: 16 034
  • Благодарностей: 423
    • Сообщения от Olweg
В юмористическом мультфильме Южный парк обыгрывали эту тему. Там парни общались со своими пождужками через GPT. Получали простынку от подружки, скармливали её нейросети и отсылали ответ не заморачиваясь и экономя своё время.
Ещё на ту же тему :D



(кликните для показа/скрытия)
Планеты других звёзд. История открытий
http://allplanets.ru/history_Olweg.htm

Оффлайн Olweg

  • *****
  • Сообщений: 16 034
  • Благодарностей: 423
    • Сообщения от Olweg
В последнее время поползли слухи про проблемы с масштабируемостью больших генеративных моделей. Похоже, что это действительно так:
 https://www.reuters.com/technology/artificial-intelligence/openai-rivals-seek-new-path-smarter-ai-current-methods-hit-limitations-2024-11-11/

Цитата
Илья Суцкевер, соучредитель лабораторий искусственного интеллекта Safe Superintelligence (SSI) и OpenAI, недавно сообщил агентству Reuters, что результаты масштабирования предварительного обучения — этапа обучения модели искусственного интеллекта, которая использует огромный объем немаркированных данных для понимания языковых моделей и структур — вышли на плато.
...
По словам трех источников, знакомых с конфиденциальной информацией, исследователи из крупных лабораторий ИИ столкнулись с задержками и разочаровывающими результатами в гонке за выпуск большой языковой модели, которая превзойдет модель OpenAI GPT-4, существующую почти два года.
...
Чтобы преодолеть эти проблемы, исследователи изучают «test-time compute», технику, которая улучшает существующие модели ИИ во время так называемой фазы «инференса», когда модель используется. Например, вместо того, чтобы сразу выбирать один ответ, модель может генерировать и оценивать несколько возможностей в режиме реального времени, в конечном итоге выбирая лучшую.
...
«Оказалось, что если заставить бота думать всего 20 секунд во время игры в покер, это даст такой же прирост производительности, как и масштабирование модели в 100 000 раз и ее обучение в 100 000 раз дольше», — сказал Ноам Браун, исследователь из OpenAI, работавший над o1, на конференции TED AI в Сан-Франциско в прошлом месяце.
...
На вопрос о возможном влиянии на спрос на ее продукцию Nvidia указала на недавние презентации компании о важности техники, лежащей в основе модели o1. Ее генеральный директор Дженсен Хуанг говорил о растущем спросе на использование ее чипов для инференса.

«Теперь мы открыли второй закон масштабирования, и это закон масштабирования во время инференса... Все эти факторы привели к тому, что спрос на Blackwell невероятно высок», — сказал Хуан в прошлом месяце на конференции в Индии, имея в виду новейший чип искусственного интеллекта компании.

В общем, похоже, синтетические данные, которыми пытаются сейчас накормить модели при обучении, не очень-то работают (что мало удивительно). А тексты из интернета практически исчерпаны. Возможно, в перспективе помогут видео. А пока будут прокачивать рассуждалки.
Планеты других звёзд. История открытий
http://allplanets.ru/history_Olweg.htm

Оффлайн Metatron

  • ***
  • Сообщений: 122
  • Благодарностей: 5
  • Мне нравится этот форум!
    • Сообщения от Metatron
Только вот Сем Альтман (OpenAI) - почему то в последнее время таки бьет оптимизмом. Типа ждет AGI уже в 2025-м.

Оффлайн Olweg

  • *****
  • Сообщений: 16 034
  • Благодарностей: 423
    • Сообщения от Olweg
Да, показания расходятся ) Одно другому не противоречит, на самом деле. OpenAI сейчас могут больше внимания уделять линейке o1. Скоро вроде должны выпустить полноценную версию. А GPT-5, даже если она и не оправдала надежд, в сочетании с o1 (или с какой-нибудь o2), думаю, сможет показать интересные результаты. Вообще, на мой взгляд, все ингредиенты для AGI уже существуют. Осталось только их прокачать и правильно объединить.
Планеты других звёзд. История открытий
http://allplanets.ru/history_Olweg.htm

Оффлайн Combinator

  • *****
  • Сообщений: 2 499
  • Благодарностей: 82
    • Сообщения от Combinator
Да, показания расходятся ) Одно другому не противоречит, на самом деле. OpenAI сейчас могут больше внимания уделять линейке o1. Скоро вроде должны выпустить полноценную версию. А GPT-5, даже если она и не оправдала надежд, в сочетании с o1 (или с какой-нибудь o2), думаю, сможет показать интересные результаты. Вообще, на мой взгляд, все ингредиенты для AGI уже существуют. Осталось только их прокачать и правильно объединить.

На сколько помню, Альтман обещал очередную модель ближе к Рождеству.

Оффлайн Rattus

  • Модератор
  • *****
  • Сообщений: 14 518
  • Благодарностей: 554
  • Души прекрасные порывы!
    • Сообщения от Rattus
"Капобязательства по достижениям", приуроченным к конкретным датам не имеют значения.
Чтобы консенсусные прогнозы провозвестников переворота Техносингулярности сбылись, бледнотикам достаточно уложиться с настоящим AGI/ASI ~ в четыре следующих года.
Тому, кто жаждет всех запретных тайн Астрофорума в одном месте поможет число 1919.

Ннапыльн%х тpапинкахъ далиокихъ плонеттъ астануцца нашшы погадкиъ! (ЙожЪ, SKL)
Скоро у людей закончится космос. (П.Лемтыбож - "Теоремы Пафнуция")
Я брала города, я стану - еда! (Серебряная Свадьба - "Пищевая цепочка")
Уранизация естественным образом снижает численность человечества (Вика Воробьёва, ВЖР, 30.10.2012)

Оффлайн Olweg

  • *****
  • Сообщений: 16 034
  • Благодарностей: 423
    • Сообщения от Olweg
На сколько помню, Альтман обещал очередную модель ближе к Рождеству.
Уже вроде речь о начале 25-го.

Техносингулярности сбылись, бледнотикам достаточно уложиться с настоящим AGI/ASI ~ в четыре следующих года.
Скорее всё же два-три. Глава Антропик Дарио Амодеи на днях назвал срок пришествия AGI (с многочисленными оговорками, конечно) - 2026-2027, в полном соответствии с пророчеством ::)
Планеты других звёзд. История открытий
http://allplanets.ru/history_Olweg.htm

Оффлайн Rattus

  • Модератор
  • *****
  • Сообщений: 14 518
  • Благодарностей: 554
  • Души прекрасные порывы!
    • Сообщения от Rattus
ОК: AGI - к 2027, ASI и ТС - не позднее зимнего солнцестояния 2029. Да будет такЪ.
СР! 8/64. Byte Power! ;D
Тому, кто жаждет всех запретных тайн Астрофорума в одном месте поможет число 1919.

Ннапыльн%х тpапинкахъ далиокихъ плонеттъ астануцца нашшы погадкиъ! (ЙожЪ, SKL)
Скоро у людей закончится космос. (П.Лемтыбож - "Теоремы Пафнуция")
Я брала города, я стану - еда! (Серебряная Свадьба - "Пищевая цепочка")
Уранизация естественным образом снижает численность человечества (Вика Воробьёва, ВЖР, 30.10.2012)

Оффлайн Combinator

  • *****
  • Сообщений: 2 499
  • Благодарностей: 82
    • Сообщения от Combinator
ОК: AGI - к 2027, ASI и ТС - не позднее зимнего солнцестояния 2029. Да будет такЪ.
СР! 8/64. Byte Power! ;D

Да не, ещё в статье от 1960-го года предсказали - 13 ноября 2026 года (пятница). Это точка сингулярности для роста народонаселения Земли если не учитывать кривую после демографического перехода. Шутка, конечно, но совпадение, возможно, не совсем случайное. :)

Оффлайн BlackMokona

  • *****
  • Сообщений: 19 932
  • Благодарностей: 618
  • Мне нравится этот форум!
    • Сообщения от BlackMokona
Хоть кто-то прочитал цитату? А то изнасилование журналистами перешло к изнасилованию в комментариях.

Цитата
«Оказалось, что если заставить бота думать всего 20 секунд во время игры в покер, это даст такой же прирост производительности, как и масштабирование модели в 100 000 раз и ее обучение в 100
000 раз дольше», — сказал Ноам Браун, исследователь из OpenAI, работавший над o1, на конференции TED AI в Сан-Франциско в прошлом месяце.
Цитата
«Теперь мы открыли второй закон масштабирования, и это закон масштабирования во время инференса... Все эти факторы привели к тому, что спрос на Blackwell невероятно высок», — сказал Хуан в прошлом месяце на конференции в Индии, имея в виду новейший чип искусственного интеллекта компании.
Они там в космос улетели, в 100 тысяч раз на 100 тысяч раз. А новость про проблемы.  :D :D :D

Оффлайн Olweg

  • *****
  • Сообщений: 16 034
  • Благодарностей: 423
    • Сообщения от Olweg
Тут, как говорится, есть хорошая новость и есть плохая, с какой начать. Начали с плохой ) Что касается цитаты Ноама Брауна, то это с его выступления на TED ещё в октябре:
https://venturebeat.com/ai/openai-noam-brown-stuns-ted-ai-conference-20-seconds-of-thinking-worth-100000x-more-data/

Речь идёт о его старой разработке ещё далёкого 2017. Цитирую:
Цитата
Чтобы подчеркнуть этот момент, Браун поделился историей из своей докторской карьеры, когда он работал над Libratus — искусственным интеллектом для игры в покер, который, как известно, победил лучших игроков-людей в 2017 году.

«Оказалось, что если бы бот думал всего 20 секунд в покерной руке, то производительность повысилась бы так же, как если бы он увеличил модель в 100 000 раз и обучал ее в 100 000 раз дольше», — сказал Браун. «Когда я получил этот результат, я буквально подумал, что это ошибка. За первые три года моей докторской диссертации мне удалось увеличить масштаб этих моделей в 100 раз. Я гордился этой работой. Я написал несколько статей о том, как сделать такое масштабирование, но довольно быстро понял, что все это будет сноской по сравнению с этой масштабируемой системой, которая думает дважды».

Сейчас такого ускорения вряд ли можно добиться. Но в любом случае направление явно перспективное, в OpenAI говорят о "низко висящих фруктах". В общем, с одной стороны всё вроде как плохо, с другой всё совсем даже неплохо.
Планеты других звёзд. История открытий
http://allplanets.ru/history_Olweg.htm

Оффлайн Olweg

  • *****
  • Сообщений: 16 034
  • Благодарностей: 423
    • Сообщения от Olweg
Интересно - ИИ, возможно, удалось предсказать итоги американских выборов. Причём ещё в сентябре:


https://arxiv.org/abs/2411.01582
Китайцы из Уханьского университета, используя GPT-4o, довольно точно спрогнозировали результаты выборов. Случайность?
Планеты других звёзд. История открытий
http://allplanets.ru/history_Olweg.htm

Оффлайн BlackMokona

  • *****
  • Сообщений: 19 932
  • Благодарностей: 618
  • Мне нравится этот форум!
    • Сообщения от BlackMokona
Случайность?
Учитывая что первый раз об этом слышу, возможно мошеничество. Поэтому пусть следующие предскажут

Оффлайн Ый

  • *****
  • Сообщений: 5 361
  • Благодарностей: 160
  • Я не могу смотреть видео!
    • Сообщения от Ый
Интересно - ИИ, возможно, удалось предсказать итоги американских выборов.
Есть задача, в которой миллионы вводных (количество избирателей), которые надо охарактеризовать и сделать выводы. А кто вводил в машину эти данные? Каким образом она может решить задачу, не имея вводных данных? Она что, мысли читает всех избирателей? Фигня какая-то.
Собака лает, караван идёт.

Оффлайн Olweg

  • *****
  • Сообщений: 16 034
  • Благодарностей: 423
    • Сообщения от Olweg
Прикрепил перевод абстракта.

Также попросил ChatGPT пересказать суть статьи (раз тема про ИИ, почему бы им не воспользоваться?)

Я: Перескажи суть статьи

ChatGPT: Статья посвящена исследованию использования крупных языковых моделей (LLMs), таких как ChatGPT-4o, для симуляции и прогнозирования общественного мнения в опросах. Исследователи изучали, насколько точно LLMs могут воспроизводить ответы людей на различные социальные и культурные вопросы, а также предсказывать результаты выборов, основываясь на данных о демографии.

Основные задачи исследования:

1. Симуляция: Модель имитировала ответы людей из США и Китая по данным World Values Survey (WVS), генерируя синтетические ответы по темам, связанным с социальными ценностями, доверием и этическими нормами. Результаты показали, что модель ChatGPT-4o способна точно воспроизводить культурные различия и ответы, характерные для разных стран, хотя иногда переоценивает прогрессивные взгляды в США.

2. Прогнозирование: LLM также использовалась для симуляции голосования в США на выборах 2016 и 2020 годов, а также для предсказания результатов выборов 2024 года. Результаты показали, что LLM может довольно точно предсказывать результаты, особенно если учитывать исторические предпочтения по штатам.

Результаты исследования подчеркивают потенциал LLM как инструмента для проведения опросов и прогнозирования социальных тенденций, хотя остаются некоторые ограничения, например, склонность к излишней однородности в ответах.
« Последнее редактирование: 14 Ноя 2024 [18:53:57] от Olweg »
Планеты других звёзд. История открытий
http://allplanets.ru/history_Olweg.htm

Оффлайн Olweg

  • *****
  • Сообщений: 16 034
  • Благодарностей: 423
    • Сообщения от Olweg
Учитывая что первый раз об этом слышу, возможно мошеничество. Поэтому пусть следующие предскажут
В архив выложено 3 ноября, за пару дней до.
Планеты других звёзд. История открытий
http://allplanets.ru/history_Olweg.htm

Оффлайн BlackMokona

  • *****
  • Сообщений: 19 932
  • Благодарностей: 618
  • Мне нравится этот форум!
    • Сообщения от BlackMokona
В архив выложено 3 ноября, за пару дней до.
За пару дней до уже можно было по опросам очень точно предсказывать