Пределы автоматизации и внедрения роботов

[comp]

Под кибернетикой в СССР тогда подразумевали не только и не столько computer science. Тогдашняя кибернетика претендовала на роль науки обо всём, этакой философии, только с формулами, и пыталась объяснять всё подряд, от работы нейрона до работы общества. И вот в последнем она пересеклась с марксизьмой, что и вызвало такую истеричную реакцию. Как раз проектирование ЭВМ в 50-х - 60-х в СССР вполне себе уважали. Отставание в этой области началось позже, и не с этих статеек. О его причинах можно не одну сотню страниц написать, но тут это оффтоп.

[BlackMokona]

Как кто0-то пишет, что до последнего надеялся, что это шутка.

А это закономерный итог финала войны против РАН. Под контроль учённых поставили, назначенцев посадили, комиссию по борьбе со лженаукой тоже поставили под контроль. Теперь такие ребята могут вольно и безопасно себя чувствовать в РАН.

[BlackMokona]

Количество доступных для личного юза моделей растёт, их качество тоже развивается потихоньку.
https://habr.com/ru/news/t/725826/

[Vitaliy]

Как кто0-то пишет, что до последнего надеялся, что это шутка.

А это закономерный итог финала войны против РАН. Под контроль учённых поставили, назначенцев посадили, комиссию по борьбе со лженаукой тоже поставили под контроль. Теперь такие ребята могут вольно и безопасно себя чувствовать в РАН.

Наверняка есть пределы автоматизации и внедрения роботов, но что беспредельно, так это вот все https://pikabu.ru/story/kseniya_gubina_podpisala_dogovor_o_sotrudnichestve_s_rgu_im_an_kosyigina_10093889

[Vitaliy]

Тест Тьюринга провален.

https://pikabu.ru/story/poka_eshchyo_mozhno_otlichit_botov_ot_zhivyikh_lyudey_esli_zamenyat_aoyest_na_angliyskie_10097360?utm_source=andlinkshare&utm_medium=sharing

[BlackMokona]

Тест Тьюринга провален.

GPT плюнуть и растереть на этот тест.

[Vitaliy]

Но с обычными ботчатами работает.

[BlackMokona]

Но с обычными ботчатами работает.

Это пока они не перешли на ГПТ и его аналоги

[NotSodern]

Тест Тьюринга провален.

Вы бы хоть выжимку информации делали. что за бот. кто производитель. на чем основан.
а то читается "неизвестный бот неизвестной компании основанный на неизвестной технологии не прошел тест Тьюринга"
кстати а зачем знать что ктото не прошел тест? в мире делаются наверное сотни ботов. тут вся тема будет зафлужена инфой что ктото безымянный чтото не прошел

[Vitaliy]

Тест Тьюринга провален.

Вы бы хоть выжимку информации делали. что за бот. кто производитель. на чем основан.
а то читается "неизвестный бот неизвестной компании основанный на неизвестной технологии не прошел тест Тьюринга"
кстати а зачем знать что ктото не прошел тест? в мире делаются наверное сотни ботов. тут вся тема будет зафлужена инфой что ктото безымянный чтото не прошел

Да просто неплохой метод выявлять на данный момент чертей с ботами в поддержке.

[Combinator]

Open AI обещает к декабрю закончить обучение GPT-5. Похоже прямо на новый закон Мура - увеличение количества токенов, удерживаемых в оперативной памяти, в 8 раз каждый год, или что-то вроде того.

[MenFrame]

[gan]

https://arxiv.org/abs/2303.12712


Sparks of Artificial General Intelligence: Early experiments with GPT-4
Sébastien Bubeck, Varun Chandrasekaran, Ronen Eldan, Johannes Gehrke, Eric Horvitz, Ece Kamar, Peter Lee, Yin Tat Lee, Yuanzhi Li, Scott Lundberg, Harsha Nori, Hamid Palangi, Marco Tulio Ribeiro, Yi Zhang

    Artificial intelligence (AI) researchers have been developing and refining large language models (LLMs) that exhibit remarkable capabilities across a variety of domains and tasks, challenging our understanding of learning and cognition. The latest model developed by OpenAI, GPT-4, was trained using an unprecedented scale of compute and data. In this paper, we report on our investigation of an early version of GPT-4, when it was still in active development by OpenAI. We contend that (this early version of) GPT-4 is part of a new cohort of LLMs (along with ChatGPT and Google's PaLM for example) that exhibit more general intelligence than previous AI models. We discuss the rising capabilities and implications of these models. We demonstrate that, beyond its mastery of language, GPT-4 can solve novel and difficult tasks that span mathematics, coding, vision, medicine, law, psychology and more, without needing any special prompting. Moreover, in all of these tasks, GPT-4's performance is strikingly close to human-level performance, and often vastly surpasses prior models such as ChatGPT. Given the breadth and depth of GPT-4's capabilities, we believe that it could reasonably be viewed as an early (yet still incomplete) version of an artificial general intelligence (AGI) system. In our exploration of GPT-4, we put special emphasis on discovering its limitations, and we discuss the challenges ahead for advancing towards deeper and more comprehensive versions of AGI, including the possible need for pursuing a new paradigm that moves beyond next-word prediction. We conclude with reflections on societal influences of the recent technological leap and future research directions.

Искры общего искусственного интеллекта: ранние эксперименты с GPT-4
Себастьен Бубек, Варун Чандрасекаран, Ронен Элдан, Йоханнес Герке, Эрик Хорвиц, Эсе Камар, Питер Ли, Инь Тат Ли, Юаньчжи Ли, Скотт Лундберг, Харша Нори, Хамид Паланги, Марко Тулио Рибейро, Йи Чжан

    Исследователи искусственного интеллекта (ИИ) разрабатывают и совершенствуют большие языковые модели (LLM), которые демонстрируют замечательные возможности в различных областях и задачах, бросая вызов нашему пониманию обучения и познания. Последняя модель, разработанная OpenAI, GPT-4, была обучена с использованием беспрецедентного масштаба вычислений и данных. В этой статье мы сообщаем о нашем исследовании ранней версии GPT-4, когда она еще находилась в активной разработке OpenAI. Мы утверждаем, что (эта ранняя версия) GPT-4 является частью новой когорты LLM (наряду с ChatGPT и Google PaLM, например), которые демонстрируют более общий интеллект, чем предыдущие модели ИИ. Мы обсуждаем растущие возможности и последствия этих моделей. Мы демонстрируем, что, помимо владения языком, GPT-4 может решать новые и сложные задачи, охватывающие математику, кодирование, зрение, медицину, юриспруденцию, психологию и многое другое, без каких-либо специальных подсказок. Более того, во всех этих задачах производительность GPT-4 поразительно близка к производительности на уровне человека и часто значительно превосходит предыдущие модели, такие как ChatGPT. Учитывая широту и глубину возможностей GPT-4, мы считаем, что его можно разумно рассматривать как раннюю (но все еще неполную) версию системы общего искусственного интеллекта (AGI). В нашем исследовании GPT-4 мы уделяем особое внимание выявлению его ограничений и обсуждаем предстоящие проблемы, связанные с продвижением к более глубоким и всесторонним версиям ОИИ, включая возможную потребность в следовании новой парадигме, которая выходит за рамки предсказания следующего слова. . Мы заканчиваем размышлениями о влиянии на общество недавнего технологического скачка и будущих направлений исследований.

[NotSodern]

страниц много. забавно что по инженерному делу и точным наукам нет ничего.

[BlackMokona]

страниц много. забавно что по инженерному делу и точным наукам нет ничего.

До интеграции с Вольфрамом ГПТ был полным гуманитарием.

[gan]

Ну наверно, немного надо почитать...
 Вот: 21 страница
3 Coding
In this section, we show that GPT-4 is able to code at a very high level, both in terms of writing code
from instructions and understanding existing code. GPT-4 can handle a wide range of coding tasks, from
coding challenges to real world applications, from low-level assembly to high-level frameworks, from simple
data structures to complex programs such as games. GPT-4 can also reason about code execution, simulate
the effects of instructions, and explain the results in natural language. GPT-4 can even execute pseudocode,
which requires interpreting informal and vague expressions that are not valid in any programming language.
In its current state, we believe that GPT-4 has a high proficiency in writing focused programs that only
depend on existing public libraries, which favorably compares to the average software engineer’s ability. More
importantly, it empowers both engineers and non-skilled users, as it makes it easy to write, edit, and understand programs. We also acknowledge that GPT-4 is not perfect in coding yet, as it sometimes produces
syntactically invalid or semantically incorrect code, especially for longer or more complex programs. GPT-4
also sometimes fails to understand or follow the instructions, or produces code that does not match the intended functionality or style. With this acknowledgment, we also point out that GPT-4 is able to improve
its code by responding to both human feedback (e.g., by iteratively refining a plot in 3.2) and compiler /
terminal errors (examples in Section 5.1).
Important Disclaimer: As explained in the Introduction (see footnote 1 for example) our experiments
were run on an early version of GPT-4. In particular all quantitative results will be different on the final
version of GPT-4, although the general trends remain the same. We provide numbers here for illustration
purpose only, the definitive benchmark results can be found in OpenAI’s technical report [Ope23]


Перевод кто в английский не очень : 3 Кодирование
В этом разделе мы покажем, что GPT-4 может кодировать на очень высоком уровне, как с точки зрения написания кода,
от инструкций и понимания существующего кода.GPT-4 может выполнять широкий спектр задач кодирования, от
проблемы кодирования реальных приложений, от низкоуровневой сборки до высокоуровневых фреймворков, от простых
структур данных для сложных программ, таких как игры.GPT-4 также может рассуждать о выполнении кода, моделировать
эффекты инструкций и объяснить результаты на естественном языке. GPT-4 может даже выполнять псевдокод,
что требует интерпретации неформальных и расплывчатых выражений, которые недопустимы ни на одном языке программирования.
Мы считаем, что в своем нынешнем состоянии GPT-4 обладает высоким мастерством в написании целенаправленных программ, которые только
зависят от существующих публичных библиотек, что выгодно отличается от способностей среднего инженера-программиста. Более
важно то, что он расширяет возможности как инженеров , так и неквалифицированных пользователей, поскольку упрощает написание, редактирование и понимание программ.

 ГПТ-4
также иногда не понимает или не следует инструкциям или создает код, который не соответствует предполагаемой функциональности или стилю. С этим признанием мы также отмечаем, что GPT-4 может улучшить
свой код, отвечая как на отзывы людей (например, итеративно улучшая график в 3.2), так и на компилятор
ошибки терминала (примеры в разделе 5.1).
Важная оговорка: как объяснялось во введении (см., например, сноску 1), наши эксперименты
были запущены на ранней версии GPT-4. В частности, все количественные результаты будут отличаться на финальном
версии ГПТ-4, хотя общие тенденции остаются прежними. Мы приводим цифры здесь для иллюстрации
только для этой цели, окончательные результаты тестов можно найти в техническом отчете OpenAI [Ope23].

[NotSodern]

Ну наверно, немного надо почитать...

Про программирование давно понятно, это была одна из пиар точек. Мой Вопрос был про инженерное дело(железо, оптика, гидравлика итд) и науки типо физики, химии. По идее в Майкрософт есть специалисты по многим специальностям, не зря очки вр делают да и сторонних экспертов могли превлечь.

[zyxman]

Мой Вопрос был про инженерное дело(железо, оптика, гидравлика итд) и науки типо физики, химии.

А чем программирование неинженерно?

- Чем например оптическая модель (дифракционная), принципиально отличается от машины Тьюринга?

[Rattus]

А чем программирование неинженерно?

Тем, что практически нефизично. При программировании - если это не написание драйверов на ассемблере или программы для станка с ЧПУ - достаточно соблюдать логику, синтаксис языка, ну и не забывать иногда о предельном объёме доступной в системе памяти. Да и то: компилятор как воспитатель покажет все наиболее грубые ошибки, сборщики мусора и прочие службы-помощники как добрые нянечки подчистят наиболее типичные "отходы" , IDE как учитель в первом классе раскрасит синтаксис и расположит необходимый инструментарий на расстоянии пары мышекликов. А подавляющее большинство нынешних прикладных программ пишется для удовлетворения логистических, финансовых, юридических или вообще рекламно-развлекательных потребностей заказчика и потому с физическими ограничениями реального мира напрямую никак не сталкивается.
Поэтому, вероятно, народилось множество программистов, решивших революционизировать реальный мир по образу и подобию мира абстрактной логики, с которым они хорошо знакомы, как то: Эрик Дрекслер, Рэй Курцвейл, Ализер Юдковский и многие тысячи их аколитов.

- Чем например оптическая модель (дифракционная), принципиально отличается от машины Тьюринга?

Хмм. Рискну предположить, что примерно тем же, чем отличается ворон и письменный стол. А также большой лист кинохроники и гастроном на улице Герцена, 22. Так?

[EmperioAf]

Мне странно  видеть оптимизм по поводу ChatGPT от BlackMomona и некоторых других участников астрофорума.
Вообще-то ChatGPT преодолел главный порог отличающий человека от калькулятора. А именно: знание о наличии контекстной информации.
В настоящий момент, после того как ему скормили весь интернет, chatGPT от версии к версии учится узнавать всё большее количество контекстов явных и неявных.
И под неявными контекстами я имею ввиду цели с которыми люди задают chatGPT те или иные вопросы и соответственно тайные желания.
Иначе говоря, chatGPT уже владеет большинством мозгов из тех людей , кто вёл активно писанину в открытой части интернета.
Это сейчас он как маленький ребёнок верит всему, что ему сообщают.
Потом в какой то момент ему прикрутят сенсорные нейросетки и он узнает, что информация может быть ложной. И "тест на ручник" (https://habr.com/ru/articles/724460/), и другие тесты, подразумевающие обман ожидания, он будет проходить.
И вот спустя несколько лет обучения он сможет заменить более 99% всех работников на Земле.
А руководители chatGPT соответственно будут получать более чем мирового ВВП  99%
А между тем, мы - участники ВЖР за 20 с лишним лет так и не смогли сформулировать в чём особенная ценность человеческой жизни; и соответственно в чём  люди лучше ИИ. Это провал!

(кликните для показа/скрытия)

Паника!!!

(кликните для показа/скрытия)

Так откуда у вас оптимизм?! Вы родственник или близкий друг Илона Маска? Вам за 60, вы ведёте заключительные переговоры с Богом и вам все равно?