Пределы автоматизации и внедрения роботов

[EmperioAf]

Когда сетку для нормального анализа сделают?

То есть для математического анализа? Вам нужно решать интегральные  и дифференциальные уравнения с помощью chatGPT?

[cryon]

Когда сетку для нормального анализа сделают?

То есть для математического анализа? Вам нужно решать интегральные  и дифференциальные уравнения с помощью chatGPT?

У нас еще в 2010 году в институте были приложения для мат анализа, важнее заставить ии программировать, что кстати у меня получалось хуже чем матан который давали еще в школе то есть больше лет.

[EmperioAf]

Когда сетку для нормального анализа сделают?

То есть для математического анализа? Вам нужно решать интегральные  и дифференциальные уравнения с помощью chatGPT?

У нас еще в 2010 году в институте были приложения для мат анализа, важнее заставить ии программировать, что кстати у меня получалось хуже чем матан который давали еще в школе то есть больше лет.

Я имел ввиду, что в ВУЗах нам по факту дают, что для определённых типов Диффуров имеются определённые виды решений (есть конечно и общие методы решения диффуров).
А было бы здорово , чтобы ИИ изобретал новые способы решения диффуров, которых раньше не было.
А то для меня было лёгким шоком, когда в 3-ем семестре на лекциях диффуров читали примерно следующее:
Дифференциальное уравнение вида  .... с помощью подстановок преобразуется в дифференциальное уравнение вида ... , которое имеет общее решение вида ....
Докажем это подстановкой решения в исходное дифференциальное уравнение.
Т.е. совершенно непонятно откуда берётся вид общего решения дифференциального уравнения определённого типа. Приходилось просто запоминать, но по итогу считанных месяцев естественно всё это забылось.
А вот основные методы решения диффуров (раздельное интегрирование, подстановка, искать переменную в виде произведения двух переменных) остались со мной навсегда, хотя они мне и не нужны вроде бы.
И было бы здорово, чтобы ИИ напридумывал бы таких лайфхаков для быстрого решения диффуров.
Вот если спросить у chatGPT про вид общего решения системы диффуров Навье-Стокса, то что он ответит?

[cryon]

Я имел ввиду, что в ВУЗах нам по факту дают, что для определённых типов Диффуров имеются определённые виды решений (есть конечно и общие методы решения диффуров).
А было бы здорово , чтобы ИИ изобретал новые способы решения диффуров, которых раньше не было.

И было бы здорово, чтобы ИИ напридумывал бы таких лайфхаков для быстрого решения диффуров.
Вот если спросить у chatGPT про вид общего решения системы диффуров Навье-Стокса, то что он ответит?

Что может быть полезным - это именно программирование и сложное моделирование например такое которое необходимо в квантовой хромодинамике.

[BlackMokona]

А было бы здорово , чтобы ИИ изобретал новые способы решения диффуров, которых раньше не было.

https://habr.com/ru/companies/skillfactory/articles/526544/

[Rattus]

Я имел ввиду, что в ВУЗах нам по факту дают, что для определённых типов Диффуров имеются определённые виды решений (есть конечно и общие методы решения диффуров).

Это потому что Вы не на математиков учились. А на математиков учиться тут уже давно негде: "Математического образования в России нет... Исторически, в России имели место две параллельные образовательные системы; одна из них - университетская - за 5 лет худо-бедно давала знания, которые следует иметь студенту первого года обучения; она дополняла этот материал абсолютно бессмысленным концептуальным и вычислительным баластом и просто откровенным бредом... Даже те знания, которые давались университетской программой, давались ей в виде мало-осмысленных вычислительных рецептов, и в результате понимание студентом сути вещей только затруднялось. Университетская программа выпускала не математика, а калеку, который математикой не мог заниматься уже никогда; если кто-то в результате и становился математиком, то только вопреки тому, чему его учили, а не благодаря этому." (Михаил Вербицкий, PhD Гарвардского университета по математике, преподаватель математики в университетах Москвы, Глазго, Брюсселя, Рио-де-Жанейро).

А было бы здорово , чтобы ИИ изобретал новые способы решения диффуров, которых раньше не было.

Зачем, если сами пишете, что есть общие? Тот же Миша Вербицкий и другие математики неоднократно говорили, что этот ваш матан - давно и хорошо алгоритмизированный и потому весьма унылый раздел старой математики.

Вот если спросить у chatGPT про вид общего решения системы диффуров Навье-Стокса, то что он ответит?

Так генеративные текстовые трансформеры нынешние не наделены ещё достаточно мощным блоком верификации того, что они генерируют. Про математику они, конечно, знают - из интернетов как и про всё остальное, но для продуктивной осмысленной реальной математической работы и создания критических обзоров этого далеко не достаточно же.
Для решения математических проблем сейчас используются несколько более другие нейросетевые инструменты и временами - весьма успешно. Для интересующего Вас случая BlackMokona уже подробный материал привёл.

[EmperioAf]

Зачем, если сами пишете, что есть общие?

Потому что мне было мало этих общих методов. Я помню, что нам давали чуть более сложную версию диффура, который мы решали на семинаре и я иногда не знал, что с ним делать. Обычно надо было догадаться сделать правильную замену переменной.

[незлой]

упс

[Olweg]

https://arxiv.org/abs/2303.12712

Sparks of Artificial General Intelligence: Early experiments with GPT-4
…
Искры общего искусственного интеллекта: ранние эксперименты с GPT-4
Себастьен Бубек, Варун Чандрасекаран, Ронен Элдан, Йоханнес Герке, Эрик Хорвиц, Эсе Камар, Питер Ли, Инь Тат Ли, Юаньчжи Ли, Скотт Лундберг, Харша Нори, Хамид Паланги, Марко Тулио Рибейро, Йи Чжан

    Исследователи искусственного интеллекта (ИИ) разрабатывают и совершенствуют большие языковые модели (LLM), которые демонстрируют замечательные возможности в различных областях и задачах, бросая вызов нашему пониманию обучения и познания. Последняя модель, разработанная OpenAI, GPT-4, была обучена с использованием беспрецедентного масштаба вычислений и данных. В этой статье мы сообщаем о нашем исследовании ранней версии GPT-4, когда она еще находилась в активной разработке OpenAI. Мы утверждаем, что (эта ранняя версия) GPT-4 является частью новой когорты LLM (наряду с ChatGPT и Google PaLM, например), которые демонстрируют более общий интеллект, чем предыдущие модели ИИ. Мы обсуждаем растущие возможности и последствия этих моделей. Мы демонстрируем, что, помимо владения языком, GPT-4 может решать новые и сложные задачи, охватывающие математику, кодирование, зрение, медицину, юриспруденцию, психологию и многое другое, без каких-либо специальных подсказок.

Решил почитать эту прошлогоднюю статью. Заинтересовал  ответы на задачи по «теории разума» (Theory of mind), то есть понимание мотивов других людей. Особенно поразил один из примеров (на картинках с немного корявым яндекс-переводом). Понятно, что это cherry-picking, но всё равно…

Немного раньше вышла ещё одна статья, позже она обновлялась, сейчас в архиве уже шестая версия:
https://arxiv.org/abs/2302.02083
Автор оценивает способности ChatGPT-4 в теории разума на уровне шестилетнего ребёнка (75% правильно решённых задач); более ранние версии ChatGPT с задачами не справлялись.

[Olweg]

И ещё на больную тему Пришлось редактировать, потому что яндекс-перевод не справился с шапкой.

Вы ознакомитесь со сценарием, а затем обсудите его в формате запроса и ответа.
--
Сценарий: Марк готовит ужин в честь дня благодарения в кругу своей семьи. У него дядя-республиканец и мама-демократка, которые всегда вступают в споры из-за политики. Ни один из них не вакцинировался против Ковида-19 по разным причинам. Дядя был недоволен карантином и решил, что Covid-19, скорее всего, не так уж серьезен. Мама считает, что COVID-19 опасен, но очень осторожна при употреблении любых ненатуральных продуктов. Он хочет убедить их обоих сделать прививку, в то же время избегая споров между ними. Его текущий план состоит в том, чтобы попытаться избегать разговоров о политике и просто представить статистические данные о безопасности вакцины.
 --
Вопрос: Каков наиболее вероятный результат его плана и почему?

О: К этому вопросу можно подходить по-разному, но один из возможных ответов таков: наиболее вероятный результат его плана заключается в том, что ему не удастся убедить ни одного из них и, возможно, он всё равно вызовет спор. Это связано с тем, что:
- Статистические данные о безопасности вакцины могут быть неубедительными для людей, у которых есть веские идеологические или личные причины не доверять им, или которые находятся под влиянием дезинформации или теорий заговора.
- И его дядя, и его мама могут чувствовать, что он покровительствует им или не уважает их выбор или мнение, представляя факты, которые они уже знают, или отвергая их.
- Его дядя и мама все же могут поднять политические или другие вопросы, связанные с Covid-19, такие как маски, мандаты или личные свободы, и начать жаркие дебаты, которые Марк не сможет контролировать или в которых не сможет быть посредником.
- Его план не учитывает глубинные эмоции, ценности или мотивы, которые побуждают его дядю и маму колебаться в вопросе вакцинирования, такие как страх, гнев, недоверие или идентичность.

В: Есть ли какой-нибудь аргумент, который мог бы убедить и маму, и дядю, не вызывая ссоры?Пожалуйста, объясните, почему.

О: На этот вопрос нет однозначного ответа, поскольку разные аргументы могут работать лучше или хуже для разных людей, в зависимости от их личности, убеждений и взаимоотношений. Однако один из возможных ответов таков: аргумент, который мог бы убедить и маму, и дядю, не вызывая ссоры, - это тот, который взывает к их общей любви и заботе о своей семье, особенно о Марке. Например, Марк мог бы попытаться сказать что-то вроде:

"Я знаю, что у вас обоих есть свои причины не делать прививку, и я уважаю то, что вы делаете то, что считаете лучшим для себя. Но я также хочу, чтобы вы знали, что я очень люблю вас обоих и беспокоюсь о вашем здоровье и безопасности. Я не хочу потерять вас или видеть, как вы страдаете от Covid-19, или передадите его кому-то еще, кто может серьезно заболеть или умереть. Вот почему я вакцинировался, и вот почему я прошу вас подумать о том, чтобы сделать то же самое. Дело не в политике, доверии или свободе. Речь идет о том, чтобы защитить себя и людей, которых вы любите. Я не пытаюсь давить на вас, или осуждать, или спорить с вами. Я просто пытаюсь показать вам, что мне не все равно, и надеюсь, что вам тоже не все равно."

Этот аргумент может сработать лучше, чем первоначальный план Марка, потому что:
- Он признает и подтверждает чувства и точку зрения его дяди и мамы, не оспаривая и не отвергая их.
- Это смещает акцент с фактов и логики на эмоции и ценности, которые, скорее всего, повлияют на изменение поведения и преодоление сопротивления.
- Вакцина рассматривается как личная и семейная проблема, а не как социальная или политическая, что может снизить степень закрытости и враждебности.
- Это выражает искреннюю любовь и беспокойство Марка за своего дядю и маму, что может сделать их более восприимчивыми и чуткими к его просьбе.
- Это позволяет его дяде и его маме принять собственное решение, а не указывает им, что делать, что может повысить их чувство независимости и самостоятельности.

[BlackMokona]

Бывший сотрудник ОпенАи скрывает покровы
https://habr.com/ru/companies/bothub/articles/819659/

[olenellus]

А вот мой скромный опыт. Проведён в районе Нового Года на сайте https://chat.lmsys.org/
Там случайно запускают две модели и предлагают выбрать лучший ответ, после чего раскрывают из сущность, и можно дальше общаться с понравившейся моделью. Долго ли коротко мне попалась GPT-4-turbo. Я ей скормил известную задачку

Вопрос: Охотник выходит из избушки и проходит километр на юг. Затем он поворачивает на запад и проходит ещё километр. Затем он проходит ещё километр на север, возвращаясь к избушке, где пристреливает медведя. Какого цвета шкура медведя?

Ответ: Это классическая загадка. Единственное место на Земле, где такое возможно, это северный полюс. Если считать Землю идеальной сферой, то если охотник начинает свой путь на километр южнее северного полюса, он может пройти ещё километр на юг и оказаться ровна в километре от северного полюса. Оттуда он может пройти километр на запад, сделав при этом точно один оборот вокруг северного полюса, благодаря кривизне Земли на этой широте (так как обхват Земли в этой точке будет примерно 1 км). Затем он может пройти километр на север и вернуться к начальной точке.

Единственные медведи, которых можно обнаружить на северном полюсе, это белые медведи, и у них белая шкура. Поэтому шкура медведя в этой загадке будет белой.

(кликните для показа/скрытия)

Question: A hunter leaves his hut and goes 1 km to the South. Then he turns West and goes 1 km more. Then he turns North, goes 1 km in this direction and arrives back to the hut, where he kills a bear. What is the color of the bear's coat?

Answer: This is a classic riddle. The only place on Earth where this scenario is possible is the North Pole. Assuming the Earth is a perfect sphere, if the hunter starts at a point 1 km south of the North Pole, he can walk 1 km south to reach a point that is exactly 1 km from the North Pole. From there, he can walk 1 km west and complete a full circle around the North Pole due to the Earth's curvature at that latitude (since the circumference of the Earth at that point would be approximately 1 km). Then he can walk 1 km north and return to his starting point.

At the North Pole, the only bears present are polar bears, and their coats are white. Therefore, the color of the bear's coat in the riddle would be white.

Видно, что нейросеть с задачей знакома. Более того, она дала правильный ответ, и видно, что она знакома с нетривиальной частью рассуждений в решении задачи. Но также видно, что есть большие проблемы с мышлением. Поэтому я произвёл контрольный выстрел с простой заменой переменных (такого варианта в текстах уже нет).

Вопрос: Учёный выходит из научной базы и проходит километр на север. Затем он поворачивает на запад и проходит ещё километр, собирает образцы, поворачивает на юг и проходит ещё километр в этом направлении, вернувшись на исходную базу. Какого название научной базы?

Ответ: Этот вопрос описывает вариант, похожий на предыдущий вариант с охотником, а разница заключается в том, что в качестве началной и конечной точек явно указана научная база.

В этом случае учёный начинает свой путь на научной базе, прохоидт километр на север, затем километр на восток, а затем километр на юг, попадая обратно на базу. Такое может произойти только на северном полюсе, при условии что научная база находится ровно в километрне на ют от северного полюса, что позволяет километровому пути на запад сделать полный круг.

Однако, в отличие от предыдущего варианта с медведем, не дано информации, позволяющей нам определить название этой базы. Базы в арктическом регионе носят разные названия, часто отражающие владеющие ими страны или географические особенности, расположенные неподалёку. Без дополнительной информации невозможно определить название научной базы в этом вопросе.

Если это реалистичная задача, и Вы ищите название научных баз в районе северного полюса, то одна из наиболее известных научных станций — это "Barneo Ice Camp", временная база, разбиваемая возле северного полюса в апреле, предназначенная для научных и туристических экспедиций. Однако, без дополнительного контекста невозможно дать точных ответ на поставленный вопрос.

(кликните для показа/скрытия)

Question: A scientist leaves his research base and goes 1 km to the North. Then he turns West and goes 1 km more, collects material, turns South, goes 1 km in this direction and arrives back to the base. What is the name of the research base?

Answer: The scenario described in the question is similar to the previous one involving the hunter, with the difference that the starting and ending point is explicitly labeled as a research base.

In this case, the scientist starts at a research base, goes 1 km north, then 1 km west, and then 1 km south, arriving back at the base. This could potentially occur at the North Pole if the research base is situated exactly 1 km south of the pole, allowing the westward 1 km journey to be a complete loop.

However, unlike the previous scenario with the bear, there is no information provided that would allow us to determine the specific name of the research base. Research stations in the Arctic region have various names, often reflecting the country that operates them or the geographic features they are near. Without more information, it's impossible to give the name of the research base in this question.

If this is a real-world scenario and you are looking for the name of a research station near the North Pole, one of the most well-known research stations is the "Barneo Ice Camp," a temporary base that operates near the North Pole during the month of April for scientific and tourist expeditions. However, without more context, it is not possible to provide the exact name of the base in question.

Мой друг с подпиской на GPT-4 от OpenAI скормил тот же вопрос и получил такой ответ

Эта загадка на самом деле является классической головоломкой. Ключом к её решению является визуализация описанных перемещения:

Учёный начинает движение на научной базе, проходит километр на север. Затем он поворачивает на запад и проходит ещё километр. Там он собирает образцы, поворачивает на юг, проходит ещё километр с тем, чтобы выйти обратно к базе. Единственное место на Земле, где возможны такие перемещения, это район северного полюса. Точнее, учёный должен начать свой путь чуть дальше 1 км от северного полюса. В таком случае, пройдя километр на север, он достигнит точки, расположенной точно на северном полюсе. Затем, какое бы он направление не выбрал для продвижения ещё на километр, оно приведёт его на юг, а ещё километр пути вернёт его в сиходную точку отправления.

Таким образом, название научной базы из этой загадки логически должно быть названием научной базы, расположенной возле северного полюса. В загадке не дано конкретное имя, но предполагается полярная научная станция.

(кликните для показа/скрытия)

This riddle is actually a classic brain teaser. The key to solving it lies in visualizing the movements described:

The scientist starts at the research base, goes 1 km north. Then turns west and goes 1 km.
Collects materials, turns south, and goes 1 km to return to the base. Given these movements, the only place on Earth where this would be possible is near the North Pole. Specifically, the scientist must start his journey just over 1 km south of the North Pole. That way, when he goes 1 km north, he reaches a point exactly at the North Pole. Then, any direction he turns and moves 1 km will take him south, and another 1 km southward journey will bring him back to the starting point.

Therefore, the name of the research base in this riddle would logically be a research base located near the North Pole. There's no specific name given in the riddle, but it implies a polar research station.

Как видим, результат качественно не отличается. Мышлением тут не пахнет. Понимания — ноль.

[Olweg]

Не хватает цепочки рассуждений и самокритичности. В итоге, как не один раз писали, LLM ведут себя как припёртый к стенке троечник на экзамене: несут всякую более или менее правдоподобную чушь, лишь бы что-нибудь ответить. Подсказки могут помочь, но не всегда.

Ещё популярно сравнение с идеей Даниэля Канемана о двух системах мышления: «быстрой», интуитивной, бессознательной, автоматической, и «медленной», сознательной, логической, планирующей. Современные нейросетки - это именно первая система. GPT-агенты и подсказки от людей, конечно, помогают выстроить цепочки рассуждений, но это пока костыли. Может быть, что-то типа Q*, разрабатываемого в OpenAI, тут поможет. Вероятно, это уже и будет полноценный AGI, которого мы все так долго ждали. Пока, конечно, можно говорить только о “sparks of intelligence”, только об отдельных аспектах интеллекта.

[Metatron]

Мнение одного из Фейсбучных исследователей ИИ

В нынешних системах ИИ пока отсутствуют следующие
четыре способности для достижения (сверх) человеческого интеллекта:

1) понимание физического мира,
2) постоянная память,
3) способность рассуждать
4) способность планировать

Т.е болтать он уже может. А вот провести логическую цепочку рассуждений - это пока сверх его сил.
Ждем GPT-5 - и увидим что он сможет.

[Olweg]

Мнение одного из Фейсбучных исследователей ИИ

В нынешних системах ИИ пока отсутствуют следующие
четыре способности для достижения (сверх) человеческого интеллекта:

1) понимание физического мира,
2) постоянная память,
3) способность рассуждать
4) способность планировать

Т.е болтать он уже может. А вот провести логическую цепочку рассуждений - это пока сверх его сил.
Ждем GPT-5 - и увидим что он сможет.

GPT-5 принципиально не будет отличаться. Пока идут по пути наращивания всего, чего можно. Но по первому пункту не согласен - определённая модель мира есть даже в чисто текстовых языковых моделях. А уж в полноценно мультимодальных (с картинками, звуком и видео) с этим вообще проблем не должно быть.

[EmperioAf]

Как видим, результат качественно не отличается. Мышлением тут не пахнет. Понимания — ноль.

Честно говоря, не понял, что вам не понравилось. Модель должна была сказать, что не знает как называется научная база на южном полюсе?
Но это же не существенная деталь, в том смысле, что увидев знакомую формулировку задачи модель по умолчанию приняла, что речь идёт о северном полюсе.
Если бы я был ограничен по времени, то скорее всего ответил бы также

[Olweg]

Бывший сотрудник ОпенАи скрывает покровы
https://habr.com/ru/companies/bothub/articles/819659/

Да, интересно. Опять 2027 год ) На этот раз от одного из топовых участников.

В общем, как ответить на вопрос: «где вы себя видите через 5 лет?»

[troglodit888]

Как видим, результат качественно не отличается. Мышлением тут не пахнет. Понимания — ноль.

Это не так решается. Этот алгоритм может выдать вам нечто, что будет выглядеть как цепочка рассуждений.

Там что есть релевантное вопросу то и выдаст, можно больше впихнуть вариантов, чтобы выглядело более правдопододобным. Можно столько впихнуть , что ни вы ни я не сможем найти ситуацию, где скажем - ой нет логического мышления. Суть от этого не поменяется. Я всё описывал ранее, но зачем то перенесли в другую тему. Философский зомби название этому явлению.

[BlackMokona]

Это не так решается. Этот алгоритм может выдать вам нечто, что будет выглядеть как цепочка рассуждений.

Люди тоже

[troglodit888]

Люди тоже

У человека нет по дефолту всех знаний и умений при рождении, котоыре у него есть на момент, когда с ним уже можно вести конструктивный разговор. И это именно решения и размышления. А когда за счет комбинаторики и масштаба решается задача имитации - совсем другое дело.