Пределы автоматизации и внедрения роботов

[Rattus]

@skvj, давайте предельно конкретизируем, чтобы было предельно понятно:
Дано: некоторое общество живёт в правовой системе, где даже за некрупное воровство полагается отсечение руки. Данная правовая норма, неважно с какой неотвратимостью и точностью, но таки время от времени выполняется.
В обществе к данной норме может быть всего три типа отношения:
1. Это должное наказание.
2. Это вполне допустимое наказание.
3. Никакого живого человека не следует лишать конечностей против его воли за этот проступок (или за что-либо вообще).
Те, кто разделяет п.1. или п.2. - не являются носителями этики?

[Vavanzer]

Так что прежде чем плакать по волосам, и искать в них блох, хорошо бы сначала вычистить существующих тараканищ из межушных ганглиев своих и своих соплеменников, нет?

Я о другом. О том, что если ИИ напакостит, нарисует всякие гадости выбраному персонажу, типа как раньше всякие похабники приделывали куда попало вырезаные с реальных фоток лица в фотошопе, то этот персонаж очень долго будет отмываться и обьясняться всем тем, кто увидел сие порочащее честь творчество. И если раньше хоть как то могли найти и наказать пакостников, то тут наказывать не кого, да  и сойдет все с рук скорее всего!
  Аналогично и слжеинтервью и всякими высказываниями, от имени известных людей. Потом разгребали это все и публичные заявления делали. Но, впечатление у людей все равно осталется надолго.

Тут еще вопрос не только в том, что сам ИИ может навредничать. А то что его возможности могут быть использованы жуликами всякими. Которые могут в легкую насоздавать правдоподобных фейковых фоток и видосов! А так же фейковые сообщения через чатботы под видом каких то людей писать, тем самым подставив их.

[Rattus]

И если раньше хоть как то могли найти и наказать пакостников, то тут наказывать не кого

Это ВАши фантазии.
Ещё раз - всякая публичная площадка, разместившая несоотвествующие действительности порочащие сведения имеет конкретный адрес и владельцев. Именно она и будет отвечать за размещение их, если не удалила/выпустила опровержение самостоятельно до решения суда. Если на площадке есть полная авторизация - то иск может быть перенаправлен конкретному автору. Всё остальное - "собака лает - ветер носит". Попытка бороться с ветром вызовет обратный эффект - имени Барбары Стрейзанд - и поделом.

Но, впечатление у людей все равно осталется надолго.

Такова природа людей. И что? Люди вольны воображать себе всё что угодно - любую дичь. И воображают. Вы никак не можете это контроллировать и не должны. Право всегда должно заниматься только реальностью: действиями и фактами. И всякое приличное право стремится именно к этому (хотя неопределённые понятия навроде "экстремизма" и мешают этому движению).

[skvj]

ваш вопрос "нужно ли оберегать этику шариата?" - неправильно сформулирован: этики шариата как единой практической системы поведения людей не существует. Есть современная этическая система общества, и есть текст, который интерпретируется сотней школ, течений и эпох.

ОК. А какова тогда этика обществ стран, где действуют некоторые нормы права, которые нам кажутся дикими и жестокими? Они - эти самые 90% - считают их недопустимыми - то есть несовпадающими с их этикой? Или всё же некая - немалая часть оного общества - допустимыми? Это общество или эта его часть - этики (как представления о ДОЛЖНОМ) - лишены?

Да! Я сразу об этом говорил. Множество этик - внутри глобального слоя, прямо в одном обществе. Что ставит нас, людей в конфликт и ступор обычно. Но как-то мы выживаем в этом лоскутном одеяле, неправда ли? А я так вообще себя чувствую комфортно. Этическая система любого общества никогда не однородна. Внутри одной культуры одновременно существуют десятки слоёв морали - бытовая, семейная, религиозная, профессиональная, элитная, уличная, деревенская, городская. И я с этого тезиса начал тогда эту сложную проблему привязывать к ИИ. И с этого началось наше обсуждение.
Я сказал тогда - для ИИ вся эта сложность - будет как небольшая скатерть. Также как никаких сложностей у ИИ не вызывают естественные языки, он их уже все знает - GPT во всяком случае, при чём на очень глубоком уровне, как носитель языка. С любыми абстракциями, тонкостями, нюансами, фольклором, ассоциациями, углублениями и отвлечениями - давайте представим, что  мы, вдруг взвалим на 1 человека такую потребность и возможность - быть носителем всех языков? Никто не осилит - обычно язык непреодолимый барьер. А люди знающие 7 языков - обычно знают их не как носители, а поверхностно и такие люди - крайне редки.

И как чужой язык - реальное препятствие для нас, а часто и просто остановка, это отчуждение, разграничение. И буквально невозможность общения всех со всеми. По аналогии - таков же и этический барьер. Не потому что это фундаментальный барьер, непреодолимый в принципе. А по той же причине - сложности и большого объёма контекста.

Далее, - этики постоянно противоречат друг другу. Это нормальное состояние человеческих обществ, а не отклонение. Это норма. Мы не понимаем чужую этику не из принципиального ограничения - а точно как язык. Из-за ограничения сложностью и глубиной контекста. С добавкой осложнений в том, что язык - это всего лишь часть культуры, а этика глобально большая её часть, чем язык.

Если нам кажется что-то диким в других этиках - это банальность. Мы с этим не просто живём - мы прекрасно живём.
И я уже приводил замечательный пример с вегетарианским рестораном. Веганы всех мастей - необычайно агрессивные люди. Они не едят животных - они их объедают)) (кушают их еду ). Например, в Индии половина населения не ела мясо никогда. А другая половина ела всегда. И у них это там страшный конфликт. Но никаких стычек и мордобитий не бывает никогда. Заходишь в кафе - сразу все ясно - тебе в другое.

ИИ лишь поможет ходить в нужное кафе, если говорит грубо. Ведь поймите, для меня дико есть собаку, а китайцы едят свободно и часто. Но всё, что могу сделать я, вот по существу - не есть собак. Объяснять китайцу, что собак есть нельзя - это такая же бессмыслица, как объяснять европейцу, что нельзя есть курицу. Я ничего ему не объясню, это невозможно, кстати, я пробовал. Ради интереса.

И точно также единой этики шариата - не то что не существует - это риторический конструкт, а не реальность. Её не было никогда. Как не было никогда единой христианской этики. Ведь если бы она была - не было бы тысяч сект.

А в христианстве на сегодняшний день - тысячи конфессий. Почему? Потому что у них разная этика - вот они и разделяются.

То, что у нас вызывает отчуждение в других культурах - вовсе не означает, что те культуры неправы, а вот наша права.
Осознать это поможет ИИ. Просто соединяя людей, давая возможность понять друг друга - по аналогии с тем, как он помогает в естественных языках.

И да - он будет сохранять все культуры. Совершенно все. Каким образом?
ИИ общается со своим юзером и помогает ему в любой среде. В этом пёстром одеяле, сшитом из десятков тысяч лоскутков этик - неважно где ты оказался, в какой стране или этносе - понять эту культуру, понять этику - любой группы людей.

А какие-то ужасные практики - экстремистов и фундаменталистов шариата, etc - ИИ не считает этикой. И никто не считает - это инструменты террора, маскирующиеся под этику. Понять любого мусульманина можно. Понять мусульманского экстремиста не может никто, включая самих мусульман. Они их ненавидят. И не как другую культуру и этику, - как насильников и бандитов. Потому что кроме знамён и альхамдулиллах там нет никакой этики, это инструмент устрашения и контроля, - это инструмент, а не содержание. Они просто натягивают на себя мусульманское одеяние.

Rattus, нужно заканчивать. Я всё понятно изложил. Я не вижу смысла спорить дальше.
Будьте при своём мнении, если я вас не убедил - у меня изначально не было никакой цели вас убеждать.

[Rattus]

Я всё понятно изложил. Я не вижу смысла спорить дальше.
Будьте при своём мнении, если я вас не убедил - у меня изначально не было никакой цели вас убеждать.

Так тут не спор даже - а попытка выявить саму точку зрения - ясную и недвусмысленную. Отсюда и все доставучие вопросы.

А какие-то ужасные практики - экстремистов и фундаменталистов шариата, etc - ИИ не считает этикой. И никто не считает

А я считаю, что применение Вами здесь квантора всеобщности с отрицанием - объективно некорректно. Иначе бы их не было вообще. Если кто-то что-то делает сознательно, самостоятельно (то есть не по прямому неизбежному принуждению) и не из-за медицинских случаев патологической зависимости, значит считает это должным. По определению. Значит это и будет для него этичным. По всё тому же базовому определению.

А главное для темы из Ваших объяснений вот:

ИИ лишь поможет ходить в нужное кафе, если говорить грубо.

И сохранять все "кафе", да? А если возникнет момент, когда у какого-то кафе уменьшится ресурс и оно сожмётся до полного закрытия - ему надо помогать не закрыться или пусть отмирает естественным образом? А главный универсальный регулятор - отношения собственности и деньги?
Я не осуждаю, просто хочу понять: кто по-Вашему глобально финальный судья - "быть или не быть" той или иной культуре, системе обычаев и этик.

[Ulkolainen]

А вы не заметили чтоли главный прикол и противоречие!?)
  Обьясняю на примере станков. Когда появились ЧПУ станки, стало возможно работать одному человеку сразу на нескольких станках. Это было в некоторой мере возможно и на полуавтоматических станках, где врубаешь режим прохода от привода, а не в ручную крутишь и тянешь резец. Но, с ЧПУ стало намного веселее. Потом автоматизация дошла и до возможности смены инструментов в процессе обработки без участия человека. И в итоге 1 наладчик-оператор может хоть 10 работающих станков "брать на себя"
 Аналогично и с тракторами.

[тяжко вздохнув]: ... и об этом ему тоже было рассказано. Вот в этих словах, которые Вы вероятно сперва прочли, а потом проехали:

То есть, при беспилотно-работающем тракторе остается так и этак целесообразным присутствие где-то неподалеку того же самого "тракториста", который потенциально мог бы обеспечивать работу не одного агрегата, а  сразу нескольких (неисправности же возникают не часто) .
Но.
Не на каждое поле есть смысл загонять сразу по нескольку тракторов - и где его тогда размещать? Не в каждом хозяйстве есть объективная нужда в нескольких, способных в страду работать 24/7 - а они на это рассчитаны(в т.ч. экономически), если грамотно загрузить работой.
Итого, беспилотные тракторы (пока?) - техника для крупных агрохолдингов. А дроны наоборот: чем мельче фермер - тем проще и выгоднее ему опрыскивать самому, а не связываться с авиаторами.

[skvj]

А я считаю, что применение Вами здесь квантора всеобщности с отрицанием - объективно некорректно. Иначе бы их не было вообще. Если кто-то что-то делает сознательно, самостоятельно (то есть не по прямому неизбежному принуждению) и не из-за медицинских случаев патологической зависимости, значит считает это должным. По определению. Значит это и будет для него этичным. По всё тому же базовому определению.

Как раз это не выдерживает никакой критики. Вы сам это знаете, меня удивляет даже, что вы такое говорите.
Но давайте углубимся. Я уже привёл определения, которые полностью подтвердили мою позицию из Теории права. То, что мы обсуждаем, давно изучено. Но потом я понял - вы не видите аргументы. Стал думать - почему? У нас разный язык. Тогда я перешёл на общий язык в прошлом сообщении и вроде бы получилось объяснить.
Но я хотел остаться в теории. Однако нужно было снизить уровень абстракции и это бы потянуло в тему невероятно большой контекст. Решил не пользоваться этим инструментом.
Тогда вы снова начнёте говорить, что я говорю сбивчиво)) Но это не так.

Хорошо. У радикальных исламских групп стандартный механизм - всё устроено вербовкой и ячеистой структурой организации. Разные уровни "духовных" лидеров. Большинство исполнителей - молодые парни, которых ломают страхом, зависимостью и социальной изоляцией. Всё держится на страхе - об этом существует огромный массив литературы. Ни одна группировка не возникает сама - в отличии от этических разделений, где религиозное ответвление происходит добровольно и в нём участвуют самые обычные люди. Они просто отделяются от основного материнского течения и возникает Церковь Святого Василиска. В данном случае это боевые отряды, где всё под принуждением и происходит.
Сейчас нужно сказать ещё не о таких группировках, которые полностью подневольны и под принуждением. А именно об обществах, где применяют забивание камнями "по шаритату". Они очень хорошо описаны. Это очень малочисленные общества, например Нигерия - чистое принуждение, санкция в уголовном праве.
А вот интересный момент, забивание камнями - какие-то племена Талибана в Афганистане, не помню точно подробности, давно читал. Так что не придирайтесь особо. Они применяют такую меру прям с 7 века. И очень интересный момент. Наказание было за супружескую измену, за гомосексуализм и за ещё что-то не помню. Забивать должны близкие родственники. Т.е. мать, отец, браться, сестры. Представляете? В случае если они не будут этого делать - их всех забьют просто соседи и виновника и тех, не стал его забивать. И это древнейшая традиция, как выше обсуждали - источник права.

Нормально так? Без принуждения? Это капкан. Раз попав в такую ловушку - безграмотное племя просто не может из неё выбраться.

И сохранять все "кафе", да? А если возникнет момент, когда у какого-то кафе уменьшится ресурс и оно сожмётся до полного закрытия - ему надо помогать не закрыться или пусть отмирает естественным образом? А главный универсальный регулятор - отношения собственности и деньги?
Я не осуждаю, просто хочу понять: кто по-Вашему глобально финальный судья - "быть или не быть" той или иной культуре, системе обычаев и этик.

Нет судей вообще. Это звучит очень пафосно)) Смотрите. Язык развивается сам. Нормы языка - всегда подвижны. Насколько это подвижная система - я думаю, вы в курсе без моих советов. Чрезвычайно подвижная. Я когда приезжаю в Москву, а я часто там просто живу. То мгновенно чувствую отличия языка. Это в одном обществе - в одно время происходит. Интонации, словообразования, даже семантика. Я постоянно попадаю там в конфуз, прося в магазине булочку хлеба - на меня смотрят как на сумасшедшего. А у нас говорят именно так. Они просто не понимают, - о чем я вообще говорю? Но я покупаю хлеб именно так.
За 200 лет - язык меняется вплоть до непонимания 50% контекста.
Это естественный процесс, скажите - кто тут судьи?

С этикой и культурой вообще - происходит аналогичный процесс. Сами группы людей её меняют, они договариваются, приспосабливаются, влияют друг на друга и постоянно переопределяют контекст. При чём здесь судьи? А ИИ здесь при чём?
ИИ тут не судья, не прокурор, который должен во что бы то ни стало держать все кафе открытыми. Он помогает также, как в языке - убирает барьер, помогает общаться - всё остальное делают люди, и всё происходит автоматически.
Часть этики отмирает, её не используют.
А вот фундаменталисты предлагают именно это - нет! вы не настоящие - и мы вас накажем. И делают это что? под принуждением - то, о чем вы и говорите - это и есть не настоящее.

[Rattus]

Это естественный процесс, скажите - кто тут судьи?

Отбор.

Сами группы людей её меняют, они договариваются, приспосабливаются, влияют друг на друга и постоянно переопределяют контекст.

Например как маори на мориори. Ну или Британия местами на ирландскую культуру.
"Перекрестие прицела - это тоже чья-то точка зрения." Все ваши предложения годятся для условий, лишённых силового способа решения конфликтов. То есть для мира, которого никогда не существовало в истории.

[Olweg]

С этикой и культурой вообще - происходит аналогичный процесс. Сами группы людей её меняют, они договариваются, приспосабливаются, влияют друг на друга и постоянно переопределяют контекст. При чём здесь судьи? А ИИ здесь при чём?
ИИ тут не судья, не прокурор, который должен во что бы то ни стало держать все кафе открытыми. Он помогает также, как в языке - убирает барьер, помогает общаться - всё остальное делают люди, и всё происходит автоматически.
Часть этики отмирает, её не используют.
А вот фундаменталисты предлагают именно это - нет! вы не настоящие - и мы вас накажем. И делают это что? под принуждением - то, о чем вы и говорите - это и есть не настоящее.

А как реализуются этические нормы в «обычном» обществе? Что заставляет людей жить в рамках этики? Просто «общественный договор»? Люди собрались, поговорили и решили, что жить вот так - это рационально? Люди на самом деле существа не особо рациональные. Наверное, должно быть какое-то давление со стороны общества, чтобы правила худо-бедно соблюдались. Это может быть просто осуждение или насмешка, но всё равно это в некотором роде - принуждение. Не под дулом автомата, конечно, но тем не менее. Фундаменталисты - это просто крайний случай, радикальный край непрерывного спектра.

[skvj]

Это естественный процесс, скажите - кто тут судьи?

Отбор.

Верно. Естественный отбор. Конкретного субъекта "судьи" нет. Естественное развитие, - процесс.

Сами группы людей её меняют, они договариваются, приспосабливаются, влияют друг на друга и постоянно переопределяют контекст.

Например как маори на мориори. Ну или Британия местами на ирландскую культуру.
"Перекрестие прицела - это тоже чья-то точка зрения." Все ваши предложения годятся для условий, лишённых силового способа решения конфликтов. То есть для мира, которого никогда не существовало в истории.

Верно, и это поможет исправить ИИ.
Культура, которая держится только на насилии, живёт ровно столько, сколько длится насилие. В момент, когда исчезает штык - исчезает и норма. Пример с той же Великобританией. Самая величайшая империя на Земле по степени охвата территорий.
Куды она подевалась? Вернулась к себе на маленький остров - скукожилась. Причём что удивительно - почти вообще добровольно. Последнее что они вернули был Гонконг. Совершенно добровольно вернули. Индию - почти добровольно, были малочисленные конфликты, и факт - вернули не в результате войны, просто отдали.
Канада! Там же король есть - тот самый Карл III чисто номинально))
1867 - первый конституционный акт - 1982 - полная независимомть. Без войны, без штыков.

И эта тенденция будет возрастать.
Постоянные войны? Факт. Но развитые страны - между прочим, - закоренелые исторические враги в прошлом - Франция - Германия - Великобритания - показывают удивительные результаты и устойчивый мир без войны на очень долгом периоде.

Какие-то племена - да, воюют постоянно. Сейчас не нужно спорить, я высказал свой взгляд.
Но именно ИИ поможет. Есть же интриганы. Они делают вот что - причин для войны нет. А просто лоббируя чьи-то интересы, какой-нибудь дипломат или министр могут спровоцировать никому не нужную бойню.
Не сегодняшние ИИ, а потенциально сильные ИИ будущего смогут это предотвратить.
Я высказал свою гипотезу.
Отвечать на полемику - мы воевали и воевать будем, пока все не умрём, я не буду никому))

[Olweg]

Между тем сомнения в перспективности языковых моделей крепчают:
https://telegram.me/anti_agi/1395

На конференции NeurIPS в Сан-Диего тихо, но очень уверенно оформился новый тренд: всё больше исследователей из OpenAI, Google, Amazon и других лабораторий считают, что нынешняя архитектура ИИ — тупиковая для больших научных прорывов. Скепсис касается не только медицины или биологии: вопрос шире — сможет ли текущий подход вообще привести к ИИ, который не путает элементарные факты и не требует миллиона датасетов для освоения новых задач.

Глава исследовательского направления в Amazon Дэвид Луань сказал прямым текстом: «гарантирую, что методы обучения, которые мы используем сегодня, не продержатся». В той же тональности звучит и позиция бывшего сооснователя OpenAI а ныне основателя SSI Ильи Суцкевера, который критикует современные методы за неспособность к обобщению. Если ИИ не может научиться понимать новое по одному примеру, а только перемалывает массивы данных — как он станет инструментом научных открытий?

Пример, который активно обсуждали: ИИ, работающий как опытный радиолог. Чтобы распознать новый тип опухоли, человеку достаточно одного взгляда и интуиции, выстроенной годами практики. Моделям же нужно тысячи примеров. Создание ИИ, способного к «continual learning» — непрерывному обучению после разработки — пока остаётся нерешённой задачей.

Это резко контрастирует с оптимизмом других лидеров индустрии. Гендир Anthropic Дарио Амодеи уверен, что простое масштабирование существующих моделей приведёт к AGI, и даже называет сроки — уже в следующем году (сразу после IPO Anthropic). Сэм Альтман из OpenAI предполагает, что через пару лет (когда OpenAI выйдет на положительный денежный поток) модели смогут сами улучшать себя, открывая путь к полному циклу автономных исследований.

[AlexDark]

Если ИИ не может научиться понимать новое по одному примеру, а только перемалывает массивы данных — как он станет инструментом научных открытий?

О чем я и некоторые другие люди тут писали неоднократно - что именно это отличает человека от современной Иллюзии Интеллекта, но это постоянно оспаривалось.

И мне жутко интересно - неужели у кого-то хватит смелости заявить по итогу, что все многомиллиардные траты оказались зря.  И что будет после этого заявления.

[skvj]

А как реализуются этические нормы в «обычном» обществе? Что заставляет людей жить в рамках этики? Просто «общественный договор»? Люди собрались, поговорили и решили, что жить вот так - это рационально? Люди на самом деле существа не особо рациональные. Наверное, должно быть какое-то давление со стороны общества, чтобы правила худо-бедно соблюдались. Это может быть просто осуждение или насмешка, но всё равно это в некотором роде - принуждение. Не под дулом автомата, конечно, но тем не менее. Фундаменталисты - это просто крайний случай, радикальный край непрерывного спектра.

Есть 2 степени погружения, как бы 2 процесса. Это реально существующие механизмы.
Нужно понять что такое рождение правовой нормы.
Источники права классифицируют в формальном (юридическом) смысле как нормативные правовые акты (конституция, законы, подзаконные акты), правовые обычаи, прецеденты, нормативные договоры.

Часть из них навязана скажем так, господствующим классом. Причем это формализуется именно наукой.
Но небольшая часть. Достаточно держать несколько жестких норм, которые бьют как дубина, поражая любого, кто зайдет за буйки. Основной массив - очень полезен и реально работающий механизм, приносящий реальную пользу - участникам того или иного процесса.

Т.е. в этом массиве получается - что? Та же мораль, возведённая в закон - обязательные правила участников тех или иных отношений.
И вот здесь очень важный момент.
Как работает закон? Например, уголовный? Он не регламентирует всё - он действует как запрет на определённые действия. Т.е. не описывается - всё что можно. А наоборот - описывается всё, что нельзя.

И здесь важный, фундаментальный момент. Его нужно понять и жизнь становится гораздо проще.
Разрешено вообще всё. Кроме того, что запрещено.
А посему важно понимать, что мораль, возведённая в закон, в случае его нарушения - карается уголовными санкциями.
Есть ещё административка и гражданское право, там тот же принцип.

И вот что порождает конфликты - люди реально не понимают, что ВСЁ что не запрещено - можно. В этом поле действует мораль - не возведённая в закон. И мораль эта огромна. Каждый человек участвует ежедневно в этом процессе - влияя на других постоянно. И степень влияния эта может быть огромна. Просто своим авторитетом, знанием, убеждением вы буквально влияете на всё. Но результат приходит не сразу. А не видя результат мгновенно - люди опускают руки и отчуждаются. Или совершают непоправимые действия. У нас недавно по улице проехал мотоциклист на заднем. Это не такая улица, что большое движение - она тихая и там частные дома. А он ехал на бешеной скорости и встал на заднее колесо, с глушителем прямоток, как ракета. И мой сосед взял палку и ударил его, ведь там могли быть дети, а там реально играют дети часто. Мотоциклист упал и ушёл в кому с многочисленными переломами.
И сосед пошёл сидеть на длительный срок, потому что по факту было следующее: мотоциклист нарушил ПДД, совершил административное правонарушение, за которое полагается штраф. А преступник взял дубину и нанес тяжкие телесные, никаких детей не было, а то, что они могли быть - это не имеет никакого отношения к факту и никаких смягчающих он не получил. И только потом он вообще осознал что произошло.
Вот так влиять не нужно))

И вообще - если человек не нарушает закон, но нарушает моральные нормы - нужно быть очень осторожным. Например, парень не уступил место старушке в транспорте, ему сделали замечание, он не отреагировал - его побили за это и совершили преступление. Потому что нарушение моральных норм - даже ответственности не влечет, он просто свинья. А тот, кто его побил - совершил совершенно другое правонарушение - как раз наказуемое. И это сплошь и рядом. Влиять так - не надо. Это вообще не влияние. Часто люди не понимают, что у них проблем нет. А решил вмешаться, но не умеет - и вот они проблемы, а ведь их вообще не было. Не умеешь решать конфликты - лучше не влезать вообще.

Но влиять надо. Просто плыть по течению - это безнравственно. Тогда нужно набирать опыт. Пытаться влиять и когда не получается - делать анализ своих поступков. Улучшать тактику и способность говорить вообще, влияя на ситуацию. И благо, что таких попыток у нас - бесконечное множество, вся жизнь из них состоит. Вы неправы, что люди нерациональные существа. Они крайне рациональные. Они скорее парадоксальные, когда рацио замещается или отказывает вообще, обычно гормонами. Это тоже нужно учитывать, ведь близким мы все прощаем. А чужим почти ничего, но в итоге это отражается на всех.

Это второй механизм - когда вы лично влияете на процессы, на этику и культуру в целом.

[BlackMokona]

Пример, который активно обсуждали: ИИ, работающий как опытный радиолог. Чтобы распознать новый тип опухоли, человеку достаточно одного взгляда и интуиции, выстроенной годами практики. Моделям же нужно тысячи примеров. Создание ИИ, способного к «continual learning» — непрерывному обучению после разработки — пока остаётся нерешённой задачей.

Взаимоисключающие параграфы в терминальной стадии. Лол

[Metatron]

>>>>Если ИИ не может научиться понимать новое по одному примеру, а только перемалывает массивы данных — как он станет инструментом научных открытий?

критика должна быть конструктивной.

Они что-то предлагают вместо LLM?

Или просто - давайте все бросим..?

[Olweg]

Необходимость какого-то нового подхода назрела. Тут могут быть два пути - либо создание принципиально новой архитектуры, либо надстройка LLM по типу прошлогоднего ризонинга. Проработки уже есть - например, Nested Learning от Google (очень интересная штука, имеющая аналоги в работе человеческого мозга, по крайней мере так утверждают разработчики). Ну или тот же Суцкевер с SSI что-нибудь принципиально новое выложат (инвестиции они неплохие собрали для чисто исследовательского проекта), или Лекун допилит свою JEPA. Китайцы опять чем-нибудь удивят. Мозгов в отрасли сейчас собрано много. До сих пор все молились на масштабирование LLM - потому что оно реально работало - но сейчас поневоле придётся развернуть исследования.

[Olweg]

Взаимоисключающие параграфы в терминальной стадии. Лол

А в чём тут взаимоисключающесть? Способен ли ИИ действительно распознать опухоль нового типа?

[BlackMokona]

А в чём тут взаимоисключающесть? Способен ли ИИ действительно распознать опухоль нового типа?

Когда от ИИ требуют распознать всё без массивов данных, по одной фотке.
А вот врач с многолетним опытом, тем самым уже переварившим эти самые массивы данных.
ИИ тоже выделит новую опухоль если обучен этому.

[Olweg]

Так тут суть в распознавании нового типа опухоли, насколько я понял. Видимо, у ИИ с этим бывают проблемы. То есть и у врача, и у ИИ большая база предобучения. Но обобщать на что-то сильно вылезающее из выборки у ИИ получается хуже.

[BlackMokona]

Так тут суть в распознавании нового типа опухоли, насколько я понял. Видимо, у ИИ с этим бывают проблемы. То есть и у врача, и у ИИ большая база предобучения. Но обобщать на что-то сильно вылезающее из выборки у ИИ получается хуже.

Так какие проблемы? Обычное распознавание.