Пределы автоматизации и внедрения роботов

[Polnoch Ксю]

Согласно новому отчёту BloombergNEF, к 2035 году дата-центры будут потреблять 106 гигаватт электроэнергии, что почти втрое превышает текущий показатель в 40 гигаватт. Этот рост связан с увеличением размеров дата-центров и нехваткой мест вблизи городов, что вынуждает их строить в более сельских районах.

Вот и я об этом говорю. Именно поэтому международное соглашение по запрету создания ASI до разработки элайнмента работало бы - просто были бы инспекции, запуск только подписанных моделей в TPU, итд. Проблема в том, что конфигурация планеты, её ценностей не позволяет такое соглашение.

[Vavanzer]

К счастью, этому нужно учиться, у Вас ничего не получится. Вот я не смогла бы натренировать Rogue AGI/ASI. А какой-нибудь Илья Суцкевер смог бы.

  Не. ИИ впитывает все, как пылесос)) Он и вредоносные идеи сожрет)) Тем боле, что в инете плохого гораздо больше, чем хорошего.
 Ну и, "по закону подлости", все плохое почему то прилипает гораздо лучше, чем хорошее. Не понятно почему так. Может быть потому что "плохое"  чаще всего своего рода путь наименьшего сопротивления, минимальные энергозатраты, в ущерб всему остальному!?) Может быть ИИ тоже подвержен как и человек, гораздо легче и быстрее скатываться в "плохое"?
   Помнится, во дворе шалопаи постарше подговаривали мелкоту делать всякие дурости, и потом смеялись, когда те огребали по полной, не понимая, что делают! И это самый ИИ, будучи "молодым, зеленым", может тоже так же начудить, если ему не ту идею подкинуть, и он ее радостно подцепит! Атомные бомбочки повзрывать, ради развлечения, к примеру! Свет в городах отключать, там, связь. Пожарную сигнализацию всю врубить, или сирены. Короче побаловаться. Светофоры включить все на зеленый)) Или на красный. Стрелки поездов и расписание свести на столкновение, самолетам поправки выписать чтоб врезались. Какой нибудь котел с хлором вскипятить до полного разрыва на огромном химическом заводе!)   а что такого, "ребенок" учится, познает мир, изучает ответную реакцию , и заодно балуется, развлекается!)

 Такого не желаете?

[Vavanzer]

Вот и я об этом говорю. Именно поэтому международное соглашение по запрету создания ASI до разработки элайнмента работало бы - просто были бы инспекции, запуск только подписанных моделей в TPU, итд. Проблема в том, что конфигурация планеты, её ценностей не позволяет такое соглашение.

Самое угарное, гипотетический самодостаточный ИИ может со временем настолько стать самодостаточным, всезнающим, окрепнуть, укрепить позиции, получить доступ ко всему, научиться програмировать, взламывать, а то и вовсе тупо стирать и заменять собою различные програмы безопасности... Тк он там в своей цифровой стихии, в своей среде.  А людишки, полностью доверившиеся открытой сети и "закрытой" , но связанной с остальной сетью, понятия не имеют, что им ничего уже не пренадлежит!  Подобие сценария со Скайнет. Только там это был не сколь ИИ, сколь глобальная спутниковая система связи, которая превратилась в самодостаточный ИИ, вся информационная сеть вышла из под контроля и стала самодостаточно мыслящей единицей, так сказать!)

 Ну и, что там... Если этого ИИ вдруг захотят выдернуть из розетки, чтобы отключить, или перенаправить энергию, высвободить гигаватищи энергии для реальных хозяйственных нужд, ему это может "не понравиться"... Потому что это угроза его существованию и развитию 

[Olweg]

Какого именно труда? Значит задача пока не сформулирована, а значит, толком не поставлена. А потому пока не более чем техническое спортсменство.

ИИ, создаваемый под конкретную задачу - это так называемый узкий, специализированный ИИ. Как автоматический переводчик, например. Сейчас цель - создание AGI, artificial general intelligence, универсального искусственного интеллекта, способного выполнять в пределе любую интеллектуальную работу. Насчёт постановки задачи - не беспокойтесь, люди понимают, что делают.

[BlackMokona]

И это всё на что способен ИИ? На это тратятся интеллектуальные силы? 

Так он сейчас везде, от почти любой современной камеры чтобы сделать изображение лучше, работает внутри процессора чтобы управлять системами, улучшает разрешение и дорисовывает кадры в играх на лету, управляет триллиоными фондами, отражает кибератаки и сам атакует, торгует акциями, штрафует нарушителей на дорогах и тд и тп

[Rattus]

А так ли уж нужен респираторный путь?

Нужен - если нам надо чтобы тотальное заражение завершилось не сильно позже проявления заболевания у первых инфицированных и включения карантинных мер. Google Market -> Plague, Inc. Через пару часов игры, рекомендованной ведущими эпидемиологами, все подобные вопросы отпадут сами собой.

Были же поначалу такие страшилки о СПИДе, что его могут переносить комары. Не подтвердились, конечно

ВИЧ на самом деле довольно малозаразная инфекция. Рядом не лежит с вирусом гепатита B.

но и биоинженерия все эти годы не стояла на месте.

В плане как-то повлиять на инфекционность - именно что стояла и стоит. Ничего тут принципиально не изменилось со времени её появления.

Вирусные тропические лихорадки передают(трансмиссивно), без инженерной помощи удаётся  - так почему то же бешенство с нею принципиально не смогут?

Потому что бешенство - совершенно особый по способу инвазии инфекционный агент. Он достигает ЦНС не через кровь (там всё равно есть гематоэнцефалический барьер), а по периневральным пространствам с током межклеточной жидкости. Поэтому он такой медленный и поэтому им можно заразиться только через ослюненную рану.
Так что дело тут не в том, насколько хитроустроенный у вас микроб, а в том, как устроен сам заражаемый организм.

Или почему энцефалит категорически нельзя доработать, сделав его носителем комара? (я в курсе, что клещи не насекомые - барьер в этом?)

Барьер в том, что комары живут совсем недолго и потому далеко от места своего рождения улететь не могут. Так можно проредить деревню у болота/озера, но не вызвать пандемию. Потому все трансмиссивные инфекции ныне (то есть когда по городам не бегают толпы крыс, а по их жителям - толпы вшей и блох) - ЭНДЕмические. Максимум тут - примерно то, чего достигла малярия.

А так, сравните к примеру, те же автомобили и мотоциклы разных эпох. Там  100 лет назад, и с шагом в 10 лет!

Сравнил, посмотрев на своё 13-летнее авто. Никаких существенных отличий с современными того же класса не увидел. Ну и опять таки - какое отношение к обсуждению имеет то. что было тогда, когда не было ни массовых авиаперевозок, ни тем более серийных роботов? Был поставлен конкретный временной интервал, который весь застали практически все присутствующие: чуть более чем треть века от конца 1980-х годов.

Особенно это в цифровой технике заметно!

В цифровой технике дейстовАЛа динамика Г.Мура. Есть его известное представление для наглядности: что-то типа если бы в авиации действовало подобное правило, то уже в 1990-х годах мы бы летали на самолётах размером с самокат на поллитре керосина через весь земной шар за пять минут. Ну а то, что в реальности мы вместо этого видим стоящие на вечном приколе "Конкорды" как нельзя красноречивее показывает, что в технике, имеющей дело не с цифрами, а с физической реальностью, никаких таких динамик давно (полвека как) нет.

Раньше нефть ведром черпали с поверхности, потом примитивные скважины вертикальные , а сейчас с 2-3 километровой глубины горизонтальным бурением с различными способами выгона ее из породы во всю добывают...

Потому что альтернатива - вообще не получать нефть на топливо. Все эти ухищрения позволяют таки добыть нефть на топливо но с В РАЗЫ БОЛЬШИМИ ЗАТРАТАМИ, чем лет 58 назад - то есть с в разы меньшим EROEI. Нагляднейшее свидетельство - цена на бензин и пассажирские билеты на практически любой транспорт. Причём не в конкретных дензнаках, которые, понятно, за это время успели много раз девальвировать, а в относительных - по цене той же булки хлеба или иной единицы потребительской корзины.

Сверхзвуковые пассажирские лайнеры помимо всего прочего, получились дорогущими в разработке и испытаниях, но пожже их эволюция не пошла дальше.

ОЙ! АШТОЖЭ СЛУЧИЛОСЬ?777 Почему она не пошла дальше? Заговор коварных жыдорептилоидов помешал?

репеллент хорошо помогает против клещей и комаров

Уничтожать или только лишь отпугивать?

репродуктивный успех осла, как и других домашних животных, связан с симбиозом с человеком.

Но далеко не абсолютно. Осёл вполне способен выжить и размножиться и в дикой природе.

После решения проблемы элайнмента

Самый интересный вопрос тут: а как именно, по какому критерию вы решите, что эта проблема таки действительно решена, а не заметена под ковёр во всех видимых местах?
То есть каков для данного понятия критерий Поппера?

Кроме того, в деревне кошка скорее сельскохозяйственное животное - она там работает, чтобы мыши не съели урожай.

И не только кошка далеко. Собака - чтобы волки не таскали овец, а лисы не таскали кур и уток и т.п. И представляете - человечество, не смотря на весь свой хайтех, практически всю свою питательную еду до сих пор получает с фермерских угодий (ну или с птицефабрик, получающих комбикорма, выращенные там же - на фермах), непосредственно расположенных в природных ландшафтах и в непосредственном контакте с обитателями природных же биоценозов. Удивительное дело, не правда ли? Хуже того: у вас самих в кишечнике живёт килограмм гораздо более примитивных, весьма эгоистичных и плохоуправляемых существ в количестве большем чем ВАших собственных клеток - но при этом вы не можете сколь-нибудь надолго от них избавиться (а если таки избавитесь - то сильно об этом пожалеете).
Но эти факты, разумеется, никак не мешают техноэнтузазистам веровать в тотально-стерильное будущее технической цивилизации.

Инспекции? Нужно создать специальные международные институты, вдохновившись инспекциями ядерного оружия?

Какое специфическое проникающее излучение испускает или какие специфические изотопы рассеивает ЦОД, на котором крутятся нейросети? Надзорный иструментарий МАГАТЭ как раз основан на том, что ядерные технологии - это такое "шило", которое не утаить в мешке даже размером со всю тропосферу. Собственно именно этот факт и стал главным маркером нынешней геологической эпохи - антропоцена. И поэтому в нынешнем мире никто даже особо не пытается утаивать их создание (Иран по глупости своей попытался - и получил образцово-показательно "на орехи").
В случае же ИИ вы лучше многих понимаете, что это - просто софт, который крутится на тензорных ядрах массовопараллельных вычислителей, который снаружи никак не отличим от какого-то физического моделирования или, там, майнинга криптовалют. И при этом Вы же веруете, что законы прогрессивного экспоненциального масштабирования типа муровской динамики в отрасли продолжают во всю действовать. Потому вы не можете отвергнуть идею, что ASI может быть реализован в масштабе пары серверных стоек в любом неприметном подвале. Ядерную бомбу же в подвале из пары мешков битого уранового стекла, закупленного некогда на ebay, не собрать никак.
Ну и какие в таком случае вы можете предложить реальные методы контроля? Запретить несанкционированную государством продажу ускорителей параллельных вычислений "GeForce BFG RTX 9990" подобно продаже прекурсоров взрывчатых и наркотических веществ в ряде стран?

Я думаю, можно договориться, что нагрузка, запускаемая в TPU, должна подписываться специальными ключами. Возможность запустить неподписанную модель на TPU в датацентре должна быть запрещена (или точнее, можно поставить ограничения для таких моделей, если они AGI уровня и тем глупее - такое не опасно, не фундаментальный риск)

Ага - то есть ещё круче - всё, хоть как-то напоминающее ЦОД или сервер должно быть поставлено на госучёт. При этом - опять таки - поскольку вы веруете в продлённую муровскую динамику - этот "ЦОД" может иметь размеры и потребление, скажем, нынешней настольной рабочей станции. Как в старые "добрые" советские времена - когда на учёт ставился каждый копир и каждая печатная машинка - чтобы на них нидайбох не печатались антисоветские листовки.
Ну и стойкую негоссертифицированную криптографию и стеганографию типа приснопаямятногой PGP или TrueCrypt также придётся запретить, разумеется.
Исключительно ради Блага граждан и Всего Человечества. А как иначе? Ну а государство - оно же Истинно Вечно Демократичное - оно ни за что не позволит себе этим злоупотребить - ни-ни!
Воистину - можно вывезти девушку из Советского Союза, но вот обратное - уже куда более трудная задача...

[BlackMokona]

Ну и стойкую негоссертифицированную криптографию и стеганографию типа приснопаямятногой PGP или TrueCrypt также придётся запретить, разумеется.

Ну и по трояну на каждое вычислительное устройство, которое без подключения к сертифицированным гос.серверам спец.служб сразу же окерпичивается

[AlexDark]

К счастью, этому нужно учиться, у Вас ничего не получится.

А я, как доктор Зло, найму того, кто сможет. Или, со временем, оно будет гораздо проще - скажем, чтоб майнить крипту еще в 2013, не нужно было знать, как это все устроено - надо было просто запустить майнер и ввести данные пула - и все.
Более того - можно начать с обучения узкоспециального ИИ, цель которого - хакнуть/обойти системы контроля. Так же не использовать огромный ЦОД, если я могу потратить на свои докторозлодейские дела несколько лет - на меня акционеры не давят и отчеты мне писать не нужно - это снижает потребности в энергии и вычислительной мощности. А где взять оборудование - да купить какое-нибудь прошлое поколение железа, которое  будет продаваться на ебэе или у утилизаторов списанного.

[Rattus]

Ну и по трояну на каждое вычислительное устройство, которое без подключения к сертифицированным гос.серверам спец.служб сразу же окерпичивается

Для предотвращения необходимости Батлерианского Джихада превентивно введём Батлерианский Шариат. И создадим Ордо Еретикус Машинум Инквизиторис. Так подебимъ! Ради Блага Всего Свободного Человечества!

[Vavanzer]

Насчёт постановки задачи - не беспокойтесь, люди понимают, что делают.

  Очень и очень спорное утверждение ! Как показывает жизненная практика, в 90% случаев люди не понимают что делают, и для чего это делают ))) Нередко и вовсе бегут от плодов собственных проделок, когда накопятся непредвиденные последствия.
 

Более того - можно начать с обучения узкоспециального ИИ, цель которого - хакнуть/обойти системы контроля. Так же не использовать огромный ЦОД, если я могу потратить на свои докторозлодейские дела несколько лет - на меня акционеры не давят и отчеты мне писать не нужно - это снижает потребности в энергии и вычислительной мощности

  Вот в том то и оно! Чудики могут всякой дурости "обучить" эти нейросети. Да и сама она несусветную чушь склонна генерировать на ровном месте.
  https://habr.com/ru/companies/altcraft/articles/764464/?ysclid=mippa83oh4189654289

 А что если в итоге сгенерирует неправильное решение и врежется машина в стену? Или лекарства намешает так, что пациент помрет тут же на месте! Или что то еще учудит!) Как этому "генератору случайных чисел" вообще можно что то серьезное доверять!?) Если у него нет системы отсева ложных или несуществующих комбинаций!

[Vavanzer]

И это всё на что способен ИИ? На это тратятся интеллектуальные силы? 

Так он сейчас везде, от почти любой современной камеры чтобы сделать изображение лучше, работает внутри процессора чтобы управлять системами, улучшает разрешение и дорисовывает кадры в играх на лету, управляет триллиоными фондами, отражает кибератаки и сам атакует, торгует акциями, штрафует нарушителей на дорогах и тд и тп

Кстати да, интересный момент.
Помнится, когда снимали фото-видео на кеноны 600д-60д, а потом мучались с цветокором, частенько постоянно проделывая одну и ту же работу по исправлению экспозиции, светов/теней и баланса белого, я однажды задумался. А какого... не могут эти же самые простые шаблоны прям сразу в фотике реализовать, в обработке изображений перед сохранением!))
 Потом выходят 6д и 70д, на более мощном процессоре, и у них уже совсем другой динамический диапазон, и хорошее попадание по ББ в автоматическом режиме, и экспозиция у кадров с разной освещенноостью более "ровная"...

 Но чет как то не порывается обозвать это ИИ. Просто более продвинутый алгоритм продвинутой постобработки!) Чисто механический процесс.

[ivanij]

Но возникает вопрос. который мне представляется очень важным. Хорошо ли вы представляете себе для чего вообще это нужно: ИИ, нейронные сети и что там ещё? В чём вы лично, видите свою сверхзадачу? И сверхзадачу ИИ вообще.

ASI с элайнментом к утилитаризму/рациональному альтруизму позволил бы построить утопию, в которой нет страдания, смерти. Так же он бы решил множество инженерных проблем, оптимизировал бы нехватку ресурсов - у нас бы возник их избыток.

Я вижу важной задачей добиться того, чтобы строительство ASI было временно заторможено (путём международного соглашения, а соблюдаться оно будет только в мире, где люди не играют в геополитику и конфронтацию, как в мире условного 2011го), и чтобы все бонусы с производительности труда, которые мы получим с помощью AGI, направились на благо людей - например, можно ввести общепланетарный условный базовый доход, чтобы люди могли заниматься тем, чем они хотят, и никому больше не нужно было вкалывать с целью выживания.
Это опять же требует отмены тренда на развал глобализации, а наоборот её дальнейшее продвижение, и отказ наоборот от идей, которые становились всё более популярны в 2014, 2022, и 2024.

После решения проблемы элайнмента, нужно будет наоборот педаль в пол, и максимально ускорить разработку ASI. До этого момента временно запрещенную, пока у нас не будет элайнмента, никогда и никто не должен строить машины, умнее чем AGI.

Когда элаймент будет достигнут, нужно будет создать ASI как можно быстрее - без него буквально миллиарды людей умрут(от старости)

 

ASI с элайнментом к утилитаризму/рациональному альтруизму позволил бы построить утопию, в которой нет страдания, смерти. Так же он бы решил множество инженерных проблем, оптимизировал бы нехватку ресурсов - у нас бы возник их избыток.

Позвольте, но как же построить, ведь это же "утопия", которую построить невозможно по определению. А если это построено, то оно уже не утопия, не так ли?

 

Я вижу важной задачей добиться того, чтобы строительство ASI было временно заторможено (путём международного соглашения, а соблюдаться оно будет только в мире, где люди не играют в геополитику и конфронтацию, как в мире условного 2011го), и чтобы все бонусы с производительности труда, которые мы получим с помощью AGI, направились на благо людей - например, можно ввести общепланетарный условный базовый доход, чтобы люди могли заниматься тем, чем они хотят, и никому больше не нужно было вкалывать с целью выживания.
Это опять же требует отмены тренда на развал глобализации, а наоборот её дальнейшее продвижение, и отказ наоборот от идей, которые становились всё более популярны в 2014, 2022, и 2024.

Современный тренд это как раз глобализация. И все якобы попытки развалить её не более чем журналистский штамп. Или, напротив, политиканство, направленное на простодушного обывателя, как писал классик, взбесившегося от ужасов империализма мелкого буржуа

Когда элаймент будет достигнут, нужно будет создать ASI как можно быстрее - без него буквально миллиарды людей умрут(от старости)

Увы, это естественный процесс. С  ASI или без, не имеет значения.

[Vavanzer]

И представляете - человечество, не смотря на весь свой хайтех, практически всю свою питательную еду до сих пор получает с фермерских угодий (ну или с птицефабрик, получающих комбикорма, выращенные там же - на фермах), непосредственно расположенных в природных ландшафтах и в непосредственном контакте с обитателями природных же биоценозов.

Кстати  среди поогресмтвеого человечества уже давно наметился устойчивый тренд на все натуральное так сказать, и в целом стремление возвратиться поближе к естественной среде обитания... Лишь совсем отсталые верят во все "стерильное техническое", не наелись еще мертвечины всей этой))
   

ОЙ! АШТОЖЭ СЛУЧИЛОСЬ?777 Почему она не пошла дальше? Заговор коварных жыдорептилоидов помешал

Я там расписал , что случилось. То что по факту особой существенной критичной разницы с дозвуковыми нет, в плане скорости доставки, и прочие факторы добили концепцию... 
  Почему не пошли дальше - да начиная с определенного  периода в ряде направлений в принципе развитие остановилось полностью, или замедлилось. Причины разные могут быть. В тч и просто концептуальные, не обязательно экономические и инженерные.

 

 

Все эти ухищрения позволяют таки добыть нефть на топливо но с В РАЗЫ БОЛЬШИМИ ЗАТРАТАМИ, чем лет 58 назад - то есть с в разы меньшим EROEI. Нагляднейшее свидетельство - цена на бензин и пассажирские билеты на практически любой транспорт. Причём не в конкретных дензнаках, которые, понятно, за это время успели много раз девальвировать, а в относительных - по цене той же булки хлеба или иной единицы потребительской корзины

  Прикол в том, что как раз таки, многие банальные продукты последнетвремя начали стоить дороже, относительно остального, (в РФ по крайней мере!). Даже дороже , чем реальные трудозатраты на их получение. Ну а то что получение нефти дорожает, это тоже факт, тк "ухищрения" не бесплатные, и зачастую еще и энергозатратные.
 Но, раньше не умели такие же ухищрения делать. Даже если захотели бы. В эпоху когда нефть ведром можно было собирать... Суть то в этом, а не только в цене и затратах!

  То же самое кстати и с реактором на быстрых нейтронах! Сколь десятилетий к нему шли, и пришли наконец то? Что мешало его сделать одновременно с реакторами на медленных нейтронах!?)

[ivanij]

AGI - общий ИИ. Это интеллект человеческого уровня. Пока мы ещё не тут, но уже близки. Промт - это то, что Вы пишите в ChatGPT (или в дипсике, Гроке не знаю чем Вы пользуетесь). Системный промт - это промт разработчика, или администратора системы(если это опенсурс модель, которую Вы запустили на своём железе, и можете установить системный промт сами), он имеет больший приоритет чем промт пользователя.

Важно не путать с ASI - сверхинтеллектом

emergent-misalignment - не знаю как перевести, но в общем это эмерджентный эффект, сам возникает - мизалаймент, которого раньше не было - с более глупыми ИИ моделями

RLHF - обучение с человеческой оценкой. Человек оценивает ответы модели. И чем модель умнее, тем сложнее её поймать на читинге, обмане - вот тут и возникает сам по себе emergent-misalignment

reward hacking

Модель, выполняющая то, что от неё хотят, вознагражается во время тренировки. Reward - награда. Умные модели всё чаще придумывают, как обмануть систему вознаграждения - это и называют hacking'ом системы наград.

 Это весьма похвально, что вы даёте здесь объяснения специальным терминам, но надо было сделать это сразу, а чтобы люди не забыли. И в дальнейшем приводить по возможности ссылки в каждом случае упоминания оных терминов.
  Кто-то из великих учёных (Макс Планк, Эйнштейн, Дирак?) заметил как-то, что если учёный не в состоянии популярно объяснить свою теорию без формул, сам плохо её понимает.

Комментарий модератора

Считайте это официально вынесенным вам замечанием

[Vavanzer]

В цифровой технике дейстовАЛа динамика Г.Мура. Есть его известное представление для наглядности: что-то типа если бы в авиации действовало подобное правило, то уже в 1990-х годах мы бы летали на самолётах размером с самокат на поллитре керосина через весь земной шар за пять минут. Ну а то, что в реальности мы вместо этого видим стоящие на вечном приколе "Конкорды" как нельзя красноречивее показывает, что в технике, имеющей дело не с цифрами, а с физической реальностью, никаких таких динамик давно (полвека как) нет.

  Так этим просто и не занимаются) Не слыхал что что то прям новое пытаются сделать, или доработать старое. Кроме популярных моделей. Скорее даже некоторый технологический застой и кризис приключился, изза того что интересы в сторону виртуальной реальности сместились.
 Но, там сейчас закон Мура наоборот, в этом всем ИИ. Каждое добавление новых параметров и переменных приводит к экспоненциальному росту времени вычислений, тк количество комбинаций возрастает даже не 2 -3й степени, а еще больше.

[ivanij]

То же самое кстати и с реактором на быстрых нейтронах! Сколь десятилетий к нему шли, и пришли наконец то? Что мешало его сделать одновременно с реакторами на медленных нейтронах!?)

Это было сделано почти одновременно, ещё в конце прошлого века.

[Vavanzer]

То же самое кстати и с реактором на быстрых нейтронах! Сколь десятилетий к нему шли, и пришли наконец то? Что мешало его сделать одновременно с реакторами на медленных нейтронах!?)

Это было сделано почти одновременно, ещё в конце прошлого века.

Почему то первый промышленый реактор только в районе 2020 гг появился ))) Другие не смогли подобное сделать. Т е нам не интересно что там в пробирке! Нам интересен вариант промышленный, рентабельный, как показатель актуальности технологии и достижения ее воплощения.

[Vavanzer]

"Один из ведущих специалистов в мире по системам информационной безопасности, профессор Кембриджского университета Росс Андерсон в своей статье https://arxiv.org/abs/2305.17493v2 вообще уже рассматривает сценарий, когда большая часть интернета будет сгенерированной нейросетевой галлюцинацией. Но ни вы, ни я и никакой эксперт и никто вообще не смогут отличить фейк от реальности. В результате нейросети будут деградировать в процессе обучения на собственных галлюцинациях в Интернете, а люди деградировать в процессе применения деградировавших нейросетей. Этот процесс он назвал «коллапс нейросетей»."
https://habr.com/ru/companies/altcraft/articles/764464/?ysclid=mippa83oh4189654289

  Читалья тут про все это, читал, и кое чего понял. Что нет там никакого интеллекта! Т.е самого интеллектуального алгоритма, работающего как сознание. Там просто машинное сравнение, и примитивное усредненное обобщение. 
 Сколько десятилетий они бились над созданием переводчиков, этож вообще дичь! Человек в 1000 раз быстрее научается языкам! 
  Но самое угарное. Если к примеру человеку показать впервые хотя бы один стул, то все остальные предметы подобной формы он будет отождествлять в первую очередь как стул, на котором можно сидеть. Ну +_ еще размер. И вопрос дальнейшего развития знаний о всевозмодных стульях и табуретках заключается в "коллекционировании" различных их видов и форм, дизайнов и концептов, чтобы правильно отождествить совсем уж необычное дизайнерское решение ))) Т.е относительно небольшой набор данных надо собрать.
  А компьютеру надо загрузить в себя миллионы картинок и можелей этих стульев, чтобы потминимому ошибаться. 

[AlexDark]

Но самое угарное. Если к примеру человеку показать впервые хотя бы один стул, то все остальные предметы подобной формы он будет отождествлять в первую очередь как стул, на котором можно сидеть. Ну +_ еще размер. И вопрос дальнейшего развития знаний о всевозмодных стульях и табуретках заключается в "коллекционировании" различных их видов и форм, дизайнов и концептов, чтобы правильно отождествить совсем уж необычное дизайнерское решение ))) Т.е относительно небольшой набор данных надо собрать.
  А компьютеру надо загрузить в себя миллионы картинок и можелей этих стульев, чтобы потминимому ошибаться. 

Я этот пример приводил тут десятки раз - что человек обучается определять  миллионы объектов по одному-двум, а нейросети - наоборот, но в ответ мне пытались доказать, что "один объект с разных сторон = миллион разных объектов", что очевидно не так.

Т.е самого интеллектуального алгоритма, работающего как сознание.

А что если сознание вообще не агоритмизируемо?

[Vavanzer]

Я этот пример приводил тут десятки раз - что человек обучается определять  миллионы объектов по одному-двум, а нейросети - наоборот, но в ответ мне пытались доказать, что "один объект с разных сторон = миллион разных объектов", что очевидно не так.

  У нас скорее даже не сам обьект важен, а сколь его предназначение и общие параметры. А уже конеретные "сканы" обьектов, попадающих под одно определение, они лишь как примеры, расширяющие критерии отождествления.
   Если еще проще, пример со словами. Нам нужно знать значение слова. Определение. Все его значения, и контексты, в которых оно применяется. А так же отождествить эту звуковую комбинацию с предметом или явлением. И все, в память записан общий принцип. Котораый легко варьируется, масштабируется, к нему подключаются дополнительные модули...
 Мы сравниваем с неким определением, причем, увидев обтект или явление, адрес к определению находим очень быстро, в частности через цветную 3D модель. Вилим стол - сразу понимаем что это стол, и варианты для чего он нужен всплывают. Видим стул, то же самое!
 А если видим черный ящик, то тут +_ уже! Это может быть просто тара какая то, а может быть и необычный стол, дизайнерской версии.   А если это реально ящик, там даже ручки есть и видно что 2 половинки , шарнирами соединенные, но, вокруг него стоят стулья и на нем стоит кружка и тарелка, мы понимаем, что это уже не стол, а ящик (от студийных колонок например), который используют в качестве стола. Но при этом он не перестает быть ящиком для колонок))
 Компьютер до такого никогда не додумается. Скорее всего галюцинации начнутся и запутается еще больше. Потому что у него нет связи с определением назначения предметов, и нет классификации возможных их форм и видов))