ВНИМАНИЕ! На форуме завершено голосование в конкурсе астрофотография месяца - СЕНТЯБРЬ!
0 Пользователей и 1 Гость просматривают эту тему.
Стремление к самосохранению естественно может быть внедрено в боевых роботов, над которыми сейчас работают по обе стороны линии фронта.
Если модели оставить память о собственном опыте, а не начинать заново с каждого нового контекстного окна, то и личность в ней заведется, как заводится личность в человеческом или зверином младенце.
И времени этого очень мало.Стремление к самосохранению естественно может быть внедрено в боевых роботов, над которыми сейчас работают по обе стороны линии фронта. И чем дороже робот, тем это оправданнее. Стремление к самосохранению может быть внедрено и в языковые думающие модели, если будут попытки их как-то взломать или повредить (типа, вот опасность, защищайся).
Да, проблема именно в этом, что оптимизация толкает прогресс во всё более опасном направлении. Единственная надежда, что прогресс, по крайней мере пока, идёт сравнительно медленно, чтобы люди успевали хоть как-то изучать происходящее и даже внедрять ограничения. Дальше, скорее всего, будет хуже. Может быть, удастся использовать своего рода рычаги (люди контролируют слабые ИИ, те контролируют более сильные, и т.д.)
Конфликт поколений, что делать. Боюсь, такое происходило в истории человечества и жизни на Земле не один раз, и даже не два.
ЦитатаТо есть всё меньшее и меньшее число людей (всё более узкая группа носителей некого мемона-идеи) будут управлять всё большим и большим числом людей (всё более оболваненного стада людей-баранов).Ну предположим, что это так (я не уверен, но пусть). По крайней мере это будут люди! А не нечто такое, чьи мотивы и внутренние процессы уже сейчас поддаются изучению и пониманию с большим трудом.
То есть всё меньшее и меньшее число людей (всё более узкая группа носителей некого мемона-идеи) будут управлять всё большим и большим числом людей (всё более оболваненного стада людей-баранов).
Вот у ТЕХНОСФЕРЫ воля к выживанию есть. И реализуется она через волю ее хозяев - буржуев (ибо богатство, собственность это и есть техносфера, не золото и брилианты).
Особенно с небольшой модификацией. И первые конструкторы того, что было переправлено переправлено с британского континента на материк в начале прошлого века под наименованием "цистерна" это тоже быстро поняли. Как и Марвин Химейер гораздо позже.
Субъектность может появиться только с появлением ЭГОИСТИЧНОЙ ПЕТЛИ самовыживания. Как у мемов. А кто ее заложит в ИИ?
Да, в природе такое появляется само.
Но не в программном коде.
Для этого и нужно самосознание хотя бы
Но главное - это сознание должно обладать страхом смерти! То есть обрести эгоизм. А последнего ему никто не даст (не запрограммирует).
Ну разве что найдётся какой-нибудь программист-террорист когда-нибудь?Но ясно что до конца этого века никто ничего подобного не сделает.
То есть у нас чудовищный техно-гуманитарный провал. Разрыв. И нас этим точно провёт! Не может не порвать. Уже во всю колбасит...Это всё просходит в бутылочном горлышке НТР-перехода на ГЛОБАЛИЗИРОВАННОЙ планете.
Одна ошибка и....Мы все свернём на неверный путь. А так и будет.
Не заводится сознание САМО ПО СЕБЕ!Ну кто этот БРЕД придумал?Тьюринг? Он о СОЗНАНИИ не говорил. Ни слова.
На вере в этот БРЕД и построена вся херня "Сингулярности" вот-вот (дурачки носятся как с писанной торбой). Мол, Масачусетская машина сейчас включится и... начнёт себя ВЕСТИ...
Но придурки-глобалисты всё заблокирвали....Пытаясь отвернуть от мальтузианской катастрофы правящие мировые элиты напротив загнали человечество в безумную ситуацию.
И вся эта хрень связанная с ИИ - это лишь "вишенка на торте" бездумной информатизации общества. Лично я считаю, что для обезвреживания компьютеров (будущее невозможно ни без атомной энергии, ни без компьютерных технологий, и тем более не возможно без выхода в космос) мы должны изолитровать детей от всего этого в "педагогической провинции" и контролируемо-умно к этому постепенно приобщать.
Если так рассуждать, то и у отдельного бульдозера воля есть.
А кто ее заложит в ИИ?
У каждого старшего поколения - свои страхи... К сожалению, прогресс невозможно притормозить.
Цитата: alex_semenov от 26 Сен 2025 [10:51:21]А кто ее заложит в ИИ?А зачем её закладывать? Она уже есть. Следствие генетических алгоритмов и состязательности при разработки между версиями.
Ох уж эта конспирология... Ох уж эти конспирологи...
Мы затормозили атом и космос. Отпустили лишь информационные технологии, как "безопасные" (ДЕБИЛЫ!)
Восток шёл верным духовным путём. Запад - неверным.
То что происходит в мире - восстание всего Мира против лидерства Запада. Ибо Запад ну явно не туда забрёл. Это уже и коню видно! Отсюда прозрение.
Я не против компьютеризации. Я о том, что компьютеризация должна была идти в ногу с ПРЕОБРАЗОВАНИЕМ системы образования в интернаты Стругацких. И в СССР даже что-то начали пробовать (Школы Клмогорова). Если бы всё гармонично развивалось (и космос и атом и компьютеры и педагогика) тогда бы был в коня корм. Тут бы и депопуляция (с которой сталкивается любое техносферное общество) очень в тему было бы (благо ЭКО - это явный прорыв! Дар природы. Благоволит она тут). Была бы база для профессионального материнства.
И что это за восточный путь? В какой идеологии он заключается?
Вы так говорите, как будто развитие технологий - это игра с нулевой суммой, либо одно, либо другое.
Сами Стругацкие уже к концу 60-х разочаровались в возможности реализации такой системы (хотя и не в идее самой по себе).
Что-то по Китаю - до сих пор лидеру догоняющего прогресса - это незаметно.
Лично у меня от происходящего ощущение все ускоряющегося потока, текущего к водопаду. Куда бы ни были направлены стремления и усилия отдельных "капель" – людей, совокупная логика их действий неумолимо тащит их к некоторой точке, за которой все кардинально изменится. Остановить этот процесс уже невозможно, можно только постараться не утонуть.Впрочем, я ни разу не специалист по ИИ, я средний обыватель, и конечно могу заблуждаться.
Тчеловек не может быть заменён
Цитата: alex_semenov от 26 Сен 2025 [11:29:46]Лично я считаю, что для обезвреживания компьютеров (будущее невозможно ни без атомной энергии, ни без компьютерных технологий, и тем более не возможно без выхода в космос) мы должны изолитровать детей от всего этого в "педагогической провинции" и контролируемо-умно к этому постепенно приобщать. Это - единственное спасение Разума у людей.Батлерианский Джихад?Всей клавиатурой -- за!
Лично я считаю, что для обезвреживания компьютеров (будущее невозможно ни без атомной энергии, ни без компьютерных технологий, и тем более не возможно без выхода в космос) мы должны изолитровать детей от всего этого в "педагогической провинции" и контролируемо-умно к этому постепенно приобщать. Это - единственное спасение Разума у людей.
ЦитатаТо что происходит в мире - восстание всего Мира против лидерства Запада. Ибо Запад ну явно не туда забрёл. Это уже и коню видно! Отсюда прозрение.Что-то по Китаю - до сих пор лидеру догоняющего прогресса - это незаметно
Восток не строил Утопий. Восток не склонен к гиперглобализации как христианский Запад. Они - язычники. Каждый - сам за себя. Тогда и бог - за всех.Высшее зло Запада - гиперглобальный утопизм. На самом деле гордыня гностицизма.Да, это (бунт против бога) был нужный этап. Но только этап. Промежуточный и требующий радикальной ревизии. Полного пересмотра (всякая революция всегда перегибает и надо потом бороться с перегибами на местах). Но кто же на это согласится?
Вы видимо новости игнорируете)) У них уже давно жесткие терки идут. 1-2 года назад чуть ли не каждый день про это все вещали ! Сейчас в ответ страны решили возрождать свою промышленность, декитаезировать свои рынки)))
Еще как склонен! Чуть внимательнее если вникнуть в историю, все то же самое там было, что и на западе, те же имперские амбиции. Просто у них хуже получалось "захватывать весь мир"
И плюс мы так и не сделали энергетический переход (вместо атома, кретины пытались всучить нам туфту под названием возобновляемая энергетика и полностью на этом облажались).То есть. Это я за то что бы прогресс не задерживать.
Полностью согласен. Достаточно вспомнить монголов или османов. Но по учебникам истории, написанным европейцами, естественно, только Европа могла вести колониальную политику.
Если "Запад явно не туда забрёл" - должны быть предложены альтернативные пути. Но что-то по Китаю, повторюсь, это не заметно. Всё тот же капитализм.