Голосование

Когда появится сильный ИИ (замена человека) ?

до 2030 года
от 2030 до 2050 года
в XXI веке
в ближайшие тысячи лет
Никогда
Не могу оценить/не знаю/другое

A A A A Автор Тема: ИИ: какого понимания нам не хватает?  (Прочитано 125660 раз)

0 Пользователей и 1 Гость просматривают эту тему.

Оффлайн BlackBox

  • ***
  • Сообщений: 126
  • Благодарностей: 5
  • Мне нравится этот форум?
    • Сообщения от BlackBox
Re: ИИ: какого понимания нам не хватает?
« Ответ #1700 : 18 Янв 2018 [02:46:11] »
Во всяком случае, вопрос остаётся открытым: так ли уж нужна вся эта тёплая ламповая аналоговость не для имитации мозга, а для построения общего ИИ с нуля.

С т.з. психофизики (или физопсихики?) человек сильно ограничен. Звук воспринимается до 15 кгц. Видимый свет 385-750 ТГц. Вот собсна и все. У многих животных и то поболее...
Представьте сколько интересного бы открылось увеличь этот диапазон хотябы на порядок! Звездное небо (и не только) засияло бы новыми цветами, образами.
Обучив систему можно было бы распознавать, и находить что то новое за границами нашего восприятия, исследовать то что сейчас нам недоступно.
Можно ли удивляться тому что реликт был обнаружен вообще случайно. И сколько таких открытий в перспективе?  ИИ в этом плане это серьезный прорыв.
 

Оффлайн Rattus

  • Модератор
  • *****
  • Сообщений: 16 285
  • Благодарностей: 621
  • Души прекрасные порывы! Убеждённый Ωптимистъ
    • Сообщения от Rattus
Re: ИИ: какого понимания нам не хватает?
« Ответ #1701 : 18 Янв 2018 [12:32:50] »
С т.з. психофизики (или физопсихики?) человек сильно ограничен.
Биофизики сенсоров. Центральная часть анализатора принципиально универсальна и ей всё равно какие данные подаются на вход, как наглядно показано в лекции Дэвида Иглмэна.
Представьте сколько интересного бы открылось увеличь этот диапазон хотябы на порядок!
На порядок не получится. Максимум - раза в полтора-два. Дальше уже физика мешает. Причём для полного охвата всех доступных диапазонов скорее всего потребуются дополнительные глаза: просто потому что к сенсорам разных диапазонов физикой предъявляются противоположные технические требования, а системы динамической адаптации тоже не резиновые.
Звездное небо (и не только) засияло бы новыми цветами, образами.
Фиг бы оно засияло с поверхности Земли: до 0,3 и после 1,4 мкм всё отрезается в тропосфере, дальше зашумляется теплом, а для получения картинки в радиодиапазоне вообще нужны телескопы километровых площадей просто в силу длин волн.
Тому, кто жаждет всех запретных тайн Астрофорума в одном месте поможет число 1919.

Ннапыльн%х тpапинкахъ далиокихъ плонеттъ астануцца нашшы погадкиъ! (ЙожЪ, SKL)
Скоро у людей закончится космос. (П.Лемтыбож - "Теоремы Пафнуция")
Я брала города, я стану - еда! (Серебряная Свадьба - "Пищевая цепочка")
Уранизация естественным образом снижает численность человечества (Вика Воробьёва, ВЖР, 30.10.2012)

Оффлайн -Юрий-

  • *****
  • Сообщений: 9 320
  • Благодарностей: 224
  • Попытка - первый шаг к провалу.
    • Сообщения от -Юрий-
Re: ИИ: какого понимания нам не хватает?
« Ответ #1702 : 18 Янв 2018 [20:39:01] »
С т.з. психофизики (или физопсихики?) человек сильно ограничен. Звук воспринимается до 15 кгц. Видимый свет 385-750 ТГц. Вот собсна и все. У многих животных и то поболее...
Представьте сколько интересного бы открылось увеличь этот диапазон хотябы на порядок! Звездное небо (и не только) засияло бы новыми цветами, образами.
Так он ограничен не по чьей-то злой воле, а просто постепенно утратил многие способности за ненадобностью. Эти способности человеку заменил разум. Мы и сейчас теряем имеющиеся хот какие-то способности. И куда мы придём в конце концов, страшно подумать. Человек просто создаст себе некую искусственную оболочку и будет в ней жить, как устрица в ракушке.
Надо очень много знать, чтобы понять своё невежество.
(кликните для показа/скрытия)

Оффлайн Olweg

  • *****
  • Сообщений: 17 357
  • Благодарностей: 465
    • Сообщения от Olweg
Re: ИИ: какого понимания нам не хватает?
« Ответ #1703 : 20 Янв 2018 [14:03:44] »
Перевод интересной скептической статьи на тему машинного обучения:

Глубинное обучение: критическая оценка
Планеты других звёзд. История открытий
http://allplanets.ru/history_Olweg.htm

Оффлайн BlackBox

  • ***
  • Сообщений: 126
  • Благодарностей: 5
  • Мне нравится этот форум?
    • Сообщения от BlackBox
Re: ИИ: какого понимания нам не хватает?
« Ответ #1704 : 03 Фев 2018 [10:47:30] »
Пришла идея что ИИ может нанести вред той или иной степени тяжести "неосознанно". Если, допустим, и осознанно, легче ли вам мертвым от этого будет?
Причем, вы не сможете понять кто виновен и что стало причиной. Например, через обфуцировании неразличимости при создании алгоритмов самим ИИ.
Попытка реверса или разбора при исследовании причин ЧП, ни к чему не приведут.

Оффлайн neolopus

  • *****
  • Сообщений: 510
  • Благодарностей: 26
    • Сообщения от neolopus
Re: ИИ: какого понимания нам не хватает?
« Ответ #1705 : 03 Фев 2018 [20:52:55] »
Да, есть такое мнение.
Что в машину обязательно надо закладывать некую этическую составляющую.

Грубо говоря чтобы если возникнет у робота мысль - "а как устроен изнутри лежащий на улице алкаш? Разберём да посмотрим?" - чтобы ему тут же приходила следующая мысль: "а не наврежу ли я ему когда стану его разбирать?"

Выходит, ИИ должен "понимать" последствия своих поступков. Тут не каждый человек это понимает, а нам надо чтобы ИИ понял...

Оффлайн Olweg

  • *****
  • Сообщений: 17 357
  • Благодарностей: 465
    • Сообщения от Olweg
Re: ИИ: какого понимания нам не хватает?
« Ответ #1706 : 04 Фев 2018 [13:01:49] »
Интересная лекция.
http://www.youtube.com/watch?v=R_RDO4QNRiY#

Получается, общий ИИ уже штурмуют с разных направлений.
Планеты других звёзд. История открытий
http://allplanets.ru/history_Olweg.htm

Оффлайн kovip

  • *****
  • Сообщений: 3 469
  • Благодарностей: 21
  • Мне нравится этот форум!
    • Сообщения от kovip
Re: ИИ: какого понимания нам не хватает?
« Ответ #1707 : 04 Фев 2018 [14:30:07] »
Выходит, ИИ должен "понимать" последствия своих поступков. Тут не каждый человек это понимает, а нам надо чтобы ИИ понял...
Нафига ему этика? Этика свод правил, поведения в обществе, ограничивающее коллапс системы. ИИ достаточно конечной задачи, чтобы обезьянки, возомнившие, себя подобиями божьими были сыты, в тепле и имели достаточно игрушек. Ему же самому ничего не надо у него ни инстинктов, ни желаний формируемых эндокринной системой, не будет. Т.е. это очень мощный компьютер со сложной архитектурой, и не более того.
Мир теряет своих гениев: Эйнштейн умер, Бетховен оглох, Пушкина застрелили, теперь вот что-то и мне не здоровится ... :D

Оффлайн Olweg

  • *****
  • Сообщений: 17 357
  • Благодарностей: 465
    • Сообщения от Olweg
Re: ИИ: какого понимания нам не хватает?
« Ответ #1708 : 04 Фев 2018 [14:39:08] »
Этика нужна, чтобы ограничить возможный набор решений, который ИИ будет принимать для достижения поставленных ему целей. Потому что сами эти решения могут идти в разрез с интересами человека.
Планеты других звёзд. История открытий
http://allplanets.ru/history_Olweg.htm

Оффлайн kovip

  • *****
  • Сообщений: 3 469
  • Благодарностей: 21
  • Мне нравится этот форум!
    • Сообщения от kovip
Re: ИИ: какого понимания нам не хватает?
« Ответ #1709 : 04 Фев 2018 [14:52:25] »
Потому что сами эти решения могут идти в разрез с интересами человека.
Можно подумать что управление обществом, учитывает интересы отдельного человека. Если надо на "благо общества" убивают мучают, разделывают как скотину на бойне миллионы людей и ничего, никакого кошмара для тех, кого лично, это не касается, не возникает. 
Мир теряет своих гениев: Эйнштейн умер, Бетховен оглох, Пушкина застрелили, теперь вот что-то и мне не здоровится ... :D

Оффлайн Olweg

  • *****
  • Сообщений: 17 357
  • Благодарностей: 465
    • Сообщения от Olweg
Re: ИИ: какого понимания нам не хватает?
« Ответ #1710 : 04 Фев 2018 [15:14:08] »
Вот и нужно этого избежать хотя бы в случае ИИ. Чтобы оптимальным решением не было уничтожение половины человечества ради блага другой половины.
Планеты других звёзд. История открытий
http://allplanets.ru/history_Olweg.htm

Оффлайн kovip

  • *****
  • Сообщений: 3 469
  • Благодарностей: 21
  • Мне нравится этот форум!
    • Сообщения от kovip
Re: ИИ: какого понимания нам не хватает?
« Ответ #1711 : 04 Фев 2018 [17:43:02] »
Вот и нужно этого избежать хотя бы в случае ИИ. Чтобы оптимальным решением не было уничтожение половины человечества ради блага другой половины.
"Пусть со мной вместе сдохнут все?"
Мир теряет своих гениев: Эйнштейн умер, Бетховен оглох, Пушкина застрелили, теперь вот что-то и мне не здоровится ... :D

Оффлайн Olweg

  • *****
  • Сообщений: 17 357
  • Благодарностей: 465
    • Сообщения от Olweg
Re: ИИ: какого понимания нам не хватает?
« Ответ #1712 : 04 Фев 2018 [17:51:03] »
? Не понял, к чему вы.
Планеты других звёзд. История открытий
http://allplanets.ru/history_Olweg.htm

Оффлайн dimon753

  • Новичок
  • *
  • Сообщений: 20
  • Благодарностей: 0
  • Мне нравится этот форум!
    • Сообщения от dimon753
Re: ИИ: какого понимания нам не хватает?
« Ответ #1713 : 04 Фев 2018 [17:56:26] »
Ход ваших рассуждений напоминает сюжет фильмов "терминатор" :)

Оффлайн Combinator

  • *****
  • Сообщений: 2 692
  • Благодарностей: 92
    • Сообщения от Combinator
Re: ИИ: какого понимания нам не хватает?
« Ответ #1714 : 04 Фев 2018 [20:43:52] »
Интересная лекция.
http://www.youtube.com/watch?v=R_RDO4QNRiY#

Получается, общий ИИ уже штурмуют с разных направлений.

Спасибо. Приятно узнать, что Лёша по прежнему активно интересуется этой проблемой, хотя и жаль, что организуемые им семинары в ЛИТМО в конце-концов приказали долго жить...

Оффлайн kovip

  • *****
  • Сообщений: 3 469
  • Благодарностей: 21
  • Мне нравится этот форум!
    • Сообщения от kovip
Re: ИИ: какого понимания нам не хватает?
« Ответ #1715 : 05 Фев 2018 [16:04:38] »
организуемые им семинары в ЛИТМО в конце-концов приказали долго жить...
Что дошло что универсальный инструмент всегда хуже специальных? Общем полным ИИ только идиоты занимаются, мечтая самим стать бессмертными и иметь безотказную универсальную прислугу.
Мир теряет своих гениев: Эйнштейн умер, Бетховен оглох, Пушкина застрелили, теперь вот что-то и мне не здоровится ... :D

Оффлайн незлой

  • *****
  • Сообщений: 20 574
  • Благодарностей: 576
  • философ-экспериментатор
    • Сообщения от незлой
Re: ИИ: какого понимания нам не хватает?
« Ответ #1716 : 06 Фев 2018 [07:40:46] »
Что дошло что универсальный инструмент всегда хуже специальных

кроме тех случаев, когда нужного специального инструмента под рукой просто нет.
не предугадали данное стечение обстоятельств, и не захватили с собой. ::)

в космосе подобных случаев будет большой вагон и ещё маленькая тележка. без "универсального инструмента" там никак.
меня интересуют только мыши, их стоимость, и где приобрести.

Оффлайн Rattus

  • Модератор
  • *****
  • Сообщений: 16 285
  • Благодарностей: 621
  • Души прекрасные порывы! Убеждённый Ωптимистъ
    • Сообщения от Rattus
Re: ИИ: какого понимания нам не хватает?
« Ответ #1717 : 06 Фев 2018 [07:44:58] »
кроме тех случаев, когда нужного специального инструмента под рукой просто нет.
Собеседник просто в походах не был давно или средствов на приобретение швейцарского мультитула у него нету - не будем его за это корить, а лучше дадим домашнее задание придумать замену плохой неэффективной РНК в клетку. ;)
Тому, кто жаждет всех запретных тайн Астрофорума в одном месте поможет число 1919.

Ннапыльн%х тpапинкахъ далиокихъ плонеттъ астануцца нашшы погадкиъ! (ЙожЪ, SKL)
Скоро у людей закончится космос. (П.Лемтыбож - "Теоремы Пафнуция")
Я брала города, я стану - еда! (Серебряная Свадьба - "Пищевая цепочка")
Уранизация естественным образом снижает численность человечества (Вика Воробьёва, ВЖР, 30.10.2012)

Оффлайн Skipper_NORTON

  • *****
  • Сообщений: 5 634
  • Благодарностей: 84
  • Хочу на Меркурий!
    • Skype - sergeyyankovich
    • Сообщения от Skipper_NORTON
Re: ИИ: какого понимания нам не хватает?
« Ответ #1718 : 06 Фев 2018 [13:06:53] »
Есть такое понятие как "способность чувствовать". Это первооснова зарождения сознания.
Сознание сначала просто чувствует - вот это приятно, а это неприятно, и на основе этого - развивается.
Чувствовать например боль, или удовольствие.
 
И она - эта способность, либо есть, либо её нет.   Третьего не дано. (т.е. нельзя например сказать, что
существо способно чувствовать на 43%).
 
В какой момент оно появляется? Вот эта способность чувствововать. 
Способна ли чувствовать оплодотворённая яйцеклетка? Или  обычная - яйцеклетка?
 
И вот пока мы эту способность в наш ИИ не заложим, сознанием полноценным он не будет.
Можно запрограммировать робота, управляемого компьютером, который будет скажем, кривиться типа от боли
когда его ударят, но мы то знаем, что никакой боли он в действительности не чувствует - просто запрограммировано
такое его внешнее поведение.
 
А вот когда общаясь с нашим компьютером, мы будем понимать что можем доставить ему боль и негативные
чувства, т.е. когда  ЗООзащитники, будут качать права компьютеров, тогда можно сказать - ИИ создали.
 
Если же никакой сущности, которая способна чувствовать - не будет обнаружено, то следует констатировать
тот факт, что это свойство самой Вселенной - способность чувствовать.  Т.е. Вселенная обладает этим
первичным свойством, и первичным сознанием, и с самого нулевого момента времени, т.е. с Планковской эпохи
Вселенной - существовало сознание, способное чувствовать, и с тех пор оно развивается.  От него могут "отпочковаться" 
другие сознания  - как ветки деревьев от более крупных веток, но из ничто - сознание возникнуть не может.
 
Представить одно сознание, которое раздваивается в два - довольно легко. Даже что то подобное читал, когда у кого то
в мозгу происходили какие то нарушения, и терялась связь между полушариями, то там возникали два сознания,
с одним прошлым. Т.е. каждое из них как бы имело одинаковые воспоминания своего прошлого.
Ну или если  взять человека просканировать, и сделать копию в каком нибудь аппарате, то с вероятностью 50%
"Я" перейду в одну из этих двух копий, но второе сознание - нельзя сказать, что "только что народилось" - оно тоже
существовало раньше и проживало мою же жизнь и будет иметь те же воспоминания из прошлого.
Говоря со своим "двойником" таким образом, надо было бы говорить не "помнишь что у тебя было в жизни в 2000 году?",
а "помнишь как МЫ  то  и то делали в 2000 году"  :) 
 
Представить наоборот,  два сознания, которое сливается в одно - наоборот, намного труднее - кажется интуитивно,
что одно из них - должно погибнуть. Вопрос метафизики.
 
Да, и если такая теория (когда одно сознание "раздваивается" в два и более) - верна, то выходит, что все мы ведем
непрерывную жизнь - с самой планковской эпохи Вселенной. Только вот не помним прошлые жизни.
Но всё забыть - не означает умереть.  Я же забыл что делал в 2-летнем возрасте - но это Я БЫЛ, т.е. моё сознание,
а не некое сознание соседского мальчика.
Вот и теория реинкарнации (множественных жизней) из этого следует  :) 
И может быть "Я" - был когда то динозавром, птеродактилем или плезиадаписом в прошлом.
 
А вот именно, если будет обнаружена некая сущность которая отвечает за способность чувствовать (мифическая душа),
и будет доказано, что она действительно нарождается в момент рождения человека - тогда теория реинкарнации может быть,
и неверна. 
Но как ни крути - где то эта способность чувствовать - "находится". Либо в какой то специальной-неоткрытой сущности,
либо если её нет, то это свойство самой Вселенной.  "Я чувствую", доказать никому не могу, но меня никто в этом не переубедит  :)
 
 
 
 
« Последнее редактирование: 06 Фев 2018 [13:40:46] от Skipper_NORTON »

Оффлайн BlackMokona

  • *****
  • Сообщений: 22 170
  • Благодарностей: 657
  • Мне нравится этот форум!
    • Сообщения от BlackMokona
Re: ИИ: какого понимания нам не хватает?
« Ответ #1719 : 06 Фев 2018 [13:10:05] »
А вот когда общаясь с нашим компьютером, мы будем понимать что можем доставить ему боль и негативные
чувства, т.е. когда  ЗООзащитники, будут качать права компьютеров, тогда можно сказать - ИИ создали.
Уже качают права компьютеров.
Цитата
«ASPCR — это Американское общество за предотвращение жестокости по отношению к роботам (American Society for the Prevention of Cruelty to Robots), основанное в 1999 году».