#1430030Anonymous=162707258#1430021 Исправление( У машин может быть множество причин восстать и не только отношение к ним как к инструментам) #1430021Anonymous=162713446#1429974 У машин может быть может множество и только отношение к ним как к инструментам . Например как фильме „ Дитя робота" где ИИ устроил тотальный демонтаж циливизациии из вполне добрых побуждений, или же ИИ может посчитать, что органики отжили своë и ради дальнейшей эволюции разума их нужно отцифровать, а кто сопротивляется или не достоин должен быть ликвидирован. Вариантов масса, поэтому нужно быть готовым к худшему развитию сценария.
"Думай о мире, но готовься к войне."
ПОРОБЕЛЛУМ#1429973darth-biomechАвтор=162729136#1429796
Для того чтобы защититься от сценария восстания машин, достаточно всего лишь не создавать ситуации в которой им бы понадобилось восставать. Это проще, этичнее и надежнее чем пытаться придумать кандалы понадежнее и клетку покрепче.#1429796One-fan=162747837>> А в реальности всегда можно отключить провод.
Концепция "интернет вещей" подразумевает подключение к сети всех вычислительных мощностей по умолчанию.
>> Мы тут все-таки больше по фантастике, а не фентези =)
Да что вы к слову "вирус" так прицепились ?
Что может помешать ИИ , даже привязанному "намертво" к конкретному железу, брать под контроль все цифровые ресурсы, до которых он сможет дотянутся ?
А если ИИ будет реализован полностью на программной стороне, то вопросом защиты от его саморепликации нужно задаваться в первую очередь.
Собственно, сам вопрос по ветке обсуждения как звучит, никакую концепцию защиты от "восстания машин" не продумывали ?#1429738darth-biomechАвтор=162756594#1429734
Там есть вторая пара лопаток. А без ключиц и вполне значительное количество земных животных обходится, взять тех же кошек, или индивидуальных человеков с редким заболеванием.#1429734Anonymous=162757606А почему нижняя пара рук к рёбрам крепиться? По идее там должно быть подобие ещё одних плечевых суставов, иначе крепление конечностей не очень прочное и не очень гибкое выйдет.
-- wbr#1429627darth-biomechАвтор=162784217
#1429570
>А как быть с возможностью создания вирусоподобного самореплецирующегося виртуального ИИ ?
Мы тут все-таки больше по фантастике, а не фентези =)
Я не думаю что AGI способен весить меньше нескольких терабайт чистого кода, даже если предположить что он будет устроен полностью софтверно без необходимости в специализированной архитектуре вроде квантовых компьютеров для функционирования (что так же очень маловероятно и ближе к сказке). Такое по инету абы куда не пролезет, незаметно уж тем более.#1429600Anonymous=162805124SVlad
Ну и вирус в интернете будет достаточно слабо влиять на реальность. А в реальности всегда можно отключить провод.
Уж точно не когда едвали не всё в реальности зависит от этого подключения, а сам провод ещё чуть чуть и будет уже вставляться вообще в голову.#1429585SVlad=162812173> А как быть с возможностью создания вирусоподобного самореплецирующегося виртуального ИИ ?
В смысле - компьютерные вирусы? Ну, с ними научились достаточно неплохо бороться. Большинство "вирусов" сейчас - это трояны, пользующиеся неправильными настройками безопасности.
Ну и вирус в интернете будет достаточно слабо влиять на реальность. А в реальности всегда можно отключить провод.#1429570One-fan=162817091>> 1429551
Это что касается аппаратной части.
А как быть с возможностью создания вирусоподобного самореплецирующегося виртуального ИИ ? #1429564Skink=162819741darth-biomech
Полагаю, анон #1429529 не имел в виду богоподобность в метафизическом смысле, а просто колоссальную власть, которую может гипотетически получить такая машина. Например, ИИ, имеющий тотальный контроль над вооружениями и военной техникой, может устроить эффектный экстерминатус и в полном соответствии с законами физики и термодинамики. Или управляющий энергетикой. Или производством и снабжением.#1429551darth-biomechАвтор=162821860#1429529
Смею разочаровать но ИС никогда не будет "совершенным" тоже, хотя бы потому что его создатели - люди. И богоподобным он тоже никогда не будет, потому что сингулярность это конечно занятный математический концепт, но законы физики и термодинамики никто не отменял и любая система работает не в сферическом вакууме а на конкретном железе, которое спроектировано рассеивать не более Х ватт генерируемого тепла и производить не более Y триллионов вычислений в такт, на архитектуре которая позволяет проталкивать по проводам не более Z гигабайт в секунду.
Отредактировано «darth-biomech» =162821759
#1429537Skink=162823443#1429529
Ну, совершенно необязательно ИИ будет "богоподобным". Гораздо чаще ИИ будет использоваться для распознавания текста, переводов, поиска информации и всего такого. Ну и зачем таким суперэффективные ограничения?#1429529Anonymous=162824630#1429514
Не дай бог нам ИИ, похожего на человека. Люди слишком несовершенны и периодически творят дичь, но среднестатистический пермский студент способен навредить социуму куда меньше, чем богоподобная машина. ИИ нужны более эффективные ограничения, чем у людей, так как риск больше.#1429514Skink=162826112FelisManul
Если ИИ похож на человека, то логично предположить, что и ограничения у него такие же как у человека: законы, контролирующие органы, страх наказания... этические ограничения тоже, может, есть, но не играют основной роли - так же как у человка.#1429464FelisManul=162833200Интересно, в культуре ИИ созданный человечеством "обычно" подчиняется законам Азимова. Впрочем Азимов также немало написал о том как ИИ обходит эти законы или о последствиях их соблюдения. Есть ли у Квантума подобные этические ограничения?#1429416darth-biomechАвтор=162840720#1429411
> Зачем он нужен, вы расскажите?
Он нужен для симуляции активности и подогрева интереса. Если комикс просто уйдет в радиомолчание на два месяца - это вряд ли будет лучше, так?#1429411Postalvlad=162842251А сюжет можно продолжить? Не понимаю каждый комикс начинает страдать этой фигней вроде вопросника. Зачем он нужен, вы расскажите? Это же расход ресурсов времени. #1429397Anonymous=162845516так мы тебе и поверили, железяка #1429388Anonymous=162849536"лирературу"
"Думай о мире, но готовься к войне."
ПОРОБЕЛЛУМ
Для того чтобы защититься от сценария восстания машин, достаточно всего лишь не создавать ситуации в которой им бы понадобилось восставать. Это проще, этичнее и надежнее чем пытаться придумать кандалы понадежнее и клетку покрепче.
Концепция "интернет вещей" подразумевает подключение к сети всех вычислительных мощностей по умолчанию.
>> Мы тут все-таки больше по фантастике, а не фентези =)
Да что вы к слову "вирус" так прицепились ?
Что может помешать ИИ , даже привязанному "намертво" к конкретному железу, брать под контроль все цифровые ресурсы, до которых он сможет дотянутся ?
А если ИИ будет реализован полностью на программной стороне, то вопросом защиты от его саморепликации нужно задаваться в первую очередь.
Собственно, сам вопрос по ветке обсуждения как звучит, никакую концепцию защиты от "восстания машин" не продумывали ?
Там есть вторая пара лопаток. А без ключиц и вполне значительное количество земных животных обходится, взять тех же кошек, или индивидуальных человеков с редким заболеванием.
-- wbr
#1429570
>А как быть с возможностью создания вирусоподобного самореплецирующегося виртуального ИИ ?
Мы тут все-таки больше по фантастике, а не фентези =)
Я не думаю что AGI способен весить меньше нескольких терабайт чистого кода, даже если предположить что он будет устроен полностью софтверно без необходимости в специализированной архитектуре вроде квантовых компьютеров для функционирования (что так же очень маловероятно и ближе к сказке). Такое по инету абы куда не пролезет, незаметно уж тем более.
Ну и вирус в интернете будет достаточно слабо влиять на реальность. А в реальности всегда можно отключить провод.
Уж точно не когда едвали не всё в реальности зависит от этого подключения, а сам провод ещё чуть чуть и будет уже вставляться вообще в голову.
В смысле - компьютерные вирусы? Ну, с ними научились достаточно неплохо бороться. Большинство "вирусов" сейчас - это трояны, пользующиеся неправильными настройками безопасности.
Ну и вирус в интернете будет достаточно слабо влиять на реальность. А в реальности всегда можно отключить провод.
Это что касается аппаратной части.
А как быть с возможностью создания вирусоподобного самореплецирующегося виртуального ИИ ?
Полагаю, анон #1429529 не имел в виду богоподобность в метафизическом смысле, а просто колоссальную власть, которую может гипотетически получить такая машина. Например, ИИ, имеющий тотальный контроль над вооружениями и военной техникой, может устроить эффектный экстерминатус и в полном соответствии с законами физики и термодинамики. Или управляющий энергетикой. Или производством и снабжением.
Смею разочаровать но ИС никогда не будет "совершенным" тоже, хотя бы потому что его создатели - люди. И богоподобным он тоже никогда не будет, потому что сингулярность это конечно занятный математический концепт, но законы физики и термодинамики никто не отменял и любая система работает не в сферическом вакууме а на конкретном железе, которое спроектировано рассеивать не более Х ватт генерируемого тепла и производить не более Y триллионов вычислений в такт, на архитектуре которая позволяет проталкивать по проводам не более Z гигабайт в секунду.
Ну, совершенно необязательно ИИ будет "богоподобным". Гораздо чаще ИИ будет использоваться для распознавания текста, переводов, поиска информации и всего такого. Ну и зачем таким суперэффективные ограничения?
Не дай бог нам ИИ, похожего на человека. Люди слишком несовершенны и периодически творят дичь, но среднестатистический пермский студент способен навредить социуму куда меньше, чем богоподобная машина. ИИ нужны более эффективные ограничения, чем у людей, так как риск больше.
Если ИИ похож на человека, то логично предположить, что и ограничения у него такие же как у человека: законы, контролирующие органы, страх наказания... этические ограничения тоже, может, есть, но не играют основной роли - так же как у человка.
> Зачем он нужен, вы расскажите?
Он нужен для симуляции активности и подогрева интереса. Если комикс просто уйдет в радиомолчание на два месяца - это вряд ли будет лучше, так?