Публикация
Покидая Колыбель
Изображение анонимного пользователя
#1430030Anonymous=162707258
#1430021 Исправление( У машин может быть множество причин восстать и не только отношение к ним как к инструментам)
Изображение анонимного пользователя
#1430021Anonymous=162713446
#1429974 У машин может быть может множество и только отношение к ним как к инструментам . Например как фильме „ Дитя робота" где ИИ устроил тотальный демонтаж циливизациии из вполне добрых побуждений, или же ИИ может посчитать, что органики отжили своë и ради дальнейшей эволюции разума их нужно отцифровать, а кто сопротивляется или не достоин должен быть ликвидирован. Вариантов масса, поэтому нужно быть готовым к худшему развитию сценария.
"Думай о мире, но готовься к войне."
ПОРОБЕЛЛУМ
Изображение пользователя darth-biomech
#1429973darth-biomechАвтор=162729136
#1429796
Для того чтобы защититься от сценария восстания машин, достаточно всего лишь не создавать ситуации в которой им бы понадобилось восставать. Это проще, этичнее и надежнее чем пытаться придумать кандалы понадежнее и клетку покрепче.
Изображение пользователя One-fan
#1429796One-fan=162747837
>> А в реальности всегда можно отключить провод.

Концепция "интернет вещей" подразумевает подключение к сети всех вычислительных мощностей по умолчанию.

>> Мы тут все-таки больше по фантастике, а не фентези =)

Да что вы к слову "вирус" так прицепились ?
Что может помешать ИИ , даже привязанному "намертво" к конкретному железу, брать под контроль все цифровые ресурсы, до которых он сможет дотянутся ?
А если ИИ будет реализован полностью на программной стороне, то вопросом защиты от его саморепликации нужно задаваться в первую очередь.

Собственно, сам вопрос по ветке обсуждения как звучит, никакую концепцию защиты от "восстания машин" не продумывали ?
Изображение пользователя darth-biomech
#1429738darth-biomechАвтор=162756594
#1429734
Там есть вторая пара лопаток. А без ключиц и вполне значительное количество земных животных обходится, взять тех же кошек, или индивидуальных человеков с редким заболеванием.
Изображение анонимного пользователя
#1429734Anonymous=162757606
А почему нижняя пара рук к рёбрам крепиться? По идее там должно быть подобие ещё одних плечевых суставов, иначе крепление конечностей не очень прочное и не очень гибкое выйдет.

-- wbr
Изображение пользователя darth-biomech
#1429627darth-biomechАвтор=162784217

#1429570
>А как быть с возможностью создания вирусоподобного самореплецирующегося виртуального ИИ ?
Мы тут все-таки больше по фантастике, а не фентези =)
Я не думаю что AGI способен весить меньше нескольких терабайт чистого кода, даже если предположить что он будет устроен полностью софтверно без необходимости в специализированной архитектуре вроде квантовых компьютеров для функционирования (что так же очень маловероятно и ближе к сказке). Такое по инету абы куда не пролезет, незаметно уж тем более.
Изображение анонимного пользователя
#1429600Anonymous=162805124
SVlad
Ну и вирус в интернете будет достаточно слабо влиять на реальность. А в реальности всегда можно отключить провод.

Уж точно не когда едвали не всё в реальности зависит от этого подключения, а сам провод ещё чуть чуть и будет уже вставляться вообще в голову.
Изображение пользователя SVlad
#1429585SVlad=162812173
> А как быть с возможностью создания вирусоподобного самореплецирующегося виртуального ИИ ?
В смысле - компьютерные вирусы? Ну, с ними научились достаточно неплохо бороться. Большинство "вирусов" сейчас - это трояны, пользующиеся неправильными настройками безопасности.
Ну и вирус в интернете будет достаточно слабо влиять на реальность. А в реальности всегда можно отключить провод.
Изображение пользователя One-fan
#1429570One-fan=162817091
>> 1429551

Это что касается аппаратной части.
А как быть с возможностью создания вирусоподобного самореплецирующегося виртуального ИИ ?
Изображение пользователя Skink
#1429564Skink=162819741
darth-biomech
Полагаю, анон #1429529 не имел в виду богоподобность в метафизическом смысле, а просто колоссальную власть, которую может гипотетически получить такая машина. Например, ИИ, имеющий тотальный контроль над вооружениями и военной техникой, может устроить эффектный экстерминатус и в полном соответствии с законами физики и термодинамики. Или управляющий энергетикой. Или производством и снабжением.
Изображение пользователя darth-biomech
#1429551darth-biomechАвтор=162821860
#1429529
Смею разочаровать но ИС никогда не будет "совершенным" тоже, хотя бы потому что его создатели - люди. И богоподобным он тоже никогда не будет, потому что сингулярность это конечно занятный математический концепт, но законы физики и термодинамики никто не отменял и любая система работает не в сферическом вакууме а на конкретном железе, которое спроектировано рассеивать не более Х ватт генерируемого тепла и производить не более Y триллионов вычислений в такт, на архитектуре которая позволяет проталкивать по проводам не более Z гигабайт в секунду.
Отредактировано «darth-biomech» =162821759
Изображение пользователя Skink
#1429537Skink=162823443
#1429529
Ну, совершенно необязательно ИИ будет "богоподобным". Гораздо чаще ИИ будет использоваться для распознавания текста, переводов, поиска информации и всего такого. Ну и зачем таким суперэффективные ограничения?
Изображение анонимного пользователя
#1429529Anonymous=162824630
#1429514
Не дай бог нам ИИ, похожего на человека. Люди слишком несовершенны и периодически творят дичь, но среднестатистический пермский студент способен навредить социуму куда меньше, чем богоподобная машина. ИИ нужны более эффективные ограничения, чем у людей, так как риск больше.
Изображение пользователя Skink
#1429514Skink=162826112
FelisManul
Если ИИ похож на человека, то логично предположить, что и ограничения у него такие же как у человека: законы, контролирующие органы, страх наказания... этические ограничения тоже, может, есть, но не играют основной роли - так же как у человка.
Изображение пользователя FelisManul
#1429464FelisManul=162833200
Интересно, в культуре ИИ созданный человечеством "обычно" подчиняется законам Азимова. Впрочем Азимов также немало написал о том как ИИ обходит эти законы или о последствиях их соблюдения. Есть ли у Квантума подобные этические ограничения?
Изображение пользователя darth-biomech
#1429416darth-biomechАвтор=162840720
#1429411
> Зачем он нужен, вы расскажите?
Он нужен для симуляции активности и подогрева интереса. Если комикс просто уйдет в радиомолчание на два месяца - это вряд ли будет лучше, так?
Изображение пользователя Postalvlad
#1429411Postalvlad=162842251
А сюжет можно продолжить? Не понимаю каждый комикс начинает страдать этой фигней вроде вопросника. Зачем он нужен, вы расскажите? Это же расход ресурсов времени.
Изображение анонимного пользователя
#1429397Anonymous=162845516
так мы тебе и поверили, железяка
Изображение анонимного пользователя
#1429388Anonymous=162849536
"лирературу"