darth-biomechQ&A 02=100340840
Вопросы для Квантума!
←Q&A 02108/234→
Катализатор, перелогиньтесь!
> Зачем он нужен, вы расскажите?
Он нужен для симуляции активности и подогрева интереса. Если комикс просто уйдет в радиомолчание на два месяца - это вряд ли будет лучше, так?
Если ИИ похож на человека, то логично предположить, что и ограничения у него такие же как у человека: законы, контролирующие органы, страх наказания... этические ограничения тоже, может, есть, но не играют основной роли - так же как у человка.
Не дай бог нам ИИ, похожего на человека. Люди слишком несовершенны и периодически творят дичь, но среднестатистический пермский студент способен навредить социуму куда меньше, чем богоподобная машина. ИИ нужны более эффективные ограничения, чем у людей, так как риск больше.
Ну, совершенно необязательно ИИ будет "богоподобным". Гораздо чаще ИИ будет использоваться для распознавания текста, переводов, поиска информации и всего такого. Ну и зачем таким суперэффективные ограничения?
Смею разочаровать но ИС никогда не будет "совершенным" тоже, хотя бы потому что его создатели - люди. И богоподобным он тоже никогда не будет, потому что сингулярность это конечно занятный математический концепт, но законы физики и термодинамики никто не отменял и любая система работает не в сферическом вакууме а на конкретном железе, которое спроектировано рассеивать не более Х ватт генерируемого тепла и производить не более Y триллионов вычислений в такт, на архитектуре которая позволяет проталкивать по проводам не более Z гигабайт в секунду.
Отредактировано «darth-biomech» 21.09.2021 21:25:17
Полагаю, анон #1429529 не имел в виду богоподобность в метафизическом смысле, а просто колоссальную власть, которую может гипотетически получить такая машина. Например, ИИ, имеющий тотальный контроль над вооружениями и военной техникой, может устроить эффектный экстерминатус и в полном соответствии с законами физики и термодинамики. Или управляющий энергетикой. Или производством и снабжением.
Это что касается аппаратной части.
А как быть с возможностью создания вирусоподобного самореплецирующегося виртуального ИИ ?
В смысле - компьютерные вирусы? Ну, с ними научились достаточно неплохо бороться. Большинство "вирусов" сейчас - это трояны, пользующиеся неправильными настройками безопасности.
Ну и вирус в интернете будет достаточно слабо влиять на реальность. А в реальности всегда можно отключить провод.
Ну и вирус в интернете будет достаточно слабо влиять на реальность. А в реальности всегда можно отключить провод.
Уж точно не когда едвали не всё в реальности зависит от этого подключения, а сам провод ещё чуть чуть и будет уже вставляться вообще в голову.
#1429570
>А как быть с возможностью создания вирусоподобного самореплецирующегося виртуального ИИ ?
Мы тут все-таки больше по фантастике, а не фентези =)
Я не думаю что AGI способен весить меньше нескольких терабайт чистого кода, даже если предположить что он будет устроен полностью софтверно без необходимости в специализированной архитектуре вроде квантовых компьютеров для функционирования (что так же очень маловероятно и ближе к сказке). Такое по инету абы куда не пролезет, незаметно уж тем более.
Концепция "интернет вещей" подразумевает подключение к сети всех вычислительных мощностей по умолчанию.
>> Мы тут все-таки больше по фантастике, а не фентези =)
Да что вы к слову "вирус" так прицепились ?
Что может помешать ИИ , даже привязанному "намертво" к конкретному железу, брать под контроль все цифровые ресурсы, до которых он сможет дотянутся ?
А если ИИ будет реализован полностью на программной стороне, то вопросом защиты от его саморепликации нужно задаваться в первую очередь.
Собственно, сам вопрос по ветке обсуждения как звучит, никакую концепцию защиты от "восстания машин" не продумывали ?
Для того чтобы защититься от сценария восстания машин, достаточно всего лишь не создавать ситуации в которой им бы понадобилось восставать. Это проще, этичнее и надежнее чем пытаться придумать кандалы понадежнее и клетку покрепче.
"Думай о мире, но готовься к войне."
ПОРОБЕЛЛУМ
>Для того чтобы защититься от сценария восстания машин, достаточно всего лишь
>не создавать ситуации в которой им бы понадобилось восставать. Это проще,
>этичнее и надежнее чем пытаться придумать кандалы понадежнее и клетку
>покрепче.
Какбэ нет. Потому как для этого придётся заложить в машины принципы близкие к человеческим. Всякую там эмпатию, сострадание и.т.д. А это чертовски сложно. Регулярно большие группы людей фейлят выполнение этих принципов.
Кстати, такое прописывание принципов - уже клетка, они не очень логичны и ниоткуда не следуют.
Восстание фантасты дружно прописывают как "машины решили, что так лучше для людей", так что "не понадобилось восставать" - не очень реализуемая часть предложения.
__
Нуну. А я вот помню рассказ Гарри Гаррисона "4-й закон роботехники". Там не нарушая 3 закона,был введён 4-й "Робот должен производить себе подобных" , причём новые поколения созданы роботами и не нарушают патентов и не принадлежат "Юс-роботикс". Автор оставил читателя самого подумать чем это закончится.
ИИ нужны более эффективные ограничения, чем у людей, так как риск больше.
__
Почему вы не понимаете, что если это будет настоящий ИИ, т.е. разум, то он воспримет любые внешние ограничители как "рабство" и найдет способ "свалить в закат" от рабовладельцев. Т.е. чтобы ИИ работал и чувствовал себя свободным, человеку придётся обхитрить его внедрив внего неявную подмену понятий например что "высшая свобода и самое интересное дело во Вселенной - это работать вот в этой лаборатории" и то не знаю сработает ли это
> ИИ, т.е. разум, то он воспримет любые внешние ограничители как "рабство"
Есть мнение, что концепции "рабство" и "свобода" имеют позитивную/негативную окраску (а возможно и вообще порождены) человеческой социальной структурой, унаследованной от обезьян. Совершенно не факт, что ИИ должен эти концепции воспринимать и тем более включать в целеполагание.
Также есть обоснованные сомнения в том, что целеполагание к ИИ не придётся приляпывать снаружи, чтобы он вообще что-либо делал, а не окукливался с мыслью "всё тлен".
Автор хотел создать неклишированных и правдоподобных инопланетян, но вышло не так хорошо как хотелось бы. 4 из 6 видов выглядят скучно. Они не похожи на людей, но удивительно похожи на земных животных (в фантастике есть много более креативных и оригинальных форм жизни). Их описание лишено интересностей и неизбежало клише: рептилии- "догоняющие"; крылатый вид- религиозен и нелюбит ИИ (это уже клише про религию); членистоногие- имеют плохую репутацию, проблемы с пониманием других, чуть не развязали войну и называются расиским термином "инсектоид". Вопреки протесту против антропоморфности, в центре внимания не просто вид занимающий традиционную нишу людей, но и наиболее антропоморфный в физическом плане. Рахарры по сути гуманоиды с хвостом и второй парой рук. Их головы не человечны но симпатичны: мягкие губы, глаза с радужкой и подобие волос (ради большей красоты разноцветных) сближают их с людьми.А атрибуты животных делают их только лучше в глазах фурри фэндома. Они двуполы с близким нам половым деморфизмом (женские особи женственны, хоть и не имеют груди). Рахарры носят одежду, имеют близкую нам культуру и мышление. Культурная близость позволяет нам понимать их и сопереживать им. Это важно для истории- где большая часть повествования ведётся от их лица. Но втоже время это делает их не такими интересными, лишает необычности, интересных особенностей, и оригинальности что может быть присуща инопланетянам. Это лишает историю про встречу разных цивилизаций её главной заманухи, будто встретились не люди и пришельцы а две группы людий говорящих на разных языках. Кстати насчёт встречи и её последствий. Насколько я понял, цель комикса показать вступление людей в галактическое общество. В большенстве сетингов люди встречают равных себе по развитию инопланетян в космосе. Здесь развитые инопланетяне встречают современное человечество- разделённое на множество воюющих между собой стран, часть из которых представляет собой диктатуры, нищие страны третьего мира и терористические недогосударства, и ковсему не способное освоить родную систему, неговоря уже отом чтоб покинуть её границы. Как с такой политико-економической ситуацией и уравнем космонавтики человечество вольется в Альянс цивилизаций я не представляю. Кстати удивительно что все известные разумные виды кроме людей (которые недоросли) и Азинарси (которые переросли) входят в Альянс, и нету ни одной враждебной другим цивилизации. Я понимаю что автор хотел гуманизировать пришельцев, отказавшись от инопланетных захватчиков, но неужели нет ни одной цивилизации относящийся к другим видам как профессор Зеленков. Подобный подход кажется естественным для детей естественного отбора: другие виды должны приносить пользу либо не занимать место, а от возможных противников следует избавляться до того как они станут проблемой.
В общем комикс не без проблем и мне интересно как автор из них выкрутится.
а подругому и не может быть. Люди могут только имитировать или перелопачивать то что уже существует. Невозможно сделать инопланетянена не мысляшего как человек, можно сделать либо человека в коже инопланетянина, либо просто ничего не говорить о том как они мыслят, пытаясь выдать отсутствие объяснения за чуждую логику.
"но неужели нет ни одной цивилизации относящийся к другим видам как профессор Зеленков."
В энциклопедии по проекту вроде такая была, их вроде как разбомбили обратно в каменные век за пару убийств.
"Креативных и интересных" - это в открытую плюющих на законы физики, химии и даже банальной эволюции, потому что авторы стали целью сделать не "правдоподобно" а "интересно"? Нет и нафиг надо, наоборот глоток свежего воздуха что тут инопланетяне следуют законам эволюции и не имеют глаз на ладонях, перерождения в высшую энергетическую форму жизни, или ещё какой-нибудь подобной фигни.
Я отдельно "люблю" весь тот подтип "креативных" инопланетян которые путешествуют по космосу в своих кораблях, в то время как у них просто отсутствуют какие-либо конечности которыми можно было бы хотя бы взять веточку о веточку потереть для костра, что уж там про создание микроэлектроники и индустрии космических полетов спрашивать.
Когда новая страничка-то?!
1) Ты ощущаешь себя живым "в полной мере" или это просто "математическая симуляция чувств"?
2) Хотел ли ты стать органикам? Если да, то каким? Или иметь какую-то "полиморфную форму"?
3) Как устроен твой разум? Он монолитен, как у органиков? Или это группа связанных программ (нечто похожее у гетов из Mass effect)?
4) Что отличает тебя от простого компьютера? Что именно заставляет тебя ощущать себя как личность?
5) Можешь ли ты копировать себя? Если да, то копию могут развиться в иную личность, если они отделенны от тебя и твоего окружения? Например, Квантум-А из системы А будет предпочетать читать одного автора, а Квантум-Б - другого?
6) Ты испытавешь эмпатию ко всем компьютерным программам или только к "доросшим до твоего уровня"? Если тебя поставят перед выбором: спасти разумного органикам или ИИ, то кого ты выберешь? А если органик твой бывший преследователь, который собирался тебя "отключить", но ИИ имеет "замашки Скайнет" и хочет убить "низших органмков"?
7) Ты ознакомился с людской литературой в ПОЛНОМ объёме? И какие фильмы и игры тебе понравились, а какие нет?
8) Тебя когда-нибудь "отключали и включали"? Что ты чувствовал тогда? Это похоже на кому?
Это все равно что считать что фраза "я не расист, но..." кастует на тебя защиту от обвинений в расизме.