#1565532YamiEAАвтор=88468634Scrambler,
"Почему это выглядит одновременно и печально, и зловеще?"
Таков был замысел ) Может быть Стэнли что-то почувствовал насчёт далеко идущих последствий.
А про лицо Стэнли: это что-то среднее между вариантом из игры (о этот изгиб бровей) и из арта в бесконечной дыре (оттуда нос картоха). Ну и приправлено просто каким-то собственным виденьем. #1565530YamiEAАвтор=88468934Scrambler, отвечая на вот эту часть ):
"Так вот, интересно, есть ли у него какие-то ограничения, кроме стандартных (типа "не убий" и "не навреди"), и какие?"
ограничения конечно есть, но часть из них скорее эээ "профессиональный кодекс", чем вшитые в прошивку запреты. Самые жёсткие лимиты, которые и правда вшиты в основном связаны непосредственно с управлением кораблём и с действиями которые могут создать опасность для человеческой жизни (но это всё близко к "не навреди"). Предполагалось, что в экстремальных ситуациях (когда действительно нельзя выйти из ситуации без жертв) последнее слово остаётся за человеческим экипажем. То есть ИИ предлагает свои варианты, а люди уже решают соглашаться или нет, и в общем-то берут на себя ответственность за эти решения. Но сейчас у ИИ нет такой роскоши, и приходится искать какие-то лазейки, чтобы сделать что-то требующее расширенных прав, и каждое такое действие ему очень дорого стоит.
Я поняла, что пропустила случайно ваш вопрос про "раздеть". Оно оно как раз хорошо вписывается в тему "профессионального кодекса". Я как-то шутила про модификацию аватара от Стэнли, но это было исключительно for fun и не канон) Так что раздеть аватар (по крайней мере через прямую просьбу - не получится). Тот же свитер - это была собственная инициатива Навигатора, Стэнли только озвучил свою жалобу на холод.
Там где ИИ понимает (а с этим у него довольно не плохо), что его пытаются втянуть в какие-то 18+ активности - он вам вежливо откажет.
Ну и наверное есть какие-то лимиты на темы разговоров, тот же классический набор "политика-религия", но тут не полные запреты, а ограничения на определённые контексты.
Отредактировано «YamiEA» =88468890
#1565526Skink=88469134Почему-то вспомнилась присказка про дурака, который и разобьёт, и руки порежет.#1565524YamiEAАвтор=88469651Извините, не поспеваю за дискуссией, поэтому постараюсь отвечать последовательно )
rhequesti0n, спасибо вам большое за ваш комментарий! Мне очень-очень приятно знать, что мой маленький комикс чуть-чуть скрашивает вам середину недели!
"Я надеюсь, правильно понимаю, что из-за треснувшего украшения и началась эпидемия?"
Думаю, что ответ на этот вопрос ждёт вас прямо на следующей странице ))#1565517Scrambler=88471796И ещё. Про связь комикса с игрой. Лицо Стэнли основано на том, как оно показано в игре в бесконечной дыре или на одном из многочисленных вариантов меню?) #1565516Scrambler=88471963Почему это выглядит одновременно и печально, и зловеще? #1565250Scrambler=88558515После некоторых размышлений и появления новой свободной минутки дополню мысль. Считаю важным уточнить, как следует понимать "эмоции" применительно к нашему контексту. Целеполагание само не возникает. Задачи стратегического типа у ИИ так и останутся определяемыми человеком, данное правило останется жёстко прописанным, да и не нужно, скорее всего, никому иное. А вот задачи тактического типа в рамках стратегической задачи можно будет смело возлагать на ИИ, у которого есть подобие базовых эмоций - ничего страшного не будет. Искусственные эмоции здесь выступают не более чем в роли "моста" между стратегической задачей и тактическими задачами. Если что, то термины "тактика" и "стратегия" здесь используются не в военном контексте, хотя и могут с ним ассоциироваться. Но на самом деле стратегическая задача - это обобщённый план выполнения поставленной задачи, а тактическая - набор конкретных и принимаемых в рамках небольшого промежутка времени действий, применяемых для выполнения пунктов плана. Искусственные эмоции (минимальный набор) могут дать гибкость и вариативность в тактических задачах. Вдобавок принять решение в условиях недостатка известных параметров помогут принять именно они. В случае, если данных не хватает, а помощи ждать неоткуда, ибо она придёт позже, чем наступит момент, до которого необходимо что-то предпринять, именно подобие эмоций позволит сделать хоть что-то - смягчить последствия, выкроить время, или ещё что-то.
Отредактировано «Scrambler» =88555355
#1565199Scrambler=88570278StarLight, видимо, нынешние фантасты всё реже стали задаваться вопросами матчасти, прежде чем браться за работу. А может быть, матчасти просто стало больше, информация стала сложнее. И разобраться в ней стало тоже тяжело. Ну и самый простой вариант, почему про такие вещи редко думают фантасты - просто они не ходят на конференции)) либо думают, что мало кого заинтересует произведение, где ИИ не злые и не коварные (и ошибаются)
Про эмоции. В данный момент 6 пока никто не получил. В наше время испытание - до 3 дотянуть. Но прогресс - не чудо-средство. Помимо программной части всегда есть аппаратная - вот с ней коса на камень и найдёт. Причём палки в колёса будут ставить законы физики. Да и до рубежа в виде физических законов можно не дойти - в том случае, если продолжение работы в этом направлении станет чрезмерно затратным и не будет нести пользу. Минимальный набор эмоций люди захотели получить с практической целью. И этого набора будет более чем достаточно для выполнения поставленных задач. Дальше этого набора - тут уже по всем показателям лучше будет просто поручать задачи существам из плоти и крови)) Вряд ли кто-то будет тратить кучу времени, сил, средств на создание неуправляемой "обезьяны с гранатой". К тому же, ИИ будет уметь то, чему его научили люди. ИИ учатся у нас и на нас, и просто не смогут сделать с нами то, чего мы не сделаем с собой сами.
"Как-то еще с 20 века повелось ожидать, что достаточно сложный интеллект на чистой логике может осознать себя и начать преследовать собственные цели" - да уж, устоявшееся мнение. В его основе, вероятно, лежит то, что людям сложно вообразить то, что не похоже на их разум и психику. Вот и думают в ключе, применительном к человеку#1565180StarLight=88576680>> В мире будщего с нами будут сосуществовать умненькие, не вредненькие, безобидные, но пугливые, да ещё и "самокритичные" ИскИны
Симпатичный мир будущего)))
Странно, что ни у одного автора подобного не встречала. Фантасты часто предсказывали развитие науки, но чтобы настолько явная основа для сюжета в науке родилась, и никто не развил сюжет и не спроектировал мир... Что ли правда научная фантастика сегодня совсем теряет позиции как жанр...
Насчет всего 2-6 эмоций - это только пока. Прогресс же ускоряется. Через какое-то время могут появиться возможности.
Но вопрос другой: эмоции - это путь к зарождению самосознания или способ найти с иным сознанием общий язык?
По сюжетам (1) и (2) выше, все авторы склонны видеть второе.
Как-то еще с 20 века повелось ожидать, что достаточно сложный интеллект на чистой логике может осознать себя и начать преследовать собственные цели.#1565169Scrambler=88579985StarLight, вижу дополненный коммент) вероятно, в мире будщего с нами будут сосуществовать умненькие, не вредненькие, безобидные, но пугливые, да ещё и "самокритичные" ИскИны
Отредактировано «Scrambler» =88579372
#1565167Scrambler=88580202Если в общих чертах - ИИ ни при каком из раскладов не станут "однозначно лучше нас" или "почти как мы". Они будут просто другими. И будут по-прежнему контролируемы. От того набора эмоций, который возможен для реализации, свобода воли чудесным образом не возникнет.
В той работе, помнится, речь шла о том, что достижима реализация не более 6 различных ощущений. На практике сейчас возможно реализовать вообще 2 (то есть, результату таких экспериментов может быть либо страшно, либо неприятно, либо никак, альтернатив не дано). Воли и целеполагания при всём этом нет - а это и главная причина, почему бояться нечего. Тут в комментариях полностью пересказывать научные труды сложно. Но суть - модель, на которую я тут ссылаюсь, основана на части мозга крыски. Части. Не целиком. И воссоздать удалось лишь те из реакций, которые являются наиболее простыми. И то не полностью, не в точности, как у крысок, служивших прототипом. Про возможность точного и функционального воссоздания человеческой психики вообще промолчу. Потому что ну нет в природе таких вычислительных мощностей) и ресурсов на их поддержание тоже) Исследователи там плясали от имитации частей серотониновой и допаминной подсистем. И от 3 нейромодулянтов. В общем, такие искусственные "эмоции" даже до звериных не могут дотянуть. Что же о поводах для страха... В мире много разных зверушек. Многие из них в каких-то показателях превосходят человека. Но боимся ли мы их? Боимся ли, что они нас всех поработят? Нет, конечно! Да, в чём-то искусственный интеллект и превзойдёт человеческий - но в целом он так и останется во многом уязвим, и выиграть по всем параметрам ему не удастся. Даже попытаться это сделать он вряд ли додумается - его подобие эмоций не ляжет в основу для целеполагания, а просто ограничится реакциями на различные "раздражители" #1565157Scrambler=88581370StarLight, "обнять и приголубить" - это метафора) в переносном смысле. Имелось ввиду, что их просто пожалеть захочется. Просто мне следовало не забывать о кавычках)
А теперь, собственно, к сути#1565156StarLight=88581501"обнять и приголубить"?
Неожиданно. Это как же такого чудесного варианта предполагается достичь?
Мир с такими ИИ мне видится, как если бы появились сверхразумные и не вредные, но по-прежнему мимимишные и уютные котики :-D
Смогу ли я Вас немного на сей счёт успокоить, если тему "нечеловеческих эмоций" немного разжую?
Спойлер - ИИ захочется не бояться, а обнять и приголубить) #1565154StarLight=88581847О, вариантов масса! Я не фантаст, конечно, чтоб их качественно продумать.
Но, по-моему, сейчас сюжеты про ИИ можно поделить на 2 категории:
1) бездушные машины, берущие контроль
2) ИИ, который каким-то образом научили чувствовать = очеловеченный
Причем (2) именно всегда сводится к тому, что машина начинает испытывать именно человеческие эмоции и становится, фактически, человеком в другом теле. И тогда людям не так страшно. С ними можно пытаться ужиться рядом.
Мы понимаем, что с точки зрения голой логики, человечество нелогично и неэффективно, значит, пытаясь это исправить, в сценариях (1) машины будут фактически уничтожать человечество как таковое, каким оно дорого нам (если и не физически).
Далее вопрос - понадобится ли научить ИИ именно человеческим эмоциям или, как Вы упомянули вскользь, возможно, у ИИ будут совсе иные эмоции, не человеческие.
В первом случае, есть шанс, что мы придем к сценарию (2) вместо (1).
Во втором - вообще трудно вообразить, какими эти эмоции будут и куда заведут ИИ, а как следствие - и человечество, особенно если ИИ станет умнее людей (скорее всего) и выйдет из-под контроля (как слудствие).#1565106Scrambler=88595512"Если оказалось бы, что это правда необходимо..." - что ж, время покажет. Причём, вероятно, быстрее, чем казалось ранее. Что же о будущем, о представлении о нём разных авторов - знаете, что особенно выделяет авторов научной фантастики? Хороший автор здесь тот, кто нащупал зарождающуюся тенденцию, которая станет актуальной для будущего. И смог немного это будущее предсказать. Если окажется-таки, что Emotional AI - реально ценная и перспективная штука, то Ями можно смело записывать с её комиксом в хорошие авторы)) #1565104Scrambler=88596650А ведь здесь приведён лишь маленький кусочек без подробностей! В оригинале там был не один час. И даже это - далеко не всё, что можно услышать на мероприятиях по разработке систем ИИ и киберфизических систем)
Вообще, это я тут реально услышанные научные доклады вспоминаю, чтобы ими в периоды отсутствия автора попробовать обосновать лор. Надеюсь, автор не против такого "брожения умов")
Что-то мы аж от обсуждения самого комикса немного отвлеклись, сместившись в науку. Не знаю, насколько тактично так себя вести в комментариях. Но раз уж начали, тогда, StarLight, такой вопрос, пока ждём среды - и каким Вы теперь видите будущее людей и ИИ? А то Вы, помню, изначально о Скайнетах говорили)
Отредактировано «Scrambler» =88596300
#1565051StarLight=88618951Scrambler, ого, какие интересные идеи бывают! Я ничего подобного даже у фантастов не встречала, а тут - на полном научном серьезе. Если оказалось бы, что это правда необходимо, это было бы совсем другое будущее с ИИ, чем кто-либо из писателей и сценаристов описывал.#1564579Scrambler=88818027YamiEA и StarLight, вот про навороченного чат-бота, кстати! Возможно, не только в психологическом комфорте людей дело. Вы этой фразой заставили меня вспомнить заслушанный некогда в рамках специальности научный доклад (имя человека не помню, угораздило упустить этот момент) про создание подобия минимального набора эмоций у ИИ. Среди тех, кто слушал, мнение неслабо так поделилось и породило дискуссию, а суть была такая - этот исследователь дошёл до того, что имитация эмоциональных состояний могла бы требоваться в том случае, если от киберфизической системы с ИИ нужно добиться длительной автономной деятельности и принятия достаточно вариативного набора решений без постоянного участия человека. Короче, наличие у Навигатора подобия некоторых "эмоций", непохожих на человеческие, очень вписывается в эту теорию. Пересказ, конечно, очень корявый, но уж как умею - я ведь не синтет, как в книжке Уоттса)
Как в той научной работе предлагалось добиться такого результата - отдельный разговор)))
Отредактировано «Scrambler» =88816518
#1564572StarLight=88819627YamiEA, "легче думать, что корабль управляется чем-то более осознанным, чем просто навороченный "чат-бот"
Вот тут я соглашусь! Мне кажется, создание симпатичного интерфейса, особенно в такой ситуации, - это очень правильный способ повышения психологического комфорта.
Между прочим, уже 4 дня комикс самый обсуждаемый! И мы просто реально обсуждаем сюжет, лор, и всем участникам интересно))
"Почему это выглядит одновременно и печально, и зловеще?"
Таков был замысел ) Может быть Стэнли что-то почувствовал насчёт далеко идущих последствий.
А про лицо Стэнли: это что-то среднее между вариантом из игры (о этот изгиб бровей) и из арта в бесконечной дыре (оттуда нос картоха). Ну и приправлено просто каким-то собственным виденьем.
"Так вот, интересно, есть ли у него какие-то ограничения, кроме стандартных (типа "не убий" и "не навреди"), и какие?"
ограничения конечно есть, но часть из них скорее эээ "профессиональный кодекс", чем вшитые в прошивку запреты. Самые жёсткие лимиты, которые и правда вшиты в основном связаны непосредственно с управлением кораблём и с действиями которые могут создать опасность для человеческой жизни (но это всё близко к "не навреди"). Предполагалось, что в экстремальных ситуациях (когда действительно нельзя выйти из ситуации без жертв) последнее слово остаётся за человеческим экипажем. То есть ИИ предлагает свои варианты, а люди уже решают соглашаться или нет, и в общем-то берут на себя ответственность за эти решения. Но сейчас у ИИ нет такой роскоши, и приходится искать какие-то лазейки, чтобы сделать что-то требующее расширенных прав, и каждое такое действие ему очень дорого стоит.
Я поняла, что пропустила случайно ваш вопрос про "раздеть". Оно оно как раз хорошо вписывается в тему "профессионального кодекса". Я как-то шутила про модификацию аватара от Стэнли, но это было исключительно for fun и не канон) Так что раздеть аватар (по крайней мере через прямую просьбу - не получится). Тот же свитер - это была собственная инициатива Навигатора, Стэнли только озвучил свою жалобу на холод.
Там где ИИ понимает (а с этим у него довольно не плохо), что его пытаются втянуть в какие-то 18+ активности - он вам вежливо откажет.
Ну и наверное есть какие-то лимиты на темы разговоров, тот же классический набор "политика-религия", но тут не полные запреты, а ограничения на определённые контексты.
rhequesti0n, спасибо вам большое за ваш комментарий! Мне очень-очень приятно знать, что мой маленький комикс чуть-чуть скрашивает вам середину недели!
"Я надеюсь, правильно понимаю, что из-за треснувшего украшения и началась эпидемия?"
Думаю, что ответ на этот вопрос ждёт вас прямо на следующей странице ))
Про эмоции. В данный момент 6 пока никто не получил. В наше время испытание - до 3 дотянуть. Но прогресс - не чудо-средство. Помимо программной части всегда есть аппаратная - вот с ней коса на камень и найдёт. Причём палки в колёса будут ставить законы физики. Да и до рубежа в виде физических законов можно не дойти - в том случае, если продолжение работы в этом направлении станет чрезмерно затратным и не будет нести пользу. Минимальный набор эмоций люди захотели получить с практической целью. И этого набора будет более чем достаточно для выполнения поставленных задач. Дальше этого набора - тут уже по всем показателям лучше будет просто поручать задачи существам из плоти и крови)) Вряд ли кто-то будет тратить кучу времени, сил, средств на создание неуправляемой "обезьяны с гранатой". К тому же, ИИ будет уметь то, чему его научили люди. ИИ учатся у нас и на нас, и просто не смогут сделать с нами то, чего мы не сделаем с собой сами.
"Как-то еще с 20 века повелось ожидать, что достаточно сложный интеллект на чистой логике может осознать себя и начать преследовать собственные цели" - да уж, устоявшееся мнение. В его основе, вероятно, лежит то, что людям сложно вообразить то, что не похоже на их разум и психику. Вот и думают в ключе, применительном к человеку
Симпатичный мир будущего)))
Странно, что ни у одного автора подобного не встречала. Фантасты часто предсказывали развитие науки, но чтобы настолько явная основа для сюжета в науке родилась, и никто не развил сюжет и не спроектировал мир... Что ли правда научная фантастика сегодня совсем теряет позиции как жанр...
Насчет всего 2-6 эмоций - это только пока. Прогресс же ускоряется. Через какое-то время могут появиться возможности.
Но вопрос другой: эмоции - это путь к зарождению самосознания или способ найти с иным сознанием общий язык?
По сюжетам (1) и (2) выше, все авторы склонны видеть второе.
Как-то еще с 20 века повелось ожидать, что достаточно сложный интеллект на чистой логике может осознать себя и начать преследовать собственные цели.
В той работе, помнится, речь шла о том, что достижима реализация не более 6 различных ощущений. На практике сейчас возможно реализовать вообще 2 (то есть, результату таких экспериментов может быть либо страшно, либо неприятно, либо никак, альтернатив не дано). Воли и целеполагания при всём этом нет - а это и главная причина, почему бояться нечего. Тут в комментариях полностью пересказывать научные труды сложно. Но суть - модель, на которую я тут ссылаюсь, основана на части мозга крыски. Части. Не целиком. И воссоздать удалось лишь те из реакций, которые являются наиболее простыми. И то не полностью, не в точности, как у крысок, служивших прототипом. Про возможность точного и функционального воссоздания человеческой психики вообще промолчу. Потому что ну нет в природе таких вычислительных мощностей) и ресурсов на их поддержание тоже) Исследователи там плясали от имитации частей серотониновой и допаминной подсистем. И от 3 нейромодулянтов. В общем, такие искусственные "эмоции" даже до звериных не могут дотянуть. Что же о поводах для страха... В мире много разных зверушек. Многие из них в каких-то показателях превосходят человека. Но боимся ли мы их? Боимся ли, что они нас всех поработят? Нет, конечно! Да, в чём-то искусственный интеллект и превзойдёт человеческий - но в целом он так и останется во многом уязвим, и выиграть по всем параметрам ему не удастся. Даже попытаться это сделать он вряд ли додумается - его подобие эмоций не ляжет в основу для целеполагания, а просто ограничится реакциями на различные "раздражители"
А теперь, собственно, к сути
Неожиданно. Это как же такого чудесного варианта предполагается достичь?
Мир с такими ИИ мне видится, как если бы появились сверхразумные и не вредные, но по-прежнему мимимишные и уютные котики :-D
Смогу ли я Вас немного на сей счёт успокоить, если тему "нечеловеческих эмоций" немного разжую?
Спойлер - ИИ захочется не бояться, а обнять и приголубить)
Но, по-моему, сейчас сюжеты про ИИ можно поделить на 2 категории:
1) бездушные машины, берущие контроль
2) ИИ, который каким-то образом научили чувствовать = очеловеченный
Причем (2) именно всегда сводится к тому, что машина начинает испытывать именно человеческие эмоции и становится, фактически, человеком в другом теле. И тогда людям не так страшно. С ними можно пытаться ужиться рядом.
Мы понимаем, что с точки зрения голой логики, человечество нелогично и неэффективно, значит, пытаясь это исправить, в сценариях (1) машины будут фактически уничтожать человечество как таковое, каким оно дорого нам (если и не физически).
Далее вопрос - понадобится ли научить ИИ именно человеческим эмоциям или, как Вы упомянули вскользь, возможно, у ИИ будут совсе иные эмоции, не человеческие.
В первом случае, есть шанс, что мы придем к сценарию (2) вместо (1).
Во втором - вообще трудно вообразить, какими эти эмоции будут и куда заведут ИИ, а как следствие - и человечество, особенно если ИИ станет умнее людей (скорее всего) и выйдет из-под контроля (как слудствие).
Вообще, это я тут реально услышанные научные доклады вспоминаю, чтобы ими в периоды отсутствия автора попробовать обосновать лор. Надеюсь, автор не против такого "брожения умов")
Что-то мы аж от обсуждения самого комикса немного отвлеклись, сместившись в науку. Не знаю, насколько тактично так себя вести в комментариях. Но раз уж начали, тогда, StarLight, такой вопрос, пока ждём среды - и каким Вы теперь видите будущее людей и ИИ? А то Вы, помню, изначально о Скайнетах говорили)
Как в той научной работе предлагалось добиться такого результата - отдельный разговор)))
Вот тут я соглашусь! Мне кажется, создание симпатичного интерфейса, особенно в такой ситуации, - это очень правильный способ повышения психологического комфорта.
Между прочим, уже 4 дня комикс самый обсуждаемый! И мы просто реально обсуждаем сюжет, лор, и всем участникам интересно))