#1565517Scrambler=25618595И ещё. Про связь комикса с игрой. Лицо Стэнли основано на том, как оно показано в игре в бесконечной дыре или на одном из многочисленных вариантов меню?) #1565516Scrambler=25618762Почему это выглядит одновременно и печально, и зловеще? #1565250Scrambler=25705314После некоторых размышлений и появления новой свободной минутки дополню мысль. Считаю важным уточнить, как следует понимать "эмоции" применительно к нашему контексту. Целеполагание само не возникает. Задачи стратегического типа у ИИ так и останутся определяемыми человеком, данное правило останется жёстко прописанным, да и не нужно, скорее всего, никому иное. А вот задачи тактического типа в рамках стратегической задачи можно будет смело возлагать на ИИ, у которого есть подобие базовых эмоций - ничего страшного не будет. Искусственные эмоции здесь выступают не более чем в роли "моста" между стратегической задачей и тактическими задачами. Если что, то термины "тактика" и "стратегия" здесь используются не в военном контексте, хотя и могут с ним ассоциироваться. Но на самом деле стратегическая задача - это обобщённый план выполнения поставленной задачи, а тактическая - набор конкретных и принимаемых в рамках небольшого промежутка времени действий, применяемых для выполнения пунктов плана. Искусственные эмоции (минимальный набор) могут дать гибкость и вариативность в тактических задачах. Вдобавок принять решение в условиях недостатка известных параметров помогут принять именно они. В случае, если данных не хватает, а помощи ждать неоткуда, ибо она придёт позже, чем наступит момент, до которого необходимо что-то предпринять, именно подобие эмоций позволит сделать хоть что-то - смягчить последствия, выкроить время, или ещё что-то.
Отредактировано «Scrambler» 05.12.2023 20:51:03
#1565199Scrambler=25717077StarLight, видимо, нынешние фантасты всё реже стали задаваться вопросами матчасти, прежде чем браться за работу. А может быть, матчасти просто стало больше, информация стала сложнее. И разобраться в ней стало тоже тяжело. Ну и самый простой вариант, почему про такие вещи редко думают фантасты - просто они не ходят на конференции)) либо думают, что мало кого заинтересует произведение, где ИИ не злые и не коварные (и ошибаются)
Про эмоции. В данный момент 6 пока никто не получил. В наше время испытание - до 3 дотянуть. Но прогресс - не чудо-средство. Помимо программной части всегда есть аппаратная - вот с ней коса на камень и найдёт. Причём палки в колёса будут ставить законы физики. Да и до рубежа в виде физических законов можно не дойти - в том случае, если продолжение работы в этом направлении станет чрезмерно затратным и не будет нести пользу. Минимальный набор эмоций люди захотели получить с практической целью. И этого набора будет более чем достаточно для выполнения поставленных задач. Дальше этого набора - тут уже по всем показателям лучше будет просто поручать задачи существам из плоти и крови)) Вряд ли кто-то будет тратить кучу времени, сил, средств на создание неуправляемой "обезьяны с гранатой". К тому же, ИИ будет уметь то, чему его научили люди. ИИ учатся у нас и на нас, и просто не смогут сделать с нами то, чего мы не сделаем с собой сами.
"Как-то еще с 20 века повелось ожидать, что достаточно сложный интеллект на чистой логике может осознать себя и начать преследовать собственные цели" - да уж, устоявшееся мнение. В его основе, вероятно, лежит то, что людям сложно вообразить то, что не похоже на их разум и психику. Вот и думают в ключе, применительном к человеку#1565180StarLight=25723479>> В мире будщего с нами будут сосуществовать умненькие, не вредненькие, безобидные, но пугливые, да ещё и "самокритичные" ИскИны
Симпатичный мир будущего)))
Странно, что ни у одного автора подобного не встречала. Фантасты часто предсказывали развитие науки, но чтобы настолько явная основа для сюжета в науке родилась, и никто не развил сюжет и не спроектировал мир... Что ли правда научная фантастика сегодня совсем теряет позиции как жанр...
Насчет всего 2-6 эмоций - это только пока. Прогресс же ускоряется. Через какое-то время могут появиться возможности.
Но вопрос другой: эмоции - это путь к зарождению самосознания или способ найти с иным сознанием общий язык?
По сюжетам (1) и (2) выше, все авторы склонны видеть второе.
Как-то еще с 20 века повелось ожидать, что достаточно сложный интеллект на чистой логике может осознать себя и начать преследовать собственные цели.#1565169Scrambler=25726784StarLight, вижу дополненный коммент) вероятно, в мире будщего с нами будут сосуществовать умненькие, не вредненькие, безобидные, но пугливые, да ещё и "самокритичные" ИскИны
Отредактировано «Scrambler» 05.12.2023 14:10:46
#1565167Scrambler=25727001Если в общих чертах - ИИ ни при каком из раскладов не станут "однозначно лучше нас" или "почти как мы". Они будут просто другими. И будут по-прежнему контролируемы. От того набора эмоций, который возможен для реализации, свобода воли чудесным образом не возникнет.
В той работе, помнится, речь шла о том, что достижима реализация не более 6 различных ощущений. На практике сейчас возможно реализовать вообще 2 (то есть, результату таких экспериментов может быть либо страшно, либо неприятно, либо никак, альтернатив не дано). Воли и целеполагания при всём этом нет - а это и главная причина, почему бояться нечего. Тут в комментариях полностью пересказывать научные труды сложно. Но суть - модель, на которую я тут ссылаюсь, основана на части мозга крыски. Части. Не целиком. И воссоздать удалось лишь те из реакций, которые являются наиболее простыми. И то не полностью, не в точности, как у крысок, служивших прототипом. Про возможность точного и функционального воссоздания человеческой психики вообще промолчу. Потому что ну нет в природе таких вычислительных мощностей) и ресурсов на их поддержание тоже) Исследователи там плясали от имитации частей серотониновой и допаминной подсистем. И от 3 нейромодулянтов. В общем, такие искусственные "эмоции" даже до звериных не могут дотянуть. Что же о поводах для страха... В мире много разных зверушек. Многие из них в каких-то показателях превосходят человека. Но боимся ли мы их? Боимся ли, что они нас всех поработят? Нет, конечно! Да, в чём-то искусственный интеллект и превзойдёт человеческий - но в целом он так и останется во многом уязвим, и выиграть по всем параметрам ему не удастся. Даже попытаться это сделать он вряд ли додумается - его подобие эмоций не ляжет в основу для целеполагания, а просто ограничится реакциями на различные "раздражители" #1565157Scrambler=25728169StarLight, "обнять и приголубить" - это метафора) в переносном смысле. Имелось ввиду, что их просто пожалеть захочется. Просто мне следовало не забывать о кавычках)
А теперь, собственно, к сути#1565156StarLight=25728300"обнять и приголубить"?
Неожиданно. Это как же такого чудесного варианта предполагается достичь?
Мир с такими ИИ мне видится, как если бы появились сверхразумные и не вредные, но по-прежнему мимимишные и уютные котики :-D
Смогу ли я Вас немного на сей счёт успокоить, если тему "нечеловеческих эмоций" немного разжую?
Спойлер - ИИ захочется не бояться, а обнять и приголубить) #1565154StarLight=25728646О, вариантов масса! Я не фантаст, конечно, чтоб их качественно продумать.
Но, по-моему, сейчас сюжеты про ИИ можно поделить на 2 категории:
1) бездушные машины, берущие контроль
2) ИИ, который каким-то образом научили чувствовать = очеловеченный
Причем (2) именно всегда сводится к тому, что машина начинает испытывать именно человеческие эмоции и становится, фактически, человеком в другом теле. И тогда людям не так страшно. С ними можно пытаться ужиться рядом.
Мы понимаем, что с точки зрения голой логики, человечество нелогично и неэффективно, значит, пытаясь это исправить, в сценариях (1) машины будут фактически уничтожать человечество как таковое, каким оно дорого нам (если и не физически).
Далее вопрос - понадобится ли научить ИИ именно человеческим эмоциям или, как Вы упомянули вскользь, возможно, у ИИ будут совсе иные эмоции, не человеческие.
В первом случае, есть шанс, что мы придем к сценарию (2) вместо (1).
Во втором - вообще трудно вообразить, какими эти эмоции будут и куда заведут ИИ, а как следствие - и человечество, особенно если ИИ станет умнее людей (скорее всего) и выйдет из-под контроля (как слудствие).#1565106Scrambler=25742311"Если оказалось бы, что это правда необходимо..." - что ж, время покажет. Причём, вероятно, быстрее, чем казалось ранее. Что же о будущем, о представлении о нём разных авторов - знаете, что особенно выделяет авторов научной фантастики? Хороший автор здесь тот, кто нащупал зарождающуюся тенденцию, которая станет актуальной для будущего. И смог немного это будущее предсказать. Если окажется-таки, что Emotional AI - реально ценная и перспективная штука, то Ями можно смело записывать с её комиксом в хорошие авторы)) #1565104Scrambler=25743449А ведь здесь приведён лишь маленький кусочек без подробностей! В оригинале там был не один час. И даже это - далеко не всё, что можно услышать на мероприятиях по разработке систем ИИ и киберфизических систем)
Вообще, это я тут реально услышанные научные доклады вспоминаю, чтобы ими в периоды отсутствия автора попробовать обосновать лор. Надеюсь, автор не против такого "брожения умов")
Что-то мы аж от обсуждения самого комикса немного отвлеклись, сместившись в науку. Не знаю, насколько тактично так себя вести в комментариях. Но раз уж начали, тогда, StarLight, такой вопрос, пока ждём среды - и каким Вы теперь видите будущее людей и ИИ? А то Вы, помню, изначально о Скайнетах говорили)
Отредактировано «Scrambler» 05.12.2023 09:28:38
#1565051StarLight=25765750Scrambler, ого, какие интересные идеи бывают! Я ничего подобного даже у фантастов не встречала, а тут - на полном научном серьезе. Если оказалось бы, что это правда необходимо, это было бы совсем другое будущее с ИИ, чем кто-либо из писателей и сценаристов описывал.#1564579Scrambler=25964826YamiEA и StarLight, вот про навороченного чат-бота, кстати! Возможно, не только в психологическом комфорте людей дело. Вы этой фразой заставили меня вспомнить заслушанный некогда в рамках специальности научный доклад (имя человека не помню, угораздило упустить этот момент) про создание подобия минимального набора эмоций у ИИ. Среди тех, кто слушал, мнение неслабо так поделилось и породило дискуссию, а суть была такая - этот исследователь дошёл до того, что имитация эмоциональных состояний могла бы требоваться в том случае, если от киберфизической системы с ИИ нужно добиться длительной автономной деятельности и принятия достаточно вариативного набора решений без постоянного участия человека. Короче, наличие у Навигатора подобия некоторых "эмоций", непохожих на человеческие, очень вписывается в эту теорию. Пересказ, конечно, очень корявый, но уж как умею - я ведь не синтет, как в книжке Уоттса)
Как в той научной работе предлагалось добиться такого результата - отдельный разговор)))
Отредактировано «Scrambler» 02.12.2023 20:18:20
#1564572StarLight=25966426YamiEA, "легче думать, что корабль управляется чем-то более осознанным, чем просто навороченный "чат-бот"
Вот тут я соглашусь! Мне кажется, создание симпатичного интерфейса, особенно в такой ситуации, - это очень правильный способ повышения психологического комфорта.
Между прочим, уже 4 дня комикс самый обсуждаемый! И мы просто реально обсуждаем сюжет, лор, и всем участникам интересно))
Отредактировано «StarLight» 05.12.2023 03:06:02
#1564359rhequesti0n=26059233Большое вам спасибо за этот комикс, каждую среду радостно просыпаюсь ради него!
Я надеюсь, правильно понимаю, что из-за треснувшего украшения и началась эпидемия? Если да, то это просто великолепно. Очень соответствует словам о том, что главный двигатель истории - случайность. Ещё раз скажу, что всем сердцем восхищаюсь этим комиксом, спасибо вам за него!#1564237Scrambler=26121701И ещё вопросик) выше тут уже было дофига про Навигатора, но всё мало) Так вот, интересно, есть ли у него какие-то ограничения, кроме стандартных (типа "не убий" и "не навреди"), и какие? Есть ли у него "защита от дураков"? Может, есть забавные ограничения на случай, если подурачиться захотят общающиеся с ним и адресующие ему просьбы пассажиры?) #1564230Scrambler=26123302YamiEA, уж не буду задавать уточняющие вопросы про то, какие там секретики) ибо есть неиллюзорный риск того, что там спойлеры. Воздержусь, так, на всякий случай.
"Боюсь, даже будучи автором, я никак не смогу с этой задачей помочь..." - не переживайте, про техническую задачу было сказано чисто риторически, это была не просьба о пояснениях) это просто у меня профдеформация невовремя вылезла) #1564229YamiEAАвтор=26124312
StarLight, я рада что вам интересно это читать )
Scrambler, " непростой, не без секретиков..." а это правда, там всё далеко не сразу с кораблём сложилось на этапе разработки )
Про эмоции. В данный момент 6 пока никто не получил. В наше время испытание - до 3 дотянуть. Но прогресс - не чудо-средство. Помимо программной части всегда есть аппаратная - вот с ней коса на камень и найдёт. Причём палки в колёса будут ставить законы физики. Да и до рубежа в виде физических законов можно не дойти - в том случае, если продолжение работы в этом направлении станет чрезмерно затратным и не будет нести пользу. Минимальный набор эмоций люди захотели получить с практической целью. И этого набора будет более чем достаточно для выполнения поставленных задач. Дальше этого набора - тут уже по всем показателям лучше будет просто поручать задачи существам из плоти и крови)) Вряд ли кто-то будет тратить кучу времени, сил, средств на создание неуправляемой "обезьяны с гранатой". К тому же, ИИ будет уметь то, чему его научили люди. ИИ учатся у нас и на нас, и просто не смогут сделать с нами то, чего мы не сделаем с собой сами.
"Как-то еще с 20 века повелось ожидать, что достаточно сложный интеллект на чистой логике может осознать себя и начать преследовать собственные цели" - да уж, устоявшееся мнение. В его основе, вероятно, лежит то, что людям сложно вообразить то, что не похоже на их разум и психику. Вот и думают в ключе, применительном к человеку
Симпатичный мир будущего)))
Странно, что ни у одного автора подобного не встречала. Фантасты часто предсказывали развитие науки, но чтобы настолько явная основа для сюжета в науке родилась, и никто не развил сюжет и не спроектировал мир... Что ли правда научная фантастика сегодня совсем теряет позиции как жанр...
Насчет всего 2-6 эмоций - это только пока. Прогресс же ускоряется. Через какое-то время могут появиться возможности.
Но вопрос другой: эмоции - это путь к зарождению самосознания или способ найти с иным сознанием общий язык?
По сюжетам (1) и (2) выше, все авторы склонны видеть второе.
Как-то еще с 20 века повелось ожидать, что достаточно сложный интеллект на чистой логике может осознать себя и начать преследовать собственные цели.
В той работе, помнится, речь шла о том, что достижима реализация не более 6 различных ощущений. На практике сейчас возможно реализовать вообще 2 (то есть, результату таких экспериментов может быть либо страшно, либо неприятно, либо никак, альтернатив не дано). Воли и целеполагания при всём этом нет - а это и главная причина, почему бояться нечего. Тут в комментариях полностью пересказывать научные труды сложно. Но суть - модель, на которую я тут ссылаюсь, основана на части мозга крыски. Части. Не целиком. И воссоздать удалось лишь те из реакций, которые являются наиболее простыми. И то не полностью, не в точности, как у крысок, служивших прототипом. Про возможность точного и функционального воссоздания человеческой психики вообще промолчу. Потому что ну нет в природе таких вычислительных мощностей) и ресурсов на их поддержание тоже) Исследователи там плясали от имитации частей серотониновой и допаминной подсистем. И от 3 нейромодулянтов. В общем, такие искусственные "эмоции" даже до звериных не могут дотянуть. Что же о поводах для страха... В мире много разных зверушек. Многие из них в каких-то показателях превосходят человека. Но боимся ли мы их? Боимся ли, что они нас всех поработят? Нет, конечно! Да, в чём-то искусственный интеллект и превзойдёт человеческий - но в целом он так и останется во многом уязвим, и выиграть по всем параметрам ему не удастся. Даже попытаться это сделать он вряд ли додумается - его подобие эмоций не ляжет в основу для целеполагания, а просто ограничится реакциями на различные "раздражители"
А теперь, собственно, к сути
Неожиданно. Это как же такого чудесного варианта предполагается достичь?
Мир с такими ИИ мне видится, как если бы появились сверхразумные и не вредные, но по-прежнему мимимишные и уютные котики :-D
Смогу ли я Вас немного на сей счёт успокоить, если тему "нечеловеческих эмоций" немного разжую?
Спойлер - ИИ захочется не бояться, а обнять и приголубить)
Но, по-моему, сейчас сюжеты про ИИ можно поделить на 2 категории:
1) бездушные машины, берущие контроль
2) ИИ, который каким-то образом научили чувствовать = очеловеченный
Причем (2) именно всегда сводится к тому, что машина начинает испытывать именно человеческие эмоции и становится, фактически, человеком в другом теле. И тогда людям не так страшно. С ними можно пытаться ужиться рядом.
Мы понимаем, что с точки зрения голой логики, человечество нелогично и неэффективно, значит, пытаясь это исправить, в сценариях (1) машины будут фактически уничтожать человечество как таковое, каким оно дорого нам (если и не физически).
Далее вопрос - понадобится ли научить ИИ именно человеческим эмоциям или, как Вы упомянули вскользь, возможно, у ИИ будут совсе иные эмоции, не человеческие.
В первом случае, есть шанс, что мы придем к сценарию (2) вместо (1).
Во втором - вообще трудно вообразить, какими эти эмоции будут и куда заведут ИИ, а как следствие - и человечество, особенно если ИИ станет умнее людей (скорее всего) и выйдет из-под контроля (как слудствие).
Вообще, это я тут реально услышанные научные доклады вспоминаю, чтобы ими в периоды отсутствия автора попробовать обосновать лор. Надеюсь, автор не против такого "брожения умов")
Что-то мы аж от обсуждения самого комикса немного отвлеклись, сместившись в науку. Не знаю, насколько тактично так себя вести в комментариях. Но раз уж начали, тогда, StarLight, такой вопрос, пока ждём среды - и каким Вы теперь видите будущее людей и ИИ? А то Вы, помню, изначально о Скайнетах говорили)
Как в той научной работе предлагалось добиться такого результата - отдельный разговор)))
Вот тут я соглашусь! Мне кажется, создание симпатичного интерфейса, особенно в такой ситуации, - это очень правильный способ повышения психологического комфорта.
Между прочим, уже 4 дня комикс самый обсуждаемый! И мы просто реально обсуждаем сюжет, лор, и всем участникам интересно))
Я надеюсь, правильно понимаю, что из-за треснувшего украшения и началась эпидемия? Если да, то это просто великолепно. Очень соответствует словам о том, что главный двигатель истории - случайность. Ещё раз скажу, что всем сердцем восхищаюсь этим комиксом, спасибо вам за него!
"Боюсь, даже будучи автором, я никак не смогу с этой задачей помочь..." - не переживайте, про техническую задачу было сказано чисто риторически, это была не просьба о пояснениях) это просто у меня профдеформация невовремя вылезла)
StarLight, я рада что вам интересно это читать )
Scrambler, " непростой, не без секретиков..." а это правда, там всё далеко не сразу с кораблём сложилось на этапе разработки )