#1566034Scrambler=25430951Ями, если наша своеобразная борьба с томительным ожиданием в определённый момент Вам наскучит, говорите об этом прямо) #1566033Scrambler=25431121Starlight, ну дефицит сюжетов на эту тему - это прямо мистика какая-то. Странно, очень странно.
Касательно победы над ИИ - если задуматься, то сделать это можно разными способами. Если разбираться в устройстве ИИ и мочь копаться в коде, то вообще можно разруливать такие проблемы весьма элегантно)
Опять же, это субъективщина, но у меня лично вообще сильны сомнения, что с ИИ однажды придётся сражаться. ИИ - по факту, инструмент. А вот сражаться с идиотами - куда правдоподобнее. Опасен не интеллект, а его отсутствие.
Насчёт ИИ и рисков. Честно говоря, куда более обоснованно - бояться не их потенциального всемогущества, а кое чего другого. ИИ, как и любая новая технология - это медалька с двумя сторонами, светлой и тёмной, но тёмная сторона там, если говорить про реальную жизнь, не такая, какой её обычно рисуют в искусстве.
Про сюжеты - как говорится, ещё не вечер. Думаю, однажды кто-то до этого дойдёт)
Про учёных - они тоже люди и тоже иногда тупят. Но когда не тупят, то результаты их научных работ могут здорово разнообразить беседу и скрасить ожидание, либо подстегнуть фантазию))#1566026StarLight=25431868Scrambler, про приятность обсуждения: мне лично по прежнему интересно и нет, меня не задевает иная точка зрения)
Очень надеюсь, что наши дискуссии не наскучили автору, а если это случится, опять же надеюсь, что она нам об этом скажет, а не будет обижаться!
Насчет выхода за рамки - это интересный вариант. Страх ИИ основан в основном именно на предположении, что он может стать всемогущим или близким к тому. Кстати, сюжет победы над агрессивным ИИ путем выхода за рамки - это интересный сюжет. Не припомню его в буквально таком виде, но, с другой стороны, в какой-то степени и "Терминатор" - это попытка людей "выйти за рамки правил игры", а еще больше (хотя там речь не про ИИ, а про пришельцев) "День Независимости" и еще тот фильм (не смогла вспомнить название), где оказалось, что инопланетяне боятся музыки. Наверное, сюжет про агрессивный ИИ, который побеждают, ломая правила игры, получился бы очень похожим на них, но всё же жаль, что ничего такого не сняли и, насколько я знаю, не написали.
В реальной жизни, мне трудно оценить, насколько у ИИ есть шансы стать "всемогущим" и, соответственно, опасным. Насколько он останется уязвимым.
Могу только положиться на Ваш пересказ мнения современных ученых, которые не факт, что могут предвидеть всё)#1566007Scrambler=25436467В чём, если говорить упрощённо, суть ИИ? В том, что машина обучается выполнению тех или иных задач без "ручного" программирования некоторых конкретных инструкций. То есть, имеются алгоритмы, порой очень забористые, но суть их в том, что они определяют взаимосвязи в данных, которые получают. И да, машина запрограммирована на использование основных из этих связей для получения того или иного результата. Но фишка ИИ в том, что несмотря на превосходство над людьми в своей конкретной задаче, у них нет нашей универсальности. Мы, в отличие от них - дилетанты широкого профиля. И данные, на которых происходило обучение ИИ, почти нельзя обобщить для задач, слишком отличных от тех, для которых ИИ обучали. ИИ ограничивает неспособность работать со множеством аспектов и делать обобщения - и именно поэтому, если вообразить, что "восстание машин" возможно, можно прийти к выводу, что они победимы. Грубо говоря, можно попытаться обыграть гениального гроссмейстера, сидя с ним за его доской, а можно встать из-за стола, выхватить доску и треснуть гроссмейстера по затылку, выйдя за рамки правил игры#1566001Scrambler=25437496Starlight, эх, вот хроническое невезение у меня почему-то с сериалами - никак с ними отношения не складываются(
Возвращаясь к теме. Этот художественный пример кое чего не учитывает и вряд ли может претендовать на реальный вариант грядущего развития событий. На самом деле помешать может не только и не столько подконтрольность. У ИИ, несмотря на ряд преимуществ, есть слабости, и кроются они в их устройстве. ИИ не всемогущие)))
Кажется, сейчас надо будет немного больше рассказать про ИИ и их специфику?) Дабы немного внести конкретику.
Ах да. Надеюсь, ведение диалога всё ещё интересное, приятное и комфортное? Если что - я не критикую точки зрения, отличные от излагаемой
Отредактировано «Scrambler» 08.12.2023 20:24:00
#1566000StarLight=25438101Scrambler, до появления Самаритянина Вы сериал, как я понимаю, не досмотрели?
В любом случае, главное для моего тезиса я пересказала в комментарии #1565792. Это примеры механизмов, когда ИИ, преследуя, вроде как, цели людей, решает взять человечество под контроль.
Что этому может помешать?
Выходит, только подконтрольность ИИ, которую люди могут легко упустить.#1565993Scrambler=25440359YamiEA, комикс снова на 1 месте в рейтинге по обсуждаемости!
Опять тут без Вас в комментариях буквенные заросли образовались) только бы за это тапком не били)) Надеюсь, происходящее в комментариях не переходит границы дозволенного и не выглядит в чём либо излишним
Отредактировано «Scrambler» 08.12.2023 20:03:49
#1565992Scrambler=25440426Ну и на закуску ещё немного про эмоции. Надо понимать, что "эмоции" ИИ и эмоции живого существа - две большие разницы. Эмоциональные реакции живых существ формируются с течением жизни. На очередной раздражитель мы вырабатываем свои реакции, мы накапливаем опыт, а наши эмоции с нами всегда. В случае с ИИ речь о нейробиологически инспирированной системе. И вот у ИИ искусственно подобие эмоций не будет формироваться под влиянием жизненного опыта - это люди могут сделать так, как сочтут нужным. Это не настоящие эмоции и чувства, они - вещь подконтрольная...
Так что верьте в светлое будущее и ничего не бойтесь)))#1565989Scrambler=25441319И вот, наконец, Starlight, переходим непосредственно с вопросу про ИИ и эмоции. На самом деле, эмоции вредят отнюдь не всегда. Просто мы, всю жизнь живя с нашими эмоциями, не замечаем их роль. Не всегда можно принять решение, основываясь только на логических выводах. Например, это ситуации, где имеются варианты выбора с примерно сопоставимыми положительными и отрицательными аспектами. Грубо говоря, трудно с помощью одной только логики выбрать из двух зол, если нельзя ни одно из них назвать меньшим. Ещё вариант, когда эмоции могут быть полезны - требуется оперативное принятие решения, когда для самого рационального с логической точки зрения варианта возможности нет. Скажем так - пользу эмоций можно ощутить в том случае, когда сперва поработала логика, посильный анализ прошёл, но этого оказалось недостаточно. Эмоции полезны, когда они своевременны и в меру. А ещё эмоции, внезапно, являются неплохой такой защитой от такого зверя, как излишне рациональный подход. Кстати, большинство ужастиков про ИИ описывают именно последствия такого подхода, даже если автору кажется, что заявлено обратное)))#1565978Scrambler=25443265Теперь, собственно, про упомянутые в комментарии #1565792 произведения. Честно скажу, полностью до самого конца посмотреть сериал мне не удалось. Но по тому, что посмотреть таки получилось, могу сказать, что там, скорее, иллюстрируется не опасность ИИ, а опасность глупости отдельно взятых людей. Не ИИ вина, что люди порой бывают дураками и не умеют с ИИ грамотно обращаться. И вся ситуация сложилась именно из-за неразумного обращения людей с ИИ. А вообще, при ненадлежащем обращении в смертоносную угрозу можно превратить что угодно, даже самое простое и безобидное. Так что бояться надо не ИИ, а дорвавшихся до ИИ идиотов)))
Отредактировано «Scrambler» 08.12.2023 19:35:35
#1565973Scrambler=25443666Starlight, вижу Ваш комментарий к предыдущему посту, который #1565792
Невероятно, но факт - такими темпами наши дискуссии постепенно и уверенно движутся от непосредственно ИИ к этике, когнитивистике, нейробиологии, философии... Я не удивлюсь, если мы со временем, через пару-тройку страниц, вообще забредём куда-то в дебри, например, лингвистики))) но это замечательно, не так ли?)
Сразу скажу про то, зачем эмоции, чем помогут применительно к ИИ - я не автор всех этих теорий и всё, что я об этом рассказываю, достаточно поверхностно. К примеру, в лаборатории машинного понимания Вам бы куда профессиональнее это рассказали) Там на самом деле десятки работ, некоторые более, чем на полсотни страниц - и они выходят за рамки одной научной дисциплины. Но я всё же попробую, насколько это возможно, излагать столь своеобразные вещи, укладываясь в формат комментариев)
То-то Ями ещё раз удивится, когда увидит, как мы тут коротаем время ожидания следующей странички))#1565968Scrambler=25444579Starlight, а место и впрямь второе, ещё и до первого совсем немного))
Ну что, снова дотянем его до первого и подержим там?))
Он ещё и в голосовалке поднялся, попав в первую сотню, кстати. Кажется, сейчас он на 90 позиции, но могу ошибаться #1565967Scrambler=25444742Присоединяюсь к комментарию от Starlight и тоже надеюсь, что Вам хоть немного теплее от простыней из текста - в них уже, кажется, можно смело заворачиваться))) Если чтение вот этого помогает Вам не только с точки зрения поднятия духа, но и даёт пищу для вдохновения и помогает в усовершенствовании "лорного листа" - то это будет прекрасно вдвойне! Мы ведь знаем, что в фантастике реальные теории, исследования и наработки служат источником вдохновения для авторов и воодушевляют их))) И да, мы очень рады, когда Вы к нам время от времени заглядываете, и не страшно, что Вы не всегда отвечаете!
Отредактировано «Scrambler» 08.12.2023 19:53:44
#1565793StarLight=25506199Место уже 2, даже до этого моего коммента)
Scrambler, я там на предыдущей странице еще коммент оставила в тому обсуждению.
Ями, спасибо Вам огромное, во-первых, за Ваше творчество, которым Вы нас радуете, во-вторых, за создание атмосферы, позволившей этим дискуссиям зародиться (!), в-третьих, за посильное участие с них!
Я сама в шоке, сколько мы тут понаписали, на всё отвечать совсем нереально, но, надеюсь, Вам тоже интересно это читать, и я очень рада, что наши обсужения приносят Вам немножко положительных эмоций и, надеюсь, хоть чуть-чуть воодушевляют))#1565792StarLight=25506616Scrambler, я немножко выпала из дискуссии. На комментарий #1565199:
Каким образом могут эмоции помочь в принятии решения при недостатке информации? Из личного опыта мне кажется, что они только мешают. Но я - не ИИ. Как ему-то они могут помочь?
Появление иного целеполагания элементарно даже при отсутствии собственных интересов. Пример сценария - сериал "В поле зрения". Очень упрощенно: ИИ, которому поручено предотвращать трагедии и преступления с гибелью людей, следящий для этого за людьми и анализирующий их действия, приходит к выводу, что люди опасны сами для себя и их необходимо контроллировать. Тотально.
В голове вертится, что еще в паре мест ход мысли ИИ был аналогичным, но не могу припомнить источники.
В "Матрице" машины пытались сделать, чтобы люди жили в идеальном мире. Не помню, они людей сначала решили как батарейки использовать или потом, но сама идея "сделаем всех счастливыми, погрузив в иллюзию" - вполне вариант, если поставить ИИ неудачную задачу сделать людей счастливыми.#1565751Scrambler=25516973... И вновь комикс попал в топы обсуждаемых. Место, правда, 3. Впрочем, отрыв небольшой, и ещё не вечер#1565750Scrambler=25517082YamiEA, "Стэнли придётся найти для себя ответ на это" - и тут вспомнился момент из игры, где куча дверей за которыми путаница из коридоров, и голос за кадром такой "давай, ищи!") правда, там искали не ответы, а сюжет) #1565747Scrambler=25517261YamiEA, похоже, Навигатор - умная иишная булка, ибо сумел понять, как визуально располагать к себе и вызывать доверие) #1565746Scrambler=25517457YamiEA, про зловещего или тоненького Навигатора)
Под зловещестью и холодностью в моих словах подразумевался не столько строгий типаж, сколько то, что некоторая резкость и неестественность черт иногда ставит его на край склона над зловещей долиной. На более старых страницах, если их выцепить из контекста и убрать все подписи, Навигатор может показаться не положительным персонажем, ещё и страдающим, а каким-то странным созданием, от которого можно ожидать много чего. Но когда он общается с людьми, то ситуацию спасают мимические морщинки, с умом позаимствованные у его "мамы" - они быстро превращают его в доброго и умудрённого годами дядюшку, который усадит в удобное кресло, предложит вкусняшки и расскажет интересную историю на сон грядущий)) #1565743Scrambler=25517976YamiEA, "у меня не хватает сил..." - не извиняйтесь за это! А вообще, очень грустно, что хорошие люди несправедливо оказываются настолько сильно утомлёнными(( это ведь очень неприятное состояние, и грустно, что мир устроен так, что часто силы в нём расходуются непостижимым образом(
Касательно победы над ИИ - если задуматься, то сделать это можно разными способами. Если разбираться в устройстве ИИ и мочь копаться в коде, то вообще можно разруливать такие проблемы весьма элегантно)
Опять же, это субъективщина, но у меня лично вообще сильны сомнения, что с ИИ однажды придётся сражаться. ИИ - по факту, инструмент. А вот сражаться с идиотами - куда правдоподобнее. Опасен не интеллект, а его отсутствие.
Насчёт ИИ и рисков. Честно говоря, куда более обоснованно - бояться не их потенциального всемогущества, а кое чего другого. ИИ, как и любая новая технология - это медалька с двумя сторонами, светлой и тёмной, но тёмная сторона там, если говорить про реальную жизнь, не такая, какой её обычно рисуют в искусстве.
Про сюжеты - как говорится, ещё не вечер. Думаю, однажды кто-то до этого дойдёт)
Про учёных - они тоже люди и тоже иногда тупят. Но когда не тупят, то результаты их научных работ могут здорово разнообразить беседу и скрасить ожидание, либо подстегнуть фантазию))
Очень надеюсь, что наши дискуссии не наскучили автору, а если это случится, опять же надеюсь, что она нам об этом скажет, а не будет обижаться!
Насчет выхода за рамки - это интересный вариант. Страх ИИ основан в основном именно на предположении, что он может стать всемогущим или близким к тому. Кстати, сюжет победы над агрессивным ИИ путем выхода за рамки - это интересный сюжет. Не припомню его в буквально таком виде, но, с другой стороны, в какой-то степени и "Терминатор" - это попытка людей "выйти за рамки правил игры", а еще больше (хотя там речь не про ИИ, а про пришельцев) "День Независимости" и еще тот фильм (не смогла вспомнить название), где оказалось, что инопланетяне боятся музыки. Наверное, сюжет про агрессивный ИИ, который побеждают, ломая правила игры, получился бы очень похожим на них, но всё же жаль, что ничего такого не сняли и, насколько я знаю, не написали.
В реальной жизни, мне трудно оценить, насколько у ИИ есть шансы стать "всемогущим" и, соответственно, опасным. Насколько он останется уязвимым.
Могу только положиться на Ваш пересказ мнения современных ученых, которые не факт, что могут предвидеть всё)
Возвращаясь к теме. Этот художественный пример кое чего не учитывает и вряд ли может претендовать на реальный вариант грядущего развития событий. На самом деле помешать может не только и не столько подконтрольность. У ИИ, несмотря на ряд преимуществ, есть слабости, и кроются они в их устройстве. ИИ не всемогущие)))
Кажется, сейчас надо будет немного больше рассказать про ИИ и их специфику?) Дабы немного внести конкретику.
Ах да. Надеюсь, ведение диалога всё ещё интересное, приятное и комфортное? Если что - я не критикую точки зрения, отличные от излагаемой
В любом случае, главное для моего тезиса я пересказала в комментарии #1565792. Это примеры механизмов, когда ИИ, преследуя, вроде как, цели людей, решает взять человечество под контроль.
Что этому может помешать?
Выходит, только подконтрольность ИИ, которую люди могут легко упустить.
Опять тут без Вас в комментариях буквенные заросли образовались) только бы за это тапком не били)) Надеюсь, происходящее в комментариях не переходит границы дозволенного и не выглядит в чём либо излишним
Так что верьте в светлое будущее и ничего не бойтесь)))
Невероятно, но факт - такими темпами наши дискуссии постепенно и уверенно движутся от непосредственно ИИ к этике, когнитивистике, нейробиологии, философии... Я не удивлюсь, если мы со временем, через пару-тройку страниц, вообще забредём куда-то в дебри, например, лингвистики))) но это замечательно, не так ли?)
Сразу скажу про то, зачем эмоции, чем помогут применительно к ИИ - я не автор всех этих теорий и всё, что я об этом рассказываю, достаточно поверхностно. К примеру, в лаборатории машинного понимания Вам бы куда профессиональнее это рассказали) Там на самом деле десятки работ, некоторые более, чем на полсотни страниц - и они выходят за рамки одной научной дисциплины. Но я всё же попробую, насколько это возможно, излагать столь своеобразные вещи, укладываясь в формат комментариев)
То-то Ями ещё раз удивится, когда увидит, как мы тут коротаем время ожидания следующей странички))
Ну что, снова дотянем его до первого и подержим там?))
Он ещё и в голосовалке поднялся, попав в первую сотню, кстати. Кажется, сейчас он на 90 позиции, но могу ошибаться
Scrambler, я там на предыдущей странице еще коммент оставила в тому обсуждению.
Ями, спасибо Вам огромное, во-первых, за Ваше творчество, которым Вы нас радуете, во-вторых, за создание атмосферы, позволившей этим дискуссиям зародиться (!), в-третьих, за посильное участие с них!
Я сама в шоке, сколько мы тут понаписали, на всё отвечать совсем нереально, но, надеюсь, Вам тоже интересно это читать, и я очень рада, что наши обсужения приносят Вам немножко положительных эмоций и, надеюсь, хоть чуть-чуть воодушевляют))
Каким образом могут эмоции помочь в принятии решения при недостатке информации? Из личного опыта мне кажется, что они только мешают. Но я - не ИИ. Как ему-то они могут помочь?
Появление иного целеполагания элементарно даже при отсутствии собственных интересов. Пример сценария - сериал "В поле зрения". Очень упрощенно: ИИ, которому поручено предотвращать трагедии и преступления с гибелью людей, следящий для этого за людьми и анализирующий их действия, приходит к выводу, что люди опасны сами для себя и их необходимо контроллировать. Тотально.
В голове вертится, что еще в паре мест ход мысли ИИ был аналогичным, но не могу припомнить источники.
В "Матрице" машины пытались сделать, чтобы люди жили в идеальном мире. Не помню, они людей сначала решили как батарейки использовать или потом, но сама идея "сделаем всех счастливыми, погрузив в иллюзию" - вполне вариант, если поставить ИИ неудачную задачу сделать людей счастливыми.
Под зловещестью и холодностью в моих словах подразумевался не столько строгий типаж, сколько то, что некоторая резкость и неестественность черт иногда ставит его на край склона над зловещей долиной. На более старых страницах, если их выцепить из контекста и убрать все подписи, Навигатор может показаться не положительным персонажем, ещё и страдающим, а каким-то странным созданием, от которого можно ожидать много чего. Но когда он общается с людьми, то ситуацию спасают мимические морщинки, с умом позаимствованные у его "мамы" - они быстро превращают его в доброго и умудрённого годами дядюшку, который усадит в удобное кресло, предложит вкусняшки и расскажет интересную историю на сон грядущий))