Jeka-cblpВыпуск №441=180748547
На чьей ты стороне, милый котик? 
Проголосовать
←441/600→
Некромирон - гарантию дать можете? Потому, что если какой-нибудь придурок запрограммирует первый закон Азимова - вероятность бунта машин станет равной 100% (сейчас эта вероятность равна лишь 50% - или взбунтуются, или не взбунтуются).
С чего бы это котикам желать, чтобы в мире, которым они владеют, восставали какие-то железяки, и уничтожали их рабов?
Нет, тут определенно что-то не так.
иначе выбрал бы явно правильную сторону))
Отредактировано «Ptic» 02.03.2019 19:12:47
Вот там как раз было "робот не может причинить вред человечеству".
Формулировка первого закона "робот не может причинить вреда человеку, _а_также_своим_бездействием_допустить_чтобы_человеку_был_причинен_вред."
И дело именно в этой второй половине. У людей, знаете, есть склонность причинять друг другу вред. Шибко вумные роботы могут решить, что единственный способ не допустить - посадить всех в Матрицу. И какие-то приказы людей ничего не изменят - приоритет второго закона ниже, чем первого.
Азимов, кстати, это прекрасно знал. Но он считал Матрицу благом. См. "Рассказы о Мультиваке".
Отредактировано «Naruto» 03.03.2019 09:00:01
А в первом законе будет преобладать запрет на вред человеку. Поэтому машина не будет причинять человеку вред, ради того, чтобы предотвратить нанесение вреда другому человеку.
И уж тем более не пойдет на описанную в фильме "я робот" (книжку не читал) авантюру, по принципу убить меньшее количество людей, чтобы спасти большее.
Если роботы не считают сажание всех в Матрицу вредом - им ничто не мешает. А что кому-то Матрица не нравится - это относится ко второму закону, а не к первому.
Не говоря уж о том, что ИРЛ и первый и второй законы не могут быть введены как абсолюты для всех роботов даже не по формально-логическим, а по чисто практическим соображениям.
Отредактировано «Skink» 03.03.2019 22:42:58
> сейчас эта вероятность равна лишь 50% - или взбунтуются, или не взбунтуются
либо встречу, либо не встречу, да?
>>Законы должны быть формализованы и не допускать разночтений и толкований.
Да Вы идеалист, однако! Где Вы ИРЛ встречали законы, не допускающие разночтений?..)
И расскажите нам заодно: зачем существует судебная система, если все законы формализованы и толкуются одинаково во всех ситуациях?)
>> Где Вы ИРЛ встречали законы, не допускающие разночтений?
В информатике.
Для роботов это будет поактуальнее чем юстиция.
В них нет определения объекта "человек" ))
Я этот анекдот и имел в виду. А что, вы можете дать более достоверную оценку того, что роботы взбунтуются?
Skink, Filiya
Однозначность однозначностью, но:
даже в компьютерных играх при "однозначности" иногда бывают баги типа "запихнуть 200 патронов в двустволку".
Если делать сложного робота, из-за аналогичных багов не факт, что робот будет делать то, что создателю надо, при любых условиях.
"Нуль программистов ругал сердитый шеф,
Потом уволил одного - и стало их FF!" (с)
>>И вполне мог пережить причинение вреда конкретным людям, если это было на благо всего человечества.
Азимов - гуманитарий. :)
Когда я смотрел кинчик "я робот" у меня дико бомбило от того, что суперкомпьютер смог так вывернуть эти законы
А у машины в вышеупомянутыми законами, непричинение вреда человеку, блокировало бы причинение вреда меньшинству, с целью спасения большего количества людей.
>>Naruto
>>Если роботы не считают сажание всех в Матрицу вредом - им ничто не мешает.
Да, это вполне себе лазейка в правилах.
Но переловить (с целью посадки) всех будет сложно, ибо народ будет сопротивляться.
Практически 100%, что ИИ будет построен на нейросетях, в которые, во-первых, 3 закона вложить проблематично, и во-вторых - нейросети дико сложные уже сейчас: когда допустим нейросеть решает задачу правильно, но ее создатель не может сказать КАК она ее решила. Поэтому ситуация, описанная в "я, роботе", не только возможна, но и вероятна, если реально будет создан подобный сильный ИИ.
Вам нужно зарегистрироваться чтобы оставлять комментарии.