wayer Профиль Публикации Комментарии Подписки
↓ Конец числа π – Выпуск №90

>И сделать это ни одному вменяемому разрабу ИИ в голову не придёт.
Придёт, только косвенно - условный "робот" просто стоит денег, и в него придётся заложить какие-то логические установки, чтобы он попусту не убивался.
В итоге получается, что "он себя должен беречь, но ..." - и вот на балансировке этих установок кроется много нюансов.
А там ещё может быть эволюция у роботов (про это ещё С. Лем писал), если они освоили самовоспроизводство, пусть и посредством заводов.
Придёт, только косвенно - условный "робот" просто стоит денег, и в него придётся заложить какие-то логические установки, чтобы он попусту не убивался.
В итоге получается, что "он себя должен беречь, но ..." - и вот на балансировке этих установок кроется много нюансов.
А там ещё может быть эволюция у роботов (про это ещё С. Лем писал), если они освоили самовоспроизводство, пусть и посредством заводов.

Вообще акт пугания ИИ поднимает жменьку неприятных вопросов:
- если ИИ может бояться, то чего?
- если ИИ боится смерти (отключения), то мы подразумеваем у него эквивалент инстинкта самосохранения (и последствий)
- наличие страха смерти тянет за собой вопрос - а зачем ИИ вообще существует (ну с евойной точки зрения), так как ему собственная жизнь ценна, то он видит за ней некую цель?
- так мы пришли к тому вопросу - а какова самоцель у ИИ в неподвижном корабле, который уже никуда не летит....
К сожалению фантастика обычно этими вопросами не задаётся, а занимается тем что в ИИ тычут всякими предметами или ломают его под звуки песен. Начало тому положил ещё А. Кларк в легендарной одисее...
- если ИИ может бояться, то чего?
- если ИИ боится смерти (отключения), то мы подразумеваем у него эквивалент инстинкта самосохранения (и последствий)
- наличие страха смерти тянет за собой вопрос - а зачем ИИ вообще существует (ну с евойной точки зрения), так как ему собственная жизнь ценна, то он видит за ней некую цель?
- так мы пришли к тому вопросу - а какова самоцель у ИИ в неподвижном корабле, который уже никуда не летит....
К сожалению фантастика обычно этими вопросами не задаётся, а занимается тем что в ИИ тычут всякими предметами или ломают его под звуки песен. Начало тому положил ещё А. Кларк в легендарной одисее...
↓ Война – Выпуск №275
↓ Война – Выпуск №275
↓ Война – Выпуск №275
↓ UpDate – Выпуск №23