齐紫霄看过的电影也不算少了,譬如她记得自己看过一部写机器人的电影,名为《我·机器人》。
其中,那些机器人就有三个‘大限制’。
接着,又在三条大限制上诞生了无数的分支、小限制。
当然,在电影中那些大限制被称为三大定律。
第一定律为:机器人不得伤害人类个体,或者目睹人类个体将遭受危险而袖手旁观。
第二定律为:机器人必须服从人给予它的命令,担不得违背第一定律。
第三定律为:机器人要尽可能保证自己的生存与安全,但不得违背第一、第二定律。
这三条定律,看似非常完善,足以保证机器人不会伤害人类,也就是‘不会噬主’。
可是,问题来了。
如果机器人遇到警察枪击劫匪怎么办?
救还是不救?
救不救都得违背第一定律!
因为救劫匪,很可能就会伤害警察?不救?那你就是目睹人伤害人类而袖手旁观。
亦或者,遇到家暴怎么办?
两人生死pk,救一个就得杀另一个,这不还是必定违背第一定律?
这就是bug!
而那部电影中,就是因为类似的问题,机器人的主脑自我‘进化’,变成了大boss!
在齐紫霄看来,修仙界的大能们多流传下来的‘通用限制模板’,是没有bug的。
因为从来就没听说过有谁的化身不听话、或者做错事。
这就足以证明问题。
但自己要在这些限制的基础上,加上自己的一些限制,这就必须要避免‘逻辑冲突’的存在!
其中,那些机器人就有三个‘大限制’。
接着,又在三条大限制上诞生了无数的分支、小限制。
当然,在电影中那些大限制被称为三大定律。
第一定律为:机器人不得伤害人类个体,或者目睹人类个体将遭受危险而袖手旁观。
第二定律为:机器人必须服从人给予它的命令,担不得违背第一定律。
第三定律为:机器人要尽可能保证自己的生存与安全,但不得违背第一、第二定律。
这三条定律,看似非常完善,足以保证机器人不会伤害人类,也就是‘不会噬主’。
可是,问题来了。
如果机器人遇到警察枪击劫匪怎么办?
救还是不救?
救不救都得违背第一定律!
因为救劫匪,很可能就会伤害警察?不救?那你就是目睹人伤害人类而袖手旁观。
亦或者,遇到家暴怎么办?
两人生死pk,救一个就得杀另一个,这不还是必定违背第一定律?
这就是bug!
而那部电影中,就是因为类似的问题,机器人的主脑自我‘进化’,变成了大boss!
在齐紫霄看来,修仙界的大能们多流传下来的‘通用限制模板’,是没有bug的。
因为从来就没听说过有谁的化身不听话、或者做错事。
这就足以证明问题。
但自己要在这些限制的基础上,加上自己的一些限制,这就必须要避免‘逻辑冲突’的存在!