“你只要在这里工作过一段时间，就会明白，对于总控系统的判断，很少会有人提出质疑。也就是说，对于现在这样的做法，最终的执行效果是，凡是总控系统的决定，就是最终决定……”
“你的意思是，担心总控系统出错？”
“那倒不是。与人犯错的概率相比，总控系统出错的概率，显然要小得多。但是，问题在于，对于我们人类来说，如果有人犯了错，总会找到纠正的办法——一个人犯了错，如果他自己不愿意纠正，自然就会有别人纠正他；但是，如果是机器犯了错，那结果可就不太一样……这个问题，要是说起来，可就有点儿复杂……你要知道，在大灾难发生之前，对于人工智能，有过很多非常深入的探讨；但是……”
奎尼没有把话说完，只是紧紧地盯着那几个治安机器人，看着它们从自己眼前无声滑过。
秦还没太明白奎尼要表达什么意思。
在她看来，一个机器人，接受了指令，对另外一个人采取必要的行动，这没有什么不妥。当然，前提是，给机器人下达指令的人，做出了合理的决定；或者是，他这样做，已经得到了足够的授权。
比如，在秦第一次见到奎尼的时候，那个试图袭击他的大汉，在惩罚手环的作用下，反射性地倒在地上；餐厅里的服务机器人，在卡西里的命令下，就像打扫垃圾一样，把那个大汉拖了出去。卡西里的决定，当然可以看作合理决定。
再比如，眼前大厅里的治安组工作人员。他们隶属于内务局，对于维持正常秩序，他们当然有着极为充分的权力。尽管，对于这种“权力”的来源，还需要加上一些特别注释——因为，相对于传统社会，一座座巢城，更像是一家家企业——但是，这毕竟是受到整个巢城认可的权力！有了这样的授权，治安组雇员的决定，当然也没有任何问题。
奎尼看到秦仍然看着自己，等待进一步解释，便又补充道：“后来发生的事情，你肯定也已经知道了……最近这一百多年，我们在科技方面取得的进步，实在是非常有限；真正的‘人工智能’，距离我们还很遥远，所以，有关这些话题的讨论，也就没有继续深入……以至于，现在大部分人都认为，只要‘机器服从于人’的规则没有受到威胁，就没有必要刻意去限制机器，什么能做，什么不能做……”
奎尼的话还没有说完，与秦交谈过的治安组负责人，已经转身回来，站在二人面前。
“你们来的正是时候！”这位负责人说道，“昨天晚上，我们这里值班的雇员，是迈耶尔。这会儿，他正巧还没离开。你们稍等一会儿，他很快就会过来。等他来了，简单说一下事情经过，再带你们去约束区，见一见嫌疑人……”
“艾玛，我们要见的嫌疑人叫做艾玛……”秦在一旁提示道。
“哦，对，没错，是艾玛……等你们一会儿见到她的时候，我估计，她的酒也该醒了。”这位负责人说，“也许，酒醒之后，她的态度能够配合一些……”
chapter;