要说这人创造出来的工具,会反噬其主,理论上是有这样的可能性,但我却怀疑,会研究、制造出这种系统的人,他的行为动机又会是什么,难道就是为了毁灭眼前的这一切,甚至不惜搭上自己的性命?
人的一切行为,皆有动机,这是我思考的出发点。”
“哦,这是你的想法?
这想法可一点也不新颖,当然,我目前还没能找到反驳的论据。”
那么教授您难道是相信这一点吗:
人类创造的工具,会反戈一击,这岂非就是在说,未来某一天的计算机系统,会生出能权衡利弊、能寻找动机的自我意识,进而如同蛮族毁灭罗马那样,毁灭人类文明么。
要说这人创造出来的工具,会反噬其主,理论上是有这样的可能性,但我却怀疑,会研究、制造出这种系统的人,他的行为动机又会是什么,难道就是为了毁灭眼前的这一切,甚至不惜搭上自己的性命?
人的一切行为,皆有动机,这是我思考的出发点。”
“哦,这是你的想法?
这想法可一点也不新颖,当然,我目前还没能找到反驳的论据。”
那么教授您难道是相信这一点吗:
人类创造的工具,会反戈一击,这岂非就是在说,未来某一天的计算机系统,会生出能权衡利弊、能寻找动机的自我意识,进而如同蛮族毁灭罗马那样,毁灭人类文明么。