首页

搜索繁体

第14章 脑风暴劝限机器人 谋战略立项逍遥游

    会议里大家头脑风暴了独立思考机器人通过即时就近组网模式共同决策的模式,遇到了机器人思维模式同化的问题。刘时空教授想到了张伍生是生物学方面的专家,对于脑思维的电子读取有许多研究,于是就这个问题征询意见:\"师导说的的确是个大问题,伍生导师您是生物学专家,您看这个问题有什么办法呀。\"

    张伍生:\"龙生九子,各不相同。人机器人都是通过固定的程序和数据去计算,同样的程序和数据得出同样的精确结果,决策这种事情又不能随机。我想到一个点,如果我们能够采集人类的决策方法和思考模式,我是说大量人类,把这些思考模式放在大量的机器人上,是不是就可以共同决策了?\"

    师刚:\"这个想法很新颖!就是读取大脑的技术很不成熟,不过理论上是可以的。\"

    唐斌:\"嗯,这个信息很重要,师教授还有什么补充么?\"

    师刚:\"暂时没有了。\"

    唐斌:\"刘教授,来,你再谈谈你的看法呀。\"

    刘诗红:\"那我就接着刚才的想法继续谈,先抛开军事问题,如果机器人具有了独立思考的能力,那么机器人和人的区别,就只是身体的结构了,机器人是不是就是一个硅基生命体了,《终结者》这部电影相信大家都看过,电影就变成现实了,有没有可能更大的敌人不是敌国,而是自己创造的这些机器人了?\"

    孟玄舰:\"因此,必须保持远程操控的优先权,确保机器人令行禁止。\"

    刘诗红:\"这个问题,就像人有选择的权利,人可以选择呆在国内,也可以选择出国生活,机器人有了独立思考,会不会选择自断联网的权利,或者从思想上拒绝远程操控的优先权呢,我觉得这是很可能的。生物是多样性的,机器人甚至不一定选择要做一个人,他独立的思想即使可以基于人的思想,超越人的思想,但是我们判断这种超越,会向着哪个方向去。我还一个担心,人类会出现相互战争,利益冲突,机器人和机器人之间有了独立思考,会不会也像人类一样发生内斗,又有组网能力,吵架的过程就会变的非常迅速,相互战斗也不一定非得通过武力,甚至有可能是黑客攻击快速战胜敌人。\"

    唐斌:\"嗯,这个观点也很重要!凡事都有两面性!来,张教授你怎么看?\"

    张伍生:\"我非常赞同刘教授提到的生物多样性观点。独立思考的机器人为什么选择人工智能,而不是兽工智能,为什么要选择做一个人,他没有国家、民族的概念,没有现在人类需要维持的宗教、信仰、资源的抢夺和经济秩序,我们无法预知他们的选择。我觉的我们需要撇开我们的思想,我明确一下独立思考的机器人的机生目标的问题,这个目标才是引导他独立思考的终极主因,一切预设的目标在完成后,都会被终极目标取代,甚至终极目标会让他放弃预设的目标。\"

    孙小鹏:\"现在的机器人,设计多维人类形状,或者机器狗,或者独立的机械臂,采用行走的模式,但实际现在无人机的飞行技术已经非常的成熟,而且这方面最好的技术和产品都在中国,深圳的太柏无人机的全球市场占有率达到了70%,现在民间主要用于航拍,治安领域则用于侦查,军用领域一般都是用无人机执行单一任务。刚才大家提到的独立思考的机器人技术如果嫁接在无人机上,让无人机具备这种思考,机器人为何还要在陆地上行走呢?天空飞行无论从速度和还是灵活性上都比陆地上行走都占据极大的优势。\"

    唐斌:\"你这个观点很重要啊,跳出了重力的限制,也跳出了人思想的禁锢!李教授,你是项目组组长,你谈谈你的看法吧。\"

    李宇轩:\"我觉得首先我们要从约定上去限制机器人的应用,尤其是独立思考的机器人,应该完全杜绝,对于执行单一任务的机器人,应该将其智力能力和活动范围严格局限在特定的范围内,为人类完成特定的使命。对于具有高度智商的机器人,应该严格遵守远程控制脱离及失效的自毁能力,防止失控。我非常同意刚才大家谈到的观点,我认为对于失控,对于独立思考机器人摆脱人类控制的顾虑,我的观点是,这不是顾虑,这是必然,一旦打开这扇门,机器人失控就会成为宿命,人类将无法阻挡。\"

    孟玄舰:\"如果敌军首先成功研发了这种机器人,大规模生产,大规模投放战场,歼灭我们的战士,我们当如何应对呢?敌人有了核武器,我们也有,形成核震慑,才能维持住今天国家国富民强的安稳局面,如果敌人有了独立思考机器人而我们没有,岂不是让我们的战士白白送死,人民再度被欺压。\"

    李宇轩眉头紧皱,喝了口水,\"首先,要有世界公约的约束,约束不光针对我们自己,也要针对任何其他国家。就如同我们研究了爆破技术,我们不会把量级放大到毁灭地球一样,我们在人工智能领域的应用,应该画一个清晰的边界。独立思考的大规模机器人的存在和投放战场,这大国之间的核战不同,核战,是相互毁灭,而大规模投放独立思考机器人用于杀敌,这是相约自杀。\"

    唐斌:\"宇轩哪,咱们写撇开顾虑,做一个假设,假设美国,已经在战场上投放了机器人,规模巨大,战斗力强,对我们的作战部队造成重创!这时候我们应该做何反应呢?这时候去国际上谴责美国,当然是要去做的,但是解不了燃眉之渴。这可能也是孟首长想了解的,对吧?\",唐斌向孟玄舰点头征询,孟玄舰紧接着说:\"李教授,您最大的担忧基于您认为独立思考的机器人就注定会毁灭人类,还是我们的机器人武法战胜敌国的机器人,您能具体阐述一下观点么?\"