中青报客户端

 中青在线版权与免责声明

中国青年报手机版

中国青年报手机版二维码

中国青年报官方微信

中国青年报官方微信

2015年05月21日 星期四
中青在线

万一机器人控制了人类,怎么办

汪强  来源:中国青年报  ( 2015年05月21日   02 版)

    我曾多次对朋友说,假如有一天世界上出现了这样的机器人——它们完全摆脱了人类的控制,能够自由自在地行动,并且能够自己研究和生产更先进的机器人——那人类就可能完全受机器人控制,成为机器人的奴隶,甚至被机器人关进笼子,供它们解剖做实验用或供它们观赏。

    朋友总是充满自信,他认为机器人是人类研制的,当然会受到人类的控制。他说的虽然有道理,但还是说服不了我,因为我觉得有很多种可能性导致人类控制不了机器人:按照设计,本来是能控制某种机器人的,但可能由于设计中有错误或没有完全按设计生产,结果生产出来的机器人不被人类所控制;设计人员本来是能控制某种机器人的,但由于设计人员出了意外,就无人能控制机器人了……

    原本以为只有像我这样知识贫乏的人才会有如此荒唐的想法,谁知大科学家霍金教授也这么说。在前不久的伦敦“谷歌时代精神”大会上,他平静地描述了人类的命运:“在未来100年内,结合人工智能的计算机将会变得比人类更聪明。”这位大科学家认为,届时,人类将被机器控制。为了让人信服,他还讲了一个故事:“世上真的有上帝吗?”科学家用颤抖的声音问道。“现在有了。”世界上最聪明的人工智能电脑回答。说完,一道电光闪过它的电源插头——人们再也关不掉它了。微软创始人比尔·盖茨、特斯拉汽车公司与美国太空探索技术公司CEO伊隆·马斯克的名字也赫然在列。在他们看来,飞速发展的人工智能已经成为“我们现存的最大威胁”。甚至,有学者描绘了人类完全被机器人“脾气”主宰的悲凉命运——它若残暴,我们可能被屠杀;它若人道,我们的出生率可能被逐渐降低,自然灭绝;若它们当中有善良的自由主义者,我们将被驯化。

    除了计算机,人类还可能以其他方式消灭自己。比如,是不是哪天会出现这样先进的武器:只须扔出去一枚,就能将地球毁了?如果出现这样的武器,又恰巧遇上一个狂人,人类的未来就着实让人担忧了。我们今天说某种科技成果对人类无害,有可能只是一时没有发现它对人类的潜在危害,但到了几百年之后,它的危害可能显露出来,而那时人类可能对它已经束手无策了,只能眼睁睁看着它伤害人类。

    我们发展科学,本来是为了人类的生活更加美好,可是由于某种原因,科技发展的成果在某些领域和时刻却给人类带来了灭亡。当然,这说的可能还是比较极端的情形,此外,还可能有某些发展虽不足以让人类灭亡,但也给人类带来巨大伤害,这种伤害有显性的,也有隐性和长久的。

    我们要看到科学发展所带来的好处,但也要警惕它可能给人类带来的某种危害,警惕短视而自私的人类只看到它的好处却忽视它的潜在危害。科技的发展不是越快越好,计算机不是越先进越好,动车不是跑得越快越好,人类还是多一点辩证思维好。

汪强 来源:中国青年报

2015年05月21日 02 版

邹文强受审掀开东莞涉黄“保护伞”一角
“官员独董”少了,问题并不少
“不拿领导当‘老板’”不能止于嘴上
儿童食品不能没有安全标准
期待高校去编制化发挥鲇鱼效应
“大师”太神还是迷信官员太傻
万一机器人控制了人类,怎么办
配镜