俄罗斯的一个诈骗团伙曾使用一款名叫“网络情人”的人工智能产品行骗,他们在网络聊天室里假装成单身女人去撩单身男人,并骗取那些男人的信息用于犯罪。令人意外的是,这个软件把所有人都忽悠了,几乎没有人意识到这是一个程序在跟他们对话,大家都以为屏幕后面是一个性感女郎,但其实这只是一个性爱机器人。“‘网络情人’的智能水平相当高,与人类对话也十分流畅,让人几乎无法分辨这到底是程序还是真人,”一位安全研究专家在其报告中说道,“这个程序还能够在半个小时之内成功匹配并与10 个男人调情。”
看来图灵测试马上就要被性爱机器人打败了,人工智能马上就要获得突破了。不管真实与否,人工智能的这种突破都跟贝瑞·邦兹史无前例的耀眼成绩一样,需要打上一个引号。有研究表明,当人们“性致”高涨时,智商就会急剧下降。我不会贸然地对“网络情人” 加以品评,但至少这款人工智能产品相对于其他人工智能产品来说优势非常大。
从性爱机器人的成功中我们还能学到一点——如果你想让人工智能超过人类智能,有两种方法可供选择:让机器变聪明或让人类变蠢。从以上例子中我们可以看到,第二种方法更有效。
每天我们都被提醒着科技的优越性:自动驾驶汽车不会受路怒症的干扰,机器人火车不会失控,各种程序也不会受到医生、会计或律师的认知偏见的影响。电脑快速精确地运转着,显得我们就像笨手笨脚的懒虫。
很明显,消除人为错误最好的方式是让人类消失。但是,无论这种想法多么新潮,本身就是错误的。我们解放自己的愿望是建立在谬论之上的,因为我们否认了自己的天赋,也夸大了电脑的能力。
这很容易理解。我们经常听说由人为错误所造成的灾祸,比如技术员忘了开阀门而导致化工厂爆炸,飞行员因操作失误而导致飞机坠落,但是我们并没有经常听说人们会用自己的专业知识避免事故或化解危机。飞行员、物理学家和其他专业人士会沉着镇定地应对突发危险,却没有办法保证每次都能成功脱离危险。即使在日常生活中,我们也拥有最先进的、电脑也没有的技能和感知力。谷歌能很快告诉我们其自动驾驶汽车几乎没有发生过事故,但是无法吹嘘汽车的司机要转多少次方向盘才能脱离危险。
电脑对发出指示很精通,却拙于灵活变通。用计算机科学家赫克托·莱韦斯克的话来说,电脑就是“在领域之外就无计可施的愚蠢的仆人”。电脑的能力仅限于编程,但人的技能就远不止如此了。想想萨利·萨伦伯格机长在空中客机A320 被鸟群撞击后,在休斯敦河成功降落的事迹吧。在真实的世界有了深刻的经历之后,这种直觉是远非计算可得来的。如果电脑能崇拜人的话,那么也会为我们所折服。
尽管我们认为自己有很多缺点,却认为电脑是完美无瑕的。电脑完美的连贯性远远胜过我们的笨拙,但我们似乎忘记了机器其实是由我们制造的。当我们把工作交给电脑之后,我们并没有消除犯错误的可能:电脑会崩溃,有漏洞,会被黑客入侵。而当我们随心所欲地做自己想做的事情时,电脑会面临一些程序没有被设定好的困境。因而电脑会机械地执行自己的任务直到崩溃的那天。
很多归咎于人为错误的问题实际上是由科技事物所引起或加重的。想想2009 年法航从里约热内卢飞往巴黎的447 号客机坠毁事件: 飞机在大西洋上空遇到风暴,使得空速传感器结冰了,无法显示速度信息,自动驾驶仪无法进行计算,所以就需要飞行员进行掌控。但飞行员惊慌于这种境遇,于是犯了错误,以致飞机连同228 名乘客和机组人员都坠入了大西洋。
这场事故很好地说明了科学家们所说的自动化矛盾。在电脑接管人的工作之后,人就没什么事情可做。人们转移了注意力,并因缺乏锻炼而使技能生疏了。等到电脑无法运转时,人就在困境中挣扎。软件本是用来避免人犯错误的,但最后却犯了人犯的错误。
2013 年,联邦航空局表明,过度依赖自动驾驶仪已经成为空难发生的主要因素,因此敦促航空公司让飞行员多进行手动操作。研究表明,让飞行更安全的最佳方式是让计算机少承担责任,并将责任移交给飞行员。当人和机器一起工作时,更大程度的自动化并不总是好的。
工厂自动化的领头羊——日本丰田汽车公司就已经从中得到了深刻的教训。近年来,丰田已经召回了数百万辆汽车进行维修。这不仅减少了其利润,还损害了其长久经营下来的名声。现在丰田相信其制造问题就在于没有人力参与。公司高层告诉彭博新闻社:“我们需要更加脚踏实地,回归过去最基本的方式,提升我们的人力技能,以求进一步发展。”丰田现正在用熟练的工人代替机器人,于是人力又回到了工作岗位。
电脑和人开始同心协力。即使工程师设计出了能够解决所有潜在问题的自动化系统——在精密复杂的工作领域这一点还远远没有实现——系统完全代替人类还需要一段时间。就航空领域而言,更换或改造数千架仍配备座舱的飞机,需要几十年;道路系统也是一样,毕竟基础设施不可能在一夜之间就发生天翻地覆的变化。
我们不应将计算机视为我们的替代品,而是要把它看作我们的伙伴,实现计算机和人类的能力互补。软件能处理日常琐事,帮助人们避免一些错误,但是无法企及人类的常识以及思想的高度。如果我们不再参与高难度的工作,那我们的洞察力和灵感将会使我们和机器区分开来。
多亏人类的智慧,技术进步以及日趋完善的法律法规,这个世界比过去更加安全了。电脑能帮助我们继续取得进步。最近的火车事故,包括美国铁路公司脱轨事件,如果火车上有自动化速度控制系统的话,事故可能就不会发生了。若自动化软件能感知到司机正在犯困,它发出的警报就能够防止事故的发生;若诊断性程序能够给医生发送宝贵的信息,就能让病人获得更好的治疗。
实现完全自动化的社会是非常危险的,因为这会让上述进步不再那么值得投资。
如果乌托邦就处在弯道上,为什么还要向前迈一步呢?