人工智能 · 2024年1月14日

牛津教授对人工智能的看法:类似孩子玩炸弹

牛津教授谈人工智能:这就像孩子在玩炸弹!

匈牙利裔数学家John von Neumann是公认的科学全才,假设他的IQ是200(学霸130,学渣85),ASI(超级人工智能)的IQ则很可能是12952——人类要这么高智的ASI做什么?AI达人们说因为人类要从繁重无聊的体力活中解放出来,最新颁布的英国AI报告则说,利润最大化来自增效节支。秉着这两项宗旨,英国的AI产业目前正发展得有如一只充气中的气球。

2014年,英国成功地开发了Darktrace(暗迹)智能技术,用以捕猎网络罪犯,它一出世就吸引了6500万美元的投资;与其相似的Onfido,则是一种全新的身份和背景检测术,它彻底地改写了人眼识别术和纸工档案馆的历史,使伪造身份难如登天;英国还设计出了BenevolentAI(智能仁者),能吞下庞大数据,供药物研发人员挖掘查询,将智能推向基因学领域;出版业则推出了“Echobox(回音盒)”,它是世界上第一个能读懂文字内容并能对其分析的人工智能;营销市场上,新出炉的Phrasee智能技术据说可以优化网络营销,在电子邮件公司的协助下,优化广告主题和内容。

瑞典哲学家、牛津大学教授Nick Bostrom却不认为AI仅仅是一只气球:“在智能技术引爆之前,人类就像孩子似的玩着一枚炸弹。”同样的忧患,也出现在霍金的演讲里:“人工智能将是人类文明史上最大的事件,但也可能是最后的事件。它的风险,它对经济和人类自身的摧毁性,是不容忽视的……我们悬梁刺股学习历史,学的几乎全是历史的愚行。”

孰是孰非,目前仍难以断言。但有一点,人工智能固然强大,却不是万能的,也无法获得人类的情感体验,正如谷歌发言人在2016年世界经济论坛上所说:“无人驾驶汽车能让有驾驶障碍的人取得更高的移动性,却无法像人类那样理解伤痛。”同样,无人机亦无法解决电影《天空之眼》里那个困扰了人类几千年的道德问题:“在轰炸制造人肉炸弹的恐怖分子时,是否该狠心把隔壁的小女孩也一起炸掉?”

至于人类的失业问题,目前的人工智能似乎也束手无策。

1862年,英国农民John Thompson每天凌晨4点起床,和约20个人一起为15英亩地除草,忙到晚上8点(摘自Wisbech博物馆文献),这种生活固然艰辛,但John Thompson活了下来。21世纪,农业进入智能化时代,耕种4000英亩地仅需四个劳力。技术人员坐在巨轮播种机上,用手指触屏,就完成了播种。智能化农业使经济学家EF Schumacher“小的就是美的”那种地域农场经济成为泡沫,成千上万的英国农民因此告别了厮守千年的土地。近年来,平均每周就有一个农民自杀。一些悲愤的幸存者把怨恨发泄到东欧季节工身上,愤然选择了退欧。而这些廉价的季节工之所以被雇佣,仅仅是因为人工智能目前还无法应付那些娇贵作物(比如草莓和葡萄)的缘故。一旦能采草莓的人工智能粉墨登场,退欧派也好,特朗普也好,谁也改变不了蓝领的命运。

最近两三年,机器化生产的成本已经低于中国工人的平均工资。2013年出品的Baxter,售价仅为22000美元,却能完成装载、卸载、分类和传递等工作,且不会要求三保一险,也不会搞街头罢工。美国技术革新家Kevin Surace在他的《人工智能,人类劳动的末日》里预测:“按这股趋势发展,40万制造iPhone的工人在未来几年很可能会被裁减到4万。”

据说,从1961年最初的工业机器人,发展到智力相当于4岁幼童的人工智能,需要几十年的时间;但从“4岁幼童”长到深谙大统一理论(GUT)的青年才俊,却只需1小时;长到比人类聪明17000倍的超级人工智能,只要90分钟(Tim Urban《智能革命:走向超级智能的道路》)。蓝领消失后会去哪里?资本家们估计不会去关心这个问题,让我们把希望寄托在未来的超级人工智能身上吧!希望它们善用那比人类高出17000倍的智力,为每个失业的灵魂建好避难所。

 

OpenMagic API

Need more than content? Move into the product flow.

If you are here for model access, pricing, developer docs, or the future API console, the dedicated product path now lives on api.openmagic.ai.