霍金再发警告:人工智能将毁灭人类,靠谱吗?“宇宙之王”霍金最近一段时间内很不老实,多次发生预言世界末日,世界将要毁灭...而近日,霍金再发警告称“人工智能或将毁灭人类”,这一言论立马轰动了全世界范围内的关注。但是霍金说的人工智能毁灭人类靠谱吗?人工智能真的有这么大的危害吗?
本来是一项为了维护世界和平的研究计划,突然转变成为一场灾难,人类面临着被智能机器人“奥创”毁灭的风险,《复仇者联盟2》被定义为超级英雄科幻大片,故事情节离现实还有非常遥远的距离,但“人工智能毁灭人类”不得不触动我们的神经。
1956年,“人工智能”这一学术术语首次被提出,“人工智能”也正式成为了一门新兴学科。但在随后的几十年里,”人工智能“给我们的印象更多地是在实验室以及电影里。
但在前后,以谷歌(微博)、微软、Facebook为代表的科技巨头接连入局人工智能领域,再加上鸿海等厂商计划利用机器人工作,“人工智能“逐渐走进了我们的生活。
面对科技界一股前所未有的”人工智能大潮“,马斯克、盖茨等科技大佬坐不住了。8月,马斯克在Twitter发布一条状态:“Bostrom撰写的《超级智能》一书值得一读,我们必须对人工智能超级谨慎,它的潜力可能比核弹还危险。”
比尔?盖茨 也在最近的一次活动上表示,机器将取代人类从事各种工作,如果我们能够处理得好,它们应该能发挥积极作用。可是数十年后,人工智能将发展到足以令人担忧的程度。
2月初,致力于“降低人类面临的现存风险”的生命未来研究所(Future of Life Institute)的数百名顶尖科学家在一封公开信中签名,公开信呼吁科技界在推动人工智能发展的同时,彻底审视人工智能的发展将对人类社会产生怎样的影响。
这封信的作者承认,人工智能在语音识别、图像分类、自动驾驶汽车、机器翻译和答疑系统等领域取得了显著成功,并认为这些研究有助于消灭疾病和贫困。但他们坚持认为,“人工智能系统必须做我们希望它做的事情”,科学界应确立 “有助于最大限度提高人工智能社会效益”的研究目标。
公开信强调,未来的人工智能可能在计算机安全、经济、法律和哲学等领域影响社会,但就是这种无处不在的潜在性,可以引发多方面的危机。例如,科学家们认为,如果未来经济的某些部分变得自动化,工人以及工人工资会受到很大影响,人工智能专家们不得不要重视。人工智能应该正视下列问题:致命的自动化武器是否符合人道主义法? 当人工智能系统从监控摄像头、电话线路和电子邮件中收集数据时,如何避免侵犯隐私权?
来自英国牛津大学的一群学者去年在一篇博客文章中写道:“当一台机器发生错误,其错误方式可能比人的失误更有戏剧性,可能会带来更多不可预知的结果。简单算法在很大程度上是可预测的,但在不寻常的情况下,它可能作出离奇的决定。”
与这些比较现实的问题相比,知名科学家霍金想的更为长远。霍金在接受BBC采访时表示,如果技术具有与人类类似的能力,“它将脱离控制,并以加速度重新设计自己。更可怕的是,由于生物学意义上的限制,人类无法赶上技术的发展速度。“霍金对人类的未来表示担忧:“人类由于受到缓慢的生物进化的限制,无法与机器竞争,并会被取代。全人工智能的发展可能导致人类的终结。”
从这些科学家的言论中,我们可以看到,科技界、科学界对人工智能的担忧主要来自两方面:一方面是人工智能对人类工作、生活方式的改变,可能影响到现有的法律体系、道德标准以及利益分配的模式等等,而人类做出改变的速度未必能跟的上人工智能的发展速度,这就会对社会现有的体制造成冲击,从而引发混乱;另一方面是,人工智能让人类越来越缺乏思考,而其自身则有可能越来越聪明,从而威胁到人类的生存。
对于马斯克、盖茨、霍金等人的言论,谷歌董事长施密特率先发起反驳。施密特的身份很特殊,作为谷歌的董事长,他曾亲身参与许多世界上最复杂的人工智能系统的研发,从自动驾驶汽车到谷歌的预测性搜索引擎等,谷歌去年甚至还推出了自己的内部机器人实验室。施密特认为,所有对机器将抢走人类工作、占领世界的恐惧都毫无根据,并且希望人们能够意识到:机器人会成为我们的朋友。
施密特说:“对于人工智能的担忧,都是正常的。但是回顾历史你会发现,这些绝对是错误的。我们只是希望能通过更多机械化的方式,能让我们穿上更好的衣服,而且历史的经验已经证明,过去的经济繁荣时期,大多数是因为采用新技术而引发的。”
但我们应该想到,当机器人让大批工人失业时,我们该怎么办?当机器人误操作引发事故,现有法律如何厘清责任?当黑客借助人工智能犯罪时,我们又该如何防范?这些都应该是我们现在需要正视的问题。