最新新闻
评测:摩托罗拉MT917功能及像素内存怎么样 奢悦效果怎么样,代理以后货卖不出去能退吗,找谁 扁康科普战胜慢阻肺怎能少了“它” 光年传播,触发品牌原生力 电影《矿难36天》备案通过,导演王良用实力诠释“演而优则导” 德国pjur Mr.big增大膏是一款什么产品?总公司在哪里 德国pjur Mr.big增大膏是什么原理多少钱、批发拿货价格多少 东华厚盾:旋转全面预算“幕后雷达” 婉慈理疗膏代理后能赚钱吗,多久能回本 婉慈理疗膏真的管用吗,代理价格表,多少钱一盒 弘阳地产布局都市圈价值网打造未来城市中心 江西南昌华山生殖医院怎么样 以人为本医技专精 高度近视在宜昌华厦ICL晶体植入的体验之旅 2021款WEY VV6参加《最强大脑》,它能否成为车界脑王? Zephyr的游戏鼠标具有空气冷却的系统 海盗船的4000D机箱发布前在亚马逊上市 上海薇琳医疗整形美容医院:3d双眼皮的价位多少 华硕的ROG Strix XG16是一款144Hz便携式显示器 华硕的ROG Falchion是一款带有便捷触摸屏的微型无线游戏键盘 Zotac推出面向内容创作者的Compact Core i7驱动的PC DIY洗牌机将成为您最喜欢的游戏伙伴 据彭博社报道英伟达已表示有意收购Arm AMD锐龙4000雷诺阿APU将于今年秋天进入消费类AIO台式机市场 AMD雷诺阿移动性的PCIe 3.0限制为8倍 NVIDIA正在探索收购英国芯片设计师的可能性 国内众多白名单企业纷纷亮相8月18日上海防疫物资展 沃尔玛商店将于今年感恩节关闭 Microsoft希望通过新的Teams Rooms Premium产品来运行您的会议室 Red Hook与Dougalston商店将获得库存成本 Netflix现在正在Google Nest Hub设备上进行流式传输
您的位置:首页 >资讯 > 金融 >

我们不能阻止人工智能改变世界 但我们可以阻止机器人烹饪猫

2019-12-06 17:40:52   来源:

作为《人工智能》(artificial intelligence)权威教科书的合著者,斯图尔特•罗素(Stuart Russell)完全有资格对人工智能的未来进行推测。

这位加州大学伯克利分校(UC Berkeley)的计算机科学教授相信,这一领域将继续以惊人的速度向前发展。鉴于电脑和机器人将变得和人类一样聪明的前景,他说,现在是开始研究如何让这些智能机器分享我们的价值观的时候了。

罗素表示,人工智能的进步正在迅速加速,谷歌的DeepMind机器AlphaGo就证明了这一点。AlphaGo自学了一种出了名的复杂的围棋游戏,其水平最近超过了世界冠军李世石(Lee Sedol)。

他在伦敦举行的Strata + Hadoop世界大会上表示:“一年前,计算机围棋编程的权威专家预测,要再花十年时间才能击败世界冠军。”

“这是一个非常迅速的进步,从两年前甚至无法挑战职业围棋手的项目,到现在击败世界冠军的项目。”

他说,未来,人工智能将越来越多地帮助我们过我们的生活,驾驶我们的汽车,充当智能虚拟助手,了解我们的好恶,管理我们的一天。

“也许最大的变化将是搜索引擎,”Russell说,“它将从提供数百万个可能包含我们想要直接回答的问题的答案的页面转向使用从阅读和理解这些页面中获得的知识。”

人工智能技术已经被用于构建超越早期软件能力的智能系统。拉塞尔以加州大学伯克利分校的研究人员为例,他们利用概率编程构建了一个人工智能系统,帮助发现秘密核爆炸。该软件将作为执行联合国全球禁止核试验条约的官方监控系统。

“它是如此强大,以至于系统的核心只有半页代码,它产生的监测系统比之前的系统精确两到三倍,之前的系统是用一个世纪的地震学研究开发的。”

罗素对人工智能的最终能力充满信心,他预测人工智能最终将达到一般智力水平,并超越人类。

“展望未来,人工智能取得进展似乎没有严重的障碍,直到它在广泛的任务中超越人类。”

一旦系统可以学会做“几乎所有”,罗素说,他们将在人类有优势,在“他们可以阅读一切人类曾经写”和“项目更远的未来,作为AlphaGo玩去”的时候,所以最终会比我们能够做出更好的决策。

他表示:“这是一个非常重要的前景,其潜力是巨大的。”

“我们所拥有的一切,我们的文明,都源于我们的智慧。如果我们能接触到一些能显著提高我们智力的东西,它只能帮助我们取得更大的成就。

“我们可以解决这些迄今为止人类最优秀的头脑一直无法解决的问题,比如战争、疾病、贫困和环境破坏。

“也许在本世纪,我们可以达到这样一种境界:我们不再被养活自己和阻止他人杀人的困难所束缚,而是决定我们希望人类成为什么样的人。”

但这种情况是基于技术的最佳应用。拉塞尔说,人工智能也有巨大的潜在负面影响,人们会滥用人工智能带来的文明能力的巨大增长。

全自动武器,如拉塞尔所描述的杀手机器人,是对人类安全的“迫在眉睫的威胁”,他说,“因为它们可以被用作大规模杀伤性武器”。

“五个有足够资金的人就能对一座城市发射1000万枚武器,”他说。

其他有害的用途包括自动监控,其规模在过去是不可能的,以及他所说的“自动说服”,他将其描述为:

“人工智能系统通过与人类个体进行非常有针对性的互动,说服他们接受特定政治观点或购买特定产品的能力。这可能会对我们的社会产生严重的负面影响。”

他说,智能系统和机器人技术的日益普及也可能导致人们目前依赖的许多工作岗位遭到破坏。他补充说,社会还没有一个“严肃的计划”来应对这种结果。

罗素警告说,制造能够独立思考、但仍将我们的最大利益放在心上的机器将是一项挑战。

“一个超级智能的系统会找到实现你想不到的目标的方法。所以很难预测可能出现的潜在问题。”

特别是,罗素警告说,建立一个智能系统来追求一系列目标,而不给它能力来理解什么行动是可以接受的,以实现这些目标。

“想象你有一个家用机器人。是在家里照看孩子,孩子们已经吃过饭了,但还是很饿。它在冰箱里找了找,没剩多少吃的了。机器人不知道该做什么,然后它看到了小猫,你可以想象接下来会发生什么。

“这是对人类价值观的误解,这是对猫的情感价值远远大于营养价值的不理解。”

为了消除这些危险的误解,罗素表示,人工智能需要具备对人类价值观的常识理解。为此,他建议自主机器人的唯一绝对目标应该是人类作为一个物种的价值最大化。通过这种方式,这些机器在执行任务时就会注意到社会价值观,因此它们会在被要求时去取咖啡,但不会杀死任何挡路的人。

他说,随着时间的推移,智能系统和机器人可以通过共同观察人类现在的行为和历史上的记录,逐渐了解人类的价值。罗素提出,机器人可以通过反向强化学习来获得对人类价值的欣赏。

他说,这种方法还要求机器人能够分辨出不同群体和个人的不同价值观中的哪一个应该优先考虑。每个智能机器人也应该被设计成能够接受一定程度的人类价值观的不确定性,允许它要求指导和纠正它的行为,包括允许自己关机。


其中一位签名者是亿万富翁贝宝(PayPal)联合创始人、企业家埃隆•马斯克(Elon Musk),他正在资助“让人工智能受益”的研究。目前,罗素正在着手一项为期20年的研究项目,研究如何建造与人类价值观一致的智能机器。

“我们要做的第一件事是让人工智能领域明白,这是一个重要的问题。就像土木工程知道当你建一座桥时,那座桥不应该倒。它是土木工程师工作的本质,它应该是人工智能人员工作的本质。”

郑重声明:本文版权归原作者所有,转载文章仅为传播更多信息之目的,如作者信息标记有误,请第一时间联系我们修改或删除,多谢。