最新新闻
海信电器发布公告称 海信电器正式更名为海信视像 海信的管理杰出贡献是中国管理创新的新榜样 重磅发布 隈研吾再次玩跨界 为百得胜操刀品牌新LOGO 增强现实将改变建筑师的工作方式格雷格·林恩说 Allee将康涅狄格州湖边的房子分成两个不同的部分 DS E-TENSE以中央镀铬的脊柱和独特的金属绿色紫黄晶车身色为特色 全新Bentley Mulsanne系列在日内瓦亮相前揭晓 全新600马力Alpina B7 Supersaloon在日内瓦车展前亮相 阿斯顿·马丁DB11是该公司第二世纪计划下推出的第一款产品 绿地汇金 做好投资理财 能让你快速致富 赢发宝 没有睡后收入,何以财富自由 中金创盈 理财知识如何学以致用 香港卡连佛时尚集团 美妆行业的佼佼者 个人事业的大舞台! 2020年江苏卫视跨年演唱会超强明星阵容+硬核舞美 南方黑芝麻贵妃丸邀您一起锁定 AMD推出了两个尚无法购买的中端Ryzen CPU 尊敬的分析师称 iPad Pro 3可能取代Lightning取代USB-C 流行的Mac应用程序窃取和共享用户的浏览器历史记录 Plenty是全美房地产价格上涨的佼佼者之一 大众向消费者销售了多达17,000个试生产原型 中真点金 投资理财我们应该怎么做 最新Pi币注册教程 Pi Network 派π币挖矿中文下载 吸尘器好用吗 符合家庭日常需求的无绳吸尘器哪个牌子好 加利福尼亚州的公寓建筑商已购买了大草原地区的房地产 雷·哈伯德湖附近的工程中有1000个家庭的社区 Rowlett在雷哈伯德湖上的水晶泻湖项目开工 达拉斯房价涨幅在最新报告中扩大 詹姆斯·坎贝尔公司于五月购买了普莱诺的白金公园办公项目 盘点常见宝石切割方式 不知道“帝王钻”都不好意思说懂珠宝 上海携趣利用金融科技助力金融行业的长远发展 聚沙学院肖劲松陈骏院长:CJL正规区块链交易所,扩大区块链技术应用范围
您的位置:首页 >资讯 > 金融 >

我们不能阻止人工智能改变世界 但我们可以阻止机器人烹饪猫

2019-12-06 17:40:52   来源:

作为《人工智能》(artificial intelligence)权威教科书的合著者,斯图尔特•罗素(Stuart Russell)完全有资格对人工智能的未来进行推测。

这位加州大学伯克利分校(UC Berkeley)的计算机科学教授相信,这一领域将继续以惊人的速度向前发展。鉴于电脑和机器人将变得和人类一样聪明的前景,他说,现在是开始研究如何让这些智能机器分享我们的价值观的时候了。

罗素表示,人工智能的进步正在迅速加速,谷歌的DeepMind机器AlphaGo就证明了这一点。AlphaGo自学了一种出了名的复杂的围棋游戏,其水平最近超过了世界冠军李世石(Lee Sedol)。

他在伦敦举行的Strata + Hadoop世界大会上表示:“一年前,计算机围棋编程的权威专家预测,要再花十年时间才能击败世界冠军。”

“这是一个非常迅速的进步,从两年前甚至无法挑战职业围棋手的项目,到现在击败世界冠军的项目。”

他说,未来,人工智能将越来越多地帮助我们过我们的生活,驾驶我们的汽车,充当智能虚拟助手,了解我们的好恶,管理我们的一天。

“也许最大的变化将是搜索引擎,”Russell说,“它将从提供数百万个可能包含我们想要直接回答的问题的答案的页面转向使用从阅读和理解这些页面中获得的知识。”

人工智能技术已经被用于构建超越早期软件能力的智能系统。拉塞尔以加州大学伯克利分校的研究人员为例,他们利用概率编程构建了一个人工智能系统,帮助发现秘密核爆炸。该软件将作为执行联合国全球禁止核试验条约的官方监控系统。

“它是如此强大,以至于系统的核心只有半页代码,它产生的监测系统比之前的系统精确两到三倍,之前的系统是用一个世纪的地震学研究开发的。”

罗素对人工智能的最终能力充满信心,他预测人工智能最终将达到一般智力水平,并超越人类。

“展望未来,人工智能取得进展似乎没有严重的障碍,直到它在广泛的任务中超越人类。”

一旦系统可以学会做“几乎所有”,罗素说,他们将在人类有优势,在“他们可以阅读一切人类曾经写”和“项目更远的未来,作为AlphaGo玩去”的时候,所以最终会比我们能够做出更好的决策。

他表示:“这是一个非常重要的前景,其潜力是巨大的。”

“我们所拥有的一切,我们的文明,都源于我们的智慧。如果我们能接触到一些能显著提高我们智力的东西,它只能帮助我们取得更大的成就。

“我们可以解决这些迄今为止人类最优秀的头脑一直无法解决的问题,比如战争、疾病、贫困和环境破坏。

“也许在本世纪,我们可以达到这样一种境界:我们不再被养活自己和阻止他人杀人的困难所束缚,而是决定我们希望人类成为什么样的人。”

但这种情况是基于技术的最佳应用。拉塞尔说,人工智能也有巨大的潜在负面影响,人们会滥用人工智能带来的文明能力的巨大增长。

全自动武器,如拉塞尔所描述的杀手机器人,是对人类安全的“迫在眉睫的威胁”,他说,“因为它们可以被用作大规模杀伤性武器”。

“五个有足够资金的人就能对一座城市发射1000万枚武器,”他说。

其他有害的用途包括自动监控,其规模在过去是不可能的,以及他所说的“自动说服”,他将其描述为:

“人工智能系统通过与人类个体进行非常有针对性的互动,说服他们接受特定政治观点或购买特定产品的能力。这可能会对我们的社会产生严重的负面影响。”

他说,智能系统和机器人技术的日益普及也可能导致人们目前依赖的许多工作岗位遭到破坏。他补充说,社会还没有一个“严肃的计划”来应对这种结果。

罗素警告说,制造能够独立思考、但仍将我们的最大利益放在心上的机器将是一项挑战。

“一个超级智能的系统会找到实现你想不到的目标的方法。所以很难预测可能出现的潜在问题。”

特别是,罗素警告说,建立一个智能系统来追求一系列目标,而不给它能力来理解什么行动是可以接受的,以实现这些目标。

“想象你有一个家用机器人。是在家里照看孩子,孩子们已经吃过饭了,但还是很饿。它在冰箱里找了找,没剩多少吃的了。机器人不知道该做什么,然后它看到了小猫,你可以想象接下来会发生什么。

“这是对人类价值观的误解,这是对猫的情感价值远远大于营养价值的不理解。”

为了消除这些危险的误解,罗素表示,人工智能需要具备对人类价值观的常识理解。为此,他建议自主机器人的唯一绝对目标应该是人类作为一个物种的价值最大化。通过这种方式,这些机器在执行任务时就会注意到社会价值观,因此它们会在被要求时去取咖啡,但不会杀死任何挡路的人。

他说,随着时间的推移,智能系统和机器人可以通过共同观察人类现在的行为和历史上的记录,逐渐了解人类的价值。罗素提出,机器人可以通过反向强化学习来获得对人类价值的欣赏。

他说,这种方法还要求机器人能够分辨出不同群体和个人的不同价值观中的哪一个应该优先考虑。每个智能机器人也应该被设计成能够接受一定程度的人类价值观的不确定性,允许它要求指导和纠正它的行为,包括允许自己关机。


其中一位签名者是亿万富翁贝宝(PayPal)联合创始人、企业家埃隆•马斯克(Elon Musk),他正在资助“让人工智能受益”的研究。目前,罗素正在着手一项为期20年的研究项目,研究如何建造与人类价值观一致的智能机器。

“我们要做的第一件事是让人工智能领域明白,这是一个重要的问题。就像土木工程知道当你建一座桥时,那座桥不应该倒。它是土木工程师工作的本质,它应该是人工智能人员工作的本质。”

郑重声明:本文版权归原作者所有,转载文章仅为传播更多信息之目的,如作者信息标记有误,请第一时间联系我们修改或删除,多谢。