您的位置:首页>>智能设备
搜索: 标题  

矩阵?终结者?微软CEO用6条规则将AI无害化

发布时间:2016-07-01 10:47:49  来源:爱范儿   编辑:阳光不锈  背景:

  近期,微软CEO纳德拉在Slate上发表了自己对于人工智能安全设计的思考。他认为人工智能和人类在未来可以和谐相处:

  我们希望创造可以增强人类能力和体验的人工智能。最终,人类和机器不应该是敌对的关系。人类的创造性、同情心和洞察力可以和人工智能的计算能力有机地结合在一起,推动社会进步。

  纳德拉是一个乐观派,但他的乐观是建立在理性思考上的。

undefined

  (图片来自:The New Yorker)

  他认为,要实现这个目标,对有害的副作用的防范至关重要。对此,他提出了6条规则,以指导人工智能的安全设计。

  人工智能必须成为人道的辅助。

  纳德拉认为,随着人工智能越来越自主化,人们的生活应该更加自由。机器应该代替人类去做一些如采矿一类的危险工作,让我们的生活更安全。

  人工智能技术必须透明、公开。

  当机器可以近乎无限制地学习用户的行为,人类更加应该了解人工智能技术的工作方式。反之,信息不对等会带来巨大的危险。

  人工智能在促进生产效率的同时,不能有害于人类的尊严。

  纳德拉在此强调,科技产业不能刻意引导未来价值观与道德的发展趋势。当硅谷的大公司都在宣扬“科技改变世界”的信条,人工智能的设计应该倾听不同人群的声音。

  人工智能必须保障用户隐私。

  人工智能的设定应该尊重个人和群体的隐私保护意愿。比如,Facebook和Google都以挖掘个人数据营利,而它们复杂的隐私设定,让用户的大部分隐私都暴露给人工智能。这种模式是纳德拉所反对的。

  人工智能必须有可更改的算法。

  这样可以通过修改人工智能的设定来规避风险,将意料之外的危害降到最低。

  人工智能应反对歧视。

  纳德拉反对人工智能对于边缘化人群的歧视,这多少也暗合了硅谷自由派的价值观。

  在纳德拉之前,有不少人表达过类似的忧虑。

undefined

  (图片来自:Huffington Post)

  1942年,科幻巨擘阿西莫夫出版了短篇小说 Runaround,并在其中提出了著名的机器人三定律。这套规则被广泛引用,用来探讨在科技进步中如何防止机器人对人类的伤害。

  机器人不能伤害人或因不作为使人类受到伤害。

  除非违背第一定律,机器人必须服从人类的命令。

  除非违背第一季第二定律,机器人必须保护自己。

  阿西莫夫的人工智能规则看似严谨,但也有很多人认为其仅有文学上的,而非现实上的价值。比如,这套规则并不能防止人工智能修改自身的设定以摆脱人类的控制。

  这种担忧看似是杞人忧天,而事实上,近年来如比尔·盖茨和霍金等都发表过对人工智能潜在危险的担心。

  学术界对此问题的探讨起步更早,法国哲学家让-弗朗索瓦·利奥塔早在1988年出版的著作《非人道》中就提出过,科技的演进有其内在的逻辑,独立于人类的意愿之外。科技永远只遵循效率优先的原则,而非以人为本。他预言,总有一天人类会失去对科技发展的控制,并被科技奴役。

undefined

  (图片来自:Movie Pilot)

  The Verge 评论道,跟阿西莫夫的三定律相比,微软CEO 的6条原则显然缺少了趣味性,但是其对整个产业的发展来说却是更有指导意义的。

  纳德拉的担忧更侧重人工智能潜在的社会影响,而不是反对机器人走进千家万户。人工智能若想增进人类福祉,扫除潜在危险,或许需要有更多如纳德拉这样的领导者出面,为道德演进指明方向。

  声明:本文仅为传递更多网络信息,不代表ITBear观点和意见,仅供参考了解,更不能作为投资使用依据。


返回网站首页 本文来源:爱范儿

本文评论
智能音箱会成为下一个风口吗?
近期智能音箱概念风起云涌,业界领头羊亚马逊的智能音箱产品ECHO销量轻松突破千万更是为此增添一把...
日期:07-14
爆料:诺基亚手机有Nokia 2、3、5、6、7、8、9八款
如果你一直关注诺基亚手机的相关新闻,那么你可能清楚地知道,Nokia 品牌的外包公司 HMD Global 目...
日期:07-14
功能缺失的iPhone 8变配角?全新7S系列有望登场
如今各个手机品牌都想推出自家全面屏设计的手机,但是在全面屏屏幕的供应商上,能够保证正常供应的...
日期:07-14
苹果以后会怎么定位iPad?专心打辅助?
对于苹果来说,iPad如今到底应该处于一个什么位置呢?从长远来看,或许平板电脑的销售依然可以成为推...
日期:07-14
取代指纹识别?苹果研究iPhone面部识别功能快10年了
根据之前的报道,苹果打算在即将发布的iPhone 8手机上配备的无线充电功能和前置3D摄像头都遇到了软...
日期:07-14
三星官方剧透Note8外观 发布时间再提前
或许是传出下月底即将发布的缘故,三星GALAXY Note8不仅在网络上频繁被曝光,而且现在官方也似乎加...
日期:07-14
iPhone 8或配备3D激光摄像头 应该是给AR准备的
苹果在今年的WWDC 2017上带来了ARKit,应该是铁了心要在AR(增强现实)领域动真格。而根据Fast Compan...
日期:07-14
iPhone 8砍掉Touch ID:耗时3年堆最强面部识别
对于iPhone 8,目前最新的传言是,苹果放弃了指纹识别。虽然郭明池仅仅表示,iPhone 8的正面Home和S...
日期:07-14
Facebook将在明年推低价版无线VR头盔 还有小米定制版
Facebook公司正在采取进一步措施,让其Oculus Rift虚拟现实(VR)头戴设备成为大众化产品。
日期:07-14
中国手机厂商加速“出海”:上半年手机出口增长13.5%
7月13日,海关发布的最新统计数据显示,2017年上半年,我国货物贸易进出口总值13.14万亿元人民币,...
日期:07-14
华为全面屏Mate 10浮现:更大更震撼
虽然不少厂商都在拼屏,但是摄像头依然是手机更新换代的重中之重,事实也确实如此,特别是火热双摄...
日期:07-14
诺基亚Edge概念图亮相 全视曲面屏加持
诺基亚回归已经有一段时间,然而到目前为止依然只推出了诺基亚6等非旗舰产品。对于许多消费者而言,...
日期:07-14
无边框OLED又怎样?苹果iPhone 8吸引力不大
关于苹果今年的全新旗舰新机iPhone 8的爆料已经足够多了。基本上可以说,我们已经不用等到九月份就...
日期:07-14
员工泄露坚果 Pro 最真实销量,这些销量能养活锤子到下款新机发布吗?
  心疼罗永浩一秒。 还有什么比被自家员工坑更悲惨的事情呢?尤其是当你公司的新机本来发布之...
日期:07-13
三星S8/S8+珊瑚蓝版配色最早明日登陆北美市场
上个月据Evan Blass爆料称,三星上半年发布的旗舰机型S8/S8+的珊瑚蓝(Blue Coral)配色即将在7月登陆...
日期:07-13
苹果为新iPhone增加后置3D激光系统 提高AR精度
苹果公司的工程师正在努力工作,为今秋发布的一款新iPhone增加后置3D激光系统。
日期:07-13
前期售价2万元 iPhone 8开卖时间曝光 延后1个月
想要买iPhone 8的用户要提前做好准备了,这款手机发售时间已经延后,并且前期供应量出奇的少。
日期:07-13
从线上“突围”线下,互联网手机再次崛起了
  后浪推前浪,前浪倒在沙滩上。 从各方最新的国内手机线下销售报告来看,部分互联网品牌已...
日期:07-13
中低端齐上阵 诺基亚又要玩机海战术
虽然诺基亚9何时发布尚未有确切的消息,但现在网络上却已经开始流传诺基亚还有三款新机即将登场的消...
日期:07-13
三星S8销售放缓导致Note8或提前上市
三星的Galaxy S8组合取得了非常不错的反响,这种采用颠覆性外观设计的风格,受到了大部分消费者的好...
日期:07-13