DeepMind和马斯克等机构个人承诺抵制AI自主武器
2018-07-18 23:55:00 来源:腾讯科技

埃隆-马斯克

腾讯科技讯 7月18日据国外媒体报道,在本次人工智能联合会议上,Future of Life Institute组织宣布有超过2400名个人专家与160家组织共同签署了一项承诺协议,未来既不参与也不支持开发、制造、交易或使用致命的自主武器。同时超过90个国家的代表也呼吁各国政府通过法律手段禁止这类武器的出现。包括谷歌旗下的DeepMind和Xprize基金会,以及埃隆-马斯克(Elon Musk)、DeepMind联合创始人德米斯-哈萨比斯(Demis Hassabis)、肖恩-莱格(Shane Legg)以及穆斯塔法-萨勒曼(Mustafa Suleyman)也都做出了承诺。

在这一承诺签署之前,已经有少数几家公司不顾同行和外界的反对,向政府机构和执法部门提供相关的技术。谷歌之前因竞标五角大楼合同向军方提供人工技术而受到抨击,该技术可以帮助军方无人机标记图像而无需通过人工审查。另外,亚马逊也因与执法机构共享面部识别技术备受质疑,微软则因为向移民和海关执法部门(ICE)提供技术支持同样被推上了风口浪尖。

“大量人工智能研究人员都认为,为武器增加人工智能技术,会带来更大的风险和致命性。这会发展成暴力和压迫的强大工具,特别是与监视和数据系统有关的应用。”该份声明表示。所有签署协议的个人或公司都认为“不应该将人类的生命交给机器”。

“很高兴看到人工智能领域的领导者们已经从表态转向实际行动,自觉签署了这项政府尚未进行商讨的政策。”Future of Life Institute主席马克斯-特格马克(Max Tegmark)表示。“人工智能拥有巨大的潜力来帮助整个世界,但我们需要预防这项技术被滥用。能够自动决定杀人方式的人工智能武器与生化武器一样令人厌恶和危险,应该予以同样的方式进行抵制。”

谷歌已经发布了自己的一套原则,目的就是规范公司人工智能技术方面的发展。谷歌的政策规定,不能将人工智能技术部署到武器、监视等技术中,否则就违反了国际法和人权原则。另外微软也表示,与ICE的合作仅限于电子邮件、日历、消息和文档管理,不包括任何面部识别技术,并且微软也在自家的面部识别技术方面制定了指导原则。

2015年,马斯克曾向Future of Life Institute捐赠了1000万美元,用于一项确保人工智能对人类有益的技术研发。去年,马斯克、哈萨比斯和苏莱曼联合Future of Life Institute向联合国发送了一封公开信,要求对AI自主武器进行监管。(编译/音希)

  • 为你推荐
  • 公益播报
  • 公益汇
  • 进社区

热点推荐

即时新闻

武汉