扫描二维码
下载 《财界新闻》APP
扫描二维码
下载 《今日财界》APP
马斯克等科技大佬联名承诺:不发展致命性人工智能武器系统
来源:财界网 2018-07-19 08:47:49
  特斯拉创始人埃隆·马斯克领衔的美国科技圈大佬们签署了一份协议,承诺不会发展致命的人工智能武器系统。

  7月18日,科技网站TheVerge报道称,这是全球研究者和企业家非官方联盟的最新举措,反对人工智能技术的不当扩张。

  协议警告,使用人工智能的武器系统“无需人工干预就能选定目标”,这造成了道德上和实操上的威胁。协议的签署方认为,从道德上来说,取走一条人命的决定,“绝不应该委托给机器”,从实操方面来看,这种武器的扩散将“危害每个国家和个体的稳定”。

  该协议于当天在瑞典斯德哥尔摩举行的2018国际人工智能联合会议(InternationalJointConferenceonArtificialIntelligence)上发布,由生命未来研究所(FutureofLifeInstitute,FLI)起草。

  生命未来研究所是一个研究与推广机构,致力于降低人类面临的风险,尤其是人工智能技术开发过程中的可能出现的风险。该研究所此前已经发布了一些文件,号召联合国对致命自主武器(lethalautonomousweapons,LAWS)设立新规。此次协议的签署,也是相关人员首次承诺不会参与开发此类技术。

  除了SpaceX和特斯拉CEO埃隆·马斯克,签署协议的知名科技界人士还包括,创造了阿尔法狗的谷歌系人工智能公司Deepmind的三位联合创始人ShaneLegg,MustafaSuleyman和DemisHassabis;通讯软件Skype创始人JaanTallinn,以及其他世界最权威和前沿的人工智能研究者。

  据科技网站Engadget报道,少数公司的技术,以及如何向政府机构和执法团体提供这些技术,面临强烈争议,于是这项协议应运而生。谷歌就曾向美国军方提供人工智能科技,帮助他们在无人机影像中标记需要额外人工检查的内容。类似地,亚马逊由于向执法机关分享其面部识别技术而招致批评,微软也因向美国移民和海关执法局(ImmigrationandCustomsEnforcement,ICE)提供相关服务而遭到抗议。

  在遭受猛烈抨击之后,谷歌推出了新准则,作为公司研发人工智能技术的道德指导。准则中称,不会将人工智能设计或应用于武器、监视或“其目的违反了广为接受的国际法和人权准则”的技术。微软也发布声明称,其与美国移民和海关执法局的合作仅限于电子邮件、日历、消息和文档管理,不包括任何面部识别技术。微软也在号召美国国会对面部识别技术进行监管。

  2015年,马斯克为生命未来研究所的一个研究项目捐助了1000万美元,该项目专注于确保人工智能会有益于人类。2017年,马斯克,Deepmind的Hassabis和Suleyman也在生命未来研究所递交给联合国的信件上签名,寻求对自主武器系统的立法。
  • 标签:
  • 人工智能,马斯克,商业大佬
责任编辑: 宋帅龙 IF228
发表评论
遵守中华人民共和国有关法律、法规,遵守《互联网新闻信息服务管理规定》。
尊重网上道德,承担一切因您的行为而直接或间接引起的法律责任。
您在财界网发表的言论,我们有权在网站内转载或引用。
相关推荐
排行