近年来,在技术推动、应用牵引、产业融合的多重作用下,我国人工智能产业快速发展,为我国经济高质量发展注入强劲动力。专家认为,随着“智能+”时代的加速到来,我国正向世界人工智能产业引领者迈进,但仍需关注底层核心技术与先进国家有较大差距、“万物互联时代”信息安全隐患增多、相关人才培育不足等问题,推进人工智能产业全面健康发展。
“今天语音合成可以模仿任何人说任何声音。”科大讯飞(002230,
股吧)董事长刘庆峰介绍,目前科大讯飞(002230,
股吧)的人工智能翻译达到了大学六级口语水平,预计到2019年底可以达到专业八级水平。最新推出的讯飞翻译机2.0,能支持中文与33种语言互译,许多方言也都能翻译成外语。
“我们的财务服务有一个会计机器人(300024,
股吧)。通过采集、传送各种原始的核算数据,机器人(300024,
股吧)服务可以自动进行识别、智能制单,实现自动记账、形成报表、核算报税数据。”用友网络董事长兼CEO王文京介绍,用友网络借助人工智能技术,在业务和运营流程自动化、知识工作智能化、数据智能等三个层面为企业“赋能”,一些客户的工作效率得以提升10%到20%。
与此同时,一些企业还积极利用人工智能推荐内容进行内容创作。北京字节跳动科技公司副总裁马维英介绍,借助移动互联网和智能手机,今日头条可以随时给用户提供需要的信息,可以做到精准定位、精准推送、精准推荐,让用户在任何时候都得到想要的信息。
丰富的应用场景与人工智能技术正形成互相促进的“良性循环”。中国科协主席万钢认为,中国新一代人工智能在图像识别、语音翻译、行为分析等方面已经进入了世界前列;在智能机器人(300024,
股吧)、无人商店、机器翻译、共享汽车、自动驾驶等行业的新产品世人瞩目;在城市规划、智能交通、社会治理、卫生健康、农业科技和国家安全等领域的应用各具特色。
爱波瑞集团董事长王洪艳认为,目前人工智能与精益管理正为制造业赋能。物联网、自动化领域的最佳应用,无一不是在全价值链精益化的基础上进行的数字化、智能化延伸应用。
华为技术有限公司云BU副总裁陈崇军认为,目前我国人工智能的创新主要是集中在应用创新上。应用创新的核心就是帮助企业处理海量数据,通过行业专家的训练调优,解决实际问题、产生实际效果。人工智能在企业中的广泛使用可以帮企业管理解决重复劳动自动化的问题、降低管理成本,可以对经营过程中的不确定性和模糊性进行智能识别和智能决策。
人工智能技术作为一个新兴技术手段,可以为经济、军事、文化等产业注入新的生命力,能够将人从简单性、重复性、危险性的劳动中解放出来。不过,尽管人工智能技术可以为国家的发展带来新鲜的生命力,它也带来了不少的挑战,对国家的安全、经济发展、社会稳定、信息保护等方面都有着直接或者间接的影响。综合而言,人工智能技术对我国网络空间的安全主要有以下几个方面的影响。
1.网络空间不稳定性增加
人工智能技术作为新兴崛起的技术方向,自身理论和外部技术以及配套环境尚未完全成熟,因此其会从内部风险和外部风险两个方面影响我国网络空间的稳定性。
一方面,人工智能对网络空间稳定性的内部风险是指由人工智能技术本身理论和应用基础所带来的风险,这部分风险很难预判。人工智能技术的理论基础在于计算机、统计学、机器学习、数据挖掘、深度学习等等专业,这些学科很大部分建立在概率论和数理统计的基础上。因此,人工智能并不是简单的一对一的映照和因果关系,而是由机器主导的一种大概率性正确选择和判断。尽管从理论而言,人工智能运行中的风险事件的发生概率很低,但是现有技术无法预估其带来的损失边界和安全边界,其何时发生、在哪个节点发生以及为何发生更是难以预测。所以,同传统的计算机程序相比,人工智能程序的内在风险更高。在人工智能的发展历史上,人工智能机器人(300024,
股吧)伤害人的事件也已见诸报端。1989年,一次国际象棋界的人机大战中,前苏联国际象棋冠军古德柯夫连胜三局,智能机器人(300024,
股吧)棋手突然向金属棋盘释放出强电流,于众目睽睽之下将古德柯夫击毙。2017年,Facebook的两个对话机器人(300024,
股吧)更是在对话的过程中生成了人类看不懂的语言,官方为谨慎起见只能将其关停。伴随着人工智能技术的大规模落地和深入使用,网络空间中的许多节点和应用都将交给人工智能打理,在这样的大背景下,如何降低和规避人工智能技术的技术风险,以及降低风险事件对网络空间和现实社会的影响,需要我们深思。
另一方面,人工智能对网络空间的外部风险是指来源于人的风险,尤其指技术人员对人工智能技术和系统的不规范使用和恶意攻击。人工智能技术处于蓬勃的发展期,现在的研究热点更多在于理论基础和应用场景的扩展,对人工智能的安全控制的研究并不充分。所以,随着人工智能技术的大规模应用,人为的不规范操作和恶意使用及攻击将会逐渐增多,传统网络空间的一些守护措施譬如验证码验证、身份验证等也会面临着巨大的威胁。
2.数据和个人隐私泄露的风险扩大
人工智能的蓬勃发展建立在大数据、云计算等平台上,只有依靠硬件平台不断地收集、整理用户的特征数据和行为数据,人工智能的算法才能够持续成长和应用。因此,敏感数据的泄露风险将会不断增加。如果触发人工智能自身的缺陷或者是被黑客攻击,大量敏感的信息将会面临泄露风险,轻则用户个人信息被不法分子掌握,重则危害用户财产安全甚至人身安全。同时,人工智能技术能够便捷地在网络空间收集和识别个人隐私,如文字、头像等信息,并根据这些信息精确刻画个人相关的性格、社会关系、收入和消费偏好等属性,稍不留神,一个人的方方面面就会被人工智能技术全面嗅探到,并暴露在社会之中。所以,在人工智能技术发展和应用的同时,应该尽快从技术、政策、法律和标准等方面保证个人隐私的安全。
3.网络攻防战场将愈加激烈
当今,工程界和学术界普遍认为人工智能同攻防的结合是网络安全发展的必然趋势,具有极大成长的空间。在传统的网络攻防中,网络安全人员与黑客之间的攻防较量极大的依赖于人员的先验经验积累,在一定程度上属于研发中的劳动密集型工作。人工智能技术的出现和发展可以在一定程度将劳动密集型的工作高度自动化,一方面,网络攻击方可以将网络攻击中的漏洞挖掘、注入、攻击等的行为自动化,提高攻击的效率。譬如,2017年的绍兴市公安局的1·03专案,便是一起利用人工智能进行网络攻击和欺诈行为的事件。嫌疑人运用人工智能技术开发出了一套图像识别系统,这种图像识别技术可以自动辨认出图片上显示的数字、字母、汉字等信息,并且通过深度学习的方式,在实践中不断提升辨认能力。然而,这样的技术却被犯罪团伙运用到了网络诈骗等活动中,给受害者带来了不小的损失。另外一方面,一些安全厂商已经通过将人工智能技术和安全防御策略相结合,构造出了拥有自主学习能力的主动防御系统,该防御系统除了能够应对传统的网络威胁,也可以预防潜在的各类后门攻击,面对各类越来越复杂和智能化的渗透式网络入侵也有一战之力。可以预见到,伴随着人工技能技术在网络攻防领域的深入应用,网络空间中的攻防战场将会愈加的激烈。