三胜产业研究中心 商业计划书 可行性研究报告

全国咨询热线:400-096-0053

三胜咨询 - 中国领先的投资咨询机构

·10万份行业报告 ·丰富成功案例

人工智能技术日益成熟在各个领域落地应用

2018-7-13 17:22:31  来源:21世纪经济报道  http://www.china1baogao.com/

人工智能技术落地应用

  近年来,随着云计算、大数据以及深度学习等技术的快速发展,人工智能技术也日益成熟,并开始在各个领域落地应用。


  但是,人工智能在推动产业发展的同时,也给安全领域带来了巨大的挑战。在日前召开的2018中国人工智能移动安全高峰论坛上,来自不同领域的安全专家围绕“AI与安全”的话题展开了讨论。


  工信部网络安全管理局副局长杨宇燕表示,保障人工智能的安全使用是一项复杂的系统工程,目前,这一工程还存在安全意识不足、制度落实不到位等问题。


  为了应对人工智能安全的发展,杨宇燕认为应该从四个方面发力。首先是突破核心技术,其次是加强标准的制定,然后是建立网络威胁信息共享机制,最后是加强应急处置和评测体系的建设。


  百度首席安全科学家韦韬则认为,人工智能的演进速度太快,背后隐藏的安全风险给安全防护工作带来巨大压力,“如果防护方不提前把控风险,黑产一定会把它们利用到极致,并对社会造成巨大的灾害。”


  系统漏洞


  李康去年刚刚从学术圈转到产业界,现在是360智能安全研究院的负责人。他主要的研究方向是攻防对抗里的安全技术,其中便包括人工智能对抗方面的研究。


  在李康看来,人工智能系统中存在非常多的漏洞,其中遇到最多的安全问题是“逃逸攻击”。这也被形容为“骗人攻击”,因为其主要目的就是欺骗人工智能应用,最典型的案例就是人脸识别系统将A认作是B。


  形成这种攻击的主要原因是深度学习模型在做数据培训时,通常是采用固定的维度,比如图像训练,所有图像资料都会被进行维度处理,调整至同样的格式呈现给机器。但在这个变维的过程中,也成为攻击者进行“数据投毒”,欺骗人工智能的场景。


  “原来是一张羊的图片,但维度变化后,机器看到的并不是羊,而是狼。”李康表示,这种情况下,攻击者可能使用的手段也通常出乎意料。


  此外,相对于欺骗人工智能的“骗人攻击”,还存在一种偷取人工智能的“偷人攻击”。这种情况下,攻击者的目的是复制人工智能模型、数据和参数,获得模型后,攻击者可以自行训练数据,更危险的是还有可能推导出原来用的是什么数据。


  “目前面临的一个重要问题是,安全分析员没有意识到有这么多安全问题,主要还是因为现在的程序复杂度太高,越复杂的系统潜在的安全风险也越多。”李康表示,“这也要求业界要多关心自身模型、数据的安全,AI是一个有巨大价值的东西,但它如果很轻易就能被别人‘偷走’的话,就是一个巨大风险。”


  AI“双刃剑”


  从事网络安全工作多年的安赛科技高级咨询顾问于忠臣向21世纪经济报道记者表示,人工智能技术对安全产业起到了极大的促进作用,“在之前,攻击者可以对一个漏洞进行反复利用,甚至可以交叉利用多个漏洞去攻击用户,但AI技术帮助防护方在极短时间内发现漏洞,并进行全网修复。”


  但同时,于忠臣也指出,任何新兴技术都是一把双刃剑,AI技术在助力防护方的同时,也成为很多攻击者的一把利器。


  北京大学郭耀教授表示,他目前正在用人工智能技术解决很多应用安全的问题,比如安全分析、广告欺诈监测、隐私分析等。


  “应用在访问用户数据前会有一个非常长的条款,利用人工智能技术就可以对此进行聚类分析,然后对比相似功能的应用,如果100个应用做同样的事情,其他的都不需要电话号码,而有一个需要,那肯定是有问题的。”郭耀说。


  而腾讯移动安全防病毒负责人王佳斌指出,从攻击者角度来说,他们实施攻击的第一步是选择攻击对象,而人工智能可帮助攻击者更精准的寻找目标。


  有研究表明,通过人工智能的方式对被攻击人的行为进行训练,可以实现在一些合适的节点进行钓鱼攻击,从实际效果来看,这种方式的成功率可达30%,而普通的广撒网方式则只有5%-14%的成功率。


  除此之外,王佳斌还提到了“数据污染”。在实际检测到的一些病毒中,已经发现一些黑产通过正规的申诉通道,投递出与病毒非常接近的文件。这些文件的敏感恶意行为被去掉了,改动也很小,但将它标记为安全进行训练后,却会产生很多问题。


  面对来自黑产的对抗,王佳斌提出了两种应对方案。第一种是对黑产提交过来的污染样本进行鉴定,并从训练集里剔除,保证训练数据的纯洁性;第二种是寻找更多的对抗样本,找到它们与训练数据的差异性,提前补充到训练数据的特征工程中,这样污染样本过来时,就能快速区别。


  平衡发展


  对于AI和安全的关系,长虹信息安全灯塔实验室首席科学家唐博认为可以为三个发展阶段。第一个阶段,是用AI的方法可以解决一些安全问题,比如用AI的方法来识别攻击、用大数据分析识别一些异常流量或者一些攻击的行为。


  第二个阶段是用安全来保护人工智能。在人工智能的模型被“偷”,被“骗”的过程,需要对其进行安全保护。


  第三个阶段,是当人工智能的安全达到一定程度时,它可能会出现跨界或者跨平台的应用,效率也得到进一步提升。而这些过程中,安全和AI是一个相辅相成的过程。


  中国信通院泰尔终端实验室副主任马鑫则认为,技术本没有对错之分,只有先进落后之分。正常的技术发展都需要有一个周期,而且人工智能和其他技术不同,如果把其他技术比作潮水,那人工智能则像海啸。


  AI是一个大系统,系统越复杂,它的安全越需要关注。在一些应用场景比较简单的情况下,它的安全性比较容易得到满足和保障,而在一些复杂的场景下,则需要对其安全性进行研究。而在整个技术发展过程中,面对的是一个平衡的问题。

 

 

     IT与通讯市场研究报告   责任编辑:S56


"《促进新一代人工智能产业发展三年行动计划(2018-2020年)》"
"工业和信息化部关于印发《促进新一代人工智能产业发展三年行动计划(2018-2020年)》的通知各省、自治区、直辖市及计划单列市、新疆生产建设兵团工业和信息化主管部门,各省、自治区、直辖市通信管理局,各相关单位:为贯彻落实《中国制造2025》"...
"《国务院关于印发新一代人工智能发展规划的通知》"
"国务院关于印发新一代人工智能发展规划的通知国发〔2017〕35号各省、自治区、直辖市人民政府,国务院各部委、各直属机构:现将《新一代人工智能发展规划》印发给你们,请认真贯彻执行。国务院2017年7月8日(此件公开发布)新一代人工智能发展规划"...
"人工智能企业4040家中关村成创新高地"
"“人工智能企业于2015年到2016年呈现爆发性增长,截至2018年5月8日,全国人工智能企业共计4040家,中关村成为我国人工智能创新的高地。”6月30日,北京市经济和信息化委员会软件处副处长尤靖,代表该委员会首次发布《北京人工智能产业发"...
"“人工智能+”产业应用成经济增长新引擎"
"今年以来,各地纷纷出台人工智能产业发展政策,“人工智能+”产业应用已经成为经济增长的新引擎。《经济参考报》记者26日获悉,为推动人工智能产业发展迈上新台阶,在深化融合应用的同时,我国还将突破核心技术,引导人工智能产业技术创新体系建设,加快打"...
"自媒体流量红利近尾声直播业用户增速放缓"
"7月12日,在2018中国互联网大会闭幕论坛上,中国互联网协会正式发布《中国互联网发展报告2018》(以下简称“报告”)。澎湃新闻注意到,报告共32章,分综述篇、资源与环境篇、应用与服务篇、"...
"近一半用户每天刷移动社交软件3次以上"
"在12日召开的2018中国互联网大会闭幕论坛上,中国互联网协会正式发布《中国互联网发展报告2018》(以下简称“报告”)。根据报告披露,截至2017年底,中国网民规模达7.72亿人。据介绍,"...
"工信部督查纠错 手机不明扣费垃圾短信骚扰电话多"
"7月11日消息,针对媒体报道的手机不明扣费、垃圾短信、骚扰电话等问题,工业和信息化部高度重视,已组织相关通信管理局、各基础电信企业着手开展三方面的工作:一是督促电信企业立即纠正错收费行为,并"...
"手机域名即可直达所有对外平台 市场前景有待观望"
"“最新统计数据显示,‘.手机’域名注册量已接近10万。”7月9日,管理这一域名注册的科技有限公司市场部经理张维斌告诉科技日报记者。相较于“.com”“.cn”等传统域名,“.手机”由于其采用"...

免责声明:

1、本站部分文章为转载,其目的在于传递更多信息,我们不对其准确性、完整性、及时性、有效性和适用性等作任何的陈述和保证。本文仅代表作者本人观点,并不代表本网赞同其观点和对其真实性负责。

2、中国产业信息研究网一贯高度重视知识产权保护并遵守中国各项知识产权法律。如涉及文章内容、版权等问题,烦请联系QQ:307333508,或在线反馈、link@china1baogao.com、0755-83970586,我们将及时沟通与处理。

陈春花:对创业、组织、管理等基本概念

近日,北京大学国家发展研究院教授、BiMBA商学院院长陈春花围绕着“有效的组织管理”的话题,分享了她对创业、组...[详细]

朱恒鹏:医保能不能真的成为这样的药神

在最近大热的《我不是药神》的片尾,伴随一句“没人再会用那印度药了,格列宁进医保了”,医保似乎成了新一代“药神”...[详细]

李稻葵:现代市场打破企业间的互保“怪

现代市场经济必须有良好的新陈代谢,即新企业进入快,低效企业退出也要快,否则将导致供给质量低下。如何推动低效企业...[详细]

刘世锦:发展实体经济优先降低五大基础

发展实体经济要做的事情有很多,一个基本的要求是降低成本。其中更重要、更紧迫同时也更具可行性的,是降低能源、物流...[详细]

樊纲:解读未来中国的房地产市场的发展

最近几个月,部分城市陆续上演“抢房大战”。随后,西安、长沙、重庆等地相继出台房地产调控政策,住建部等七部门也在...[详细]

韩正:组建国家医疗保障局加快推进抗癌

中共中央政治局常委、国务院副总理韩正10日下午在国家医疗保障局调研并主持召开座谈会。韩正重点了解抗癌药降价、医...[详细]

深圳运营机构:深圳市三胜投资咨询有限公司 华南地区运营总部:深圳市福田中心区中国凤凰大厦1栋19A 邮编:518035

业务咨询QQ:1559444945 2786811657 2786123997 网站合作QQ:307333508

Copyright © 2004-2020 www.China1baogao.Com All Rights Reserved. 版权所有 中国产业信息研究网 三胜咨询TM 旗下网站 粤ICP备13026489号-3