欢迎来到太平洋安防网!
微信号
扫描上方二维码
加入网站订阅号
扫描上方二维码
加入商城公众号
手机站
扫描上方二维码
访问手机站
太平洋安防资讯
资讯
当前位置:安防首页 > 资讯 > 行业资讯

人工智能与物联网安全:以子之矛,攻子之盾

2018-11-08 10:20:18来源:人工智能观察已被 307 人阅读

内容摘要:在网络安全的世界里,防御端和攻击端的人工智能攻防前哨站已经打响,换句话说,对黑客来讲,人工智能不仅可以提高攻击效率,面对人工智能系统,他们也可以通过污染训练数据进行相关操作。
    智造观点

    在网络安全的世界里,防御端和攻击端的人工智能攻防前哨站已经打响,换句话说,对黑客来讲,人工智能不仅可以提高攻击效率,面对人工智能系统,他们也可以通过污染训练数据进行相关操作。

    随着现代威胁形势的不断扩大,将人工智能(AI)添加到安全策略中,对于建立和维持有效的安全状态变得至关重要。鉴于现代网络威胁的速度和复杂性以及当前网络安全技能的短缺,网络安全团队需要机器学习和其他基于AI的功能的帮助,以便检测、保护和缓解现代攻击。

    然而,当企业采用人工智能来加强他们的安全工作时,网络犯罪分子也会采用敏捷软件开发,自动化和机器学习之类的东西,来潜在地利用人工智能来更好地识别和更快地利用网络漏洞,这一点也不足为奇。

    实际上,由于越来越多的物联网和运营设备进入网络基础设施,网络犯罪分子已经有机会和能力发起快速且复杂的攻击,而这些固有的易受攻击的设备,将成为企业网络的入口通道。人工智能所带来的潜在攻击能力,只会进一步加剧对当今数字化转型工作的威胁。



图片来源:图虫创意

    因此,人工智能可能很快就会提供成功保护或攻击物联网的方法,以便有效地在网络安全专业人员和网络犯罪分子之间建立AI军备竞赛。

    为了保护数字化转型并保持严格的安全状态,IT团队必须了解网络犯罪策略的最新变化,这些变化可能会在未来几年内导致AI驱动的威胁环境。他们还需要了解现在可以将哪些AI功能合并到他们的安全堆栈中,以便在他们的网络不断发展和扩展时保持一致的安全状态。

    不过,在AI防御开始之前,人工智能网络攻击也不能被忽视。

    最新AI攻击手法,插入噪音就能破坏语音识别

    Koos Lodewijkx,IBM Security的CTO兼VP曾分享到,目前至少有三种与人工智能相关的网络安全攻击手段。

    首先是利用人工智能提高攻击效率。比如,现在黑客可以通过机器学习,分析社群媒体上的讯息、朋友圈等,依照这些个人化信息发起针对性攻击,提高钓鱼攻击成功率。此外,现在网络上也出现通过机器学习以及可自动识别图像的免费软件,让黑客可破解用来防御自动化攻击的验证码机制。

    其次是黑客攻击AI系统。这是以一种改变系统的方法进行攻击,简单来说就是污染AI系统,或是找到AI系统弱点、绕过防御以进行攻击。以微软在2016年推出聊天机器人Tay为例。网络罪犯可以借助机器学习技术让它在每次的对话中改变回复话语,以至于该机器人在上线24小时候就出现了种族歧视的言论。其实不仅仅是聊天机器人,Lodewijkx表示,现在的技术也能做到入侵语音识别系统,只要在声音中插入噪音,就能彻底改变翻译结果,让机器说出特定语句。

    虽然这些看似无伤大雅,但由于AI已经被企业大量用于商业营运中,一旦被黑客知道模型如何训练和运作,就能借此机会破坏训练模型的数据来操控模型。比如,银行把AI导入借贷决策系统来分析申请人的收入、年龄、居住地、信用分数等,以决定是否批准该借贷,一旦找到方法绕过侦测,就算有很差的信用分数仍可贷款成功。

    至于最后一种攻击手段,黑客看重的不是模型本身,而是用来训练AI模型背后的数据。Lodewijkx表示,黑客已经可以窃取训练AI模型背后的数据。以图像识别系统为例,正常情况是,给出图片后,系统可以识别出人名,而在破解系统后,黑客只要拥有姓名,就能逆向重建图片。

    面对黑客攻击,人工智能从三个层面进行防御

    不只是攻击端,AI之于网络安全防御,也是不可或缺的角色,以IBM为例,该公司旗下的网络安全产品几乎已全面接入人工智能。那为什么要用人工智能进行防御?

    首先,Lodewijkx指出,现在的资料数量庞大,来自网络、计算机系统、数据库等等,随之而来的是资料、威胁、环境都变得更复杂。在这种情况下,却面临网络安全技术人才的短缺问题。IBM的一项调查指出,到2022年,网络安全领域会有180万份的人才短缺。这也是为什么需要在网络安全工具中导入AI,而AI也能提高侦测和反应的速度,降低损失。

    就目前的情况而言,最常见的AI应用是预测分析(predictive analytics),也就是借助机器学习分析大量数据,从中找出异常。举个例子,利用人工智能监控网络流量或使用者行为,找出不寻常的地方,或是观察人类如何和计算机或手机互动,进而辨别出这是真正的人类、还是假装成人类的恶意软件。此外,也能找出假的威胁警报,降低误报率。

    第二个层面是智能强化(Intelligence consolidations),也就是把网络安全研究工作交给AI。现在,IBM正在教旗下人工智能平台Watson读网络安全方面的新闻、研究报告以及Twitter等,进而建立知识图谱,并找出每个知识间的关联性。训练完成后,当告诉Watson一个IP位址、网址或档案,Watson就可以及时给出该档案的相关信息,减轻分析师的工作,让他们不必亲自去读取大量资料。

    第三种则是智能回应(intelligence response),其目标在于提高一定时间内的分析效率。Lodewijkx指出,以网络安全营运中心为例,分析师有58%的时间都是花在重复性工作上。举例来说,当网络安全监测系统发出警告时,分析师必须比对不同的应用程序、数据库和系统,确认该警示是否为真,鉴于这些步骤是固定的,所以很适合自动化。

    不过,尽管现在很多人工智能技术已经被用于网络安全产品,但我们也不能认为人工智能可以解决所有的网络安全问题,至少现在距离这一目标还有很长的路要走。而随着智慧城市、工业互联网、自动驾驶等将在未来十年普及,人工智能安全将成为产业发展的蓝海。在这种情况下,运用人工智能赋能网络空间安全也变得十分必要。

    与此同时,面对技术规范、行业标准、法律法规尚未健全的人工智能新领域,制定统一的安全监测标准、安全防范架构、安全评估体系对于让网络空间安全成为人工智能的重要应用领域也有举足轻重的作用。可以说,随着人工智能技术日趋成熟,人工智能在“AI+安全”领域不仅能够全面提高网络空间各类威胁的响应和应对速度,而且能够全面提高风险防范的预见性和准确性。

    文/未末末

    来源/人工智能观察(ID:Aiobservation)
参加太平洋安防网微信公众号活动即有机会获赠全年杂志、太平洋安防官网免费广告位。安防广告随你登,免费杂志任你领!
还等什么呢?微信扫描上方二维码关注吧!
TAG:人工智能物联网
免责声明:凡注明来源本网的所有作品,均为本网合法拥有版权或有权使用的作品,欢迎转载,注明出处。非本网作品均来自互联网,转载目的在于传递更多信息,并不代表本网赞同其观点和对其真实性负责。
[责任编辑:xiating]
0条 [查看全部]  相关评论

阅读推荐

国庆长假出游打车 智能后视镜助力安全

2018十一黄金周即将到来,小长假出行,网约车与出租车依然是不可替代的重要工具之一..

给老人购买智能锁需要注意什么

眼看着十一假期将要临近,很多在外工作的年轻人就要趁着今年最后一个七天长假回家里..

世界人工智能大会在沪举行,听听大佬们都说了啥

2018世界人工智能大会在上海举行,除了各式各样与人工智能相结合的“黑科技”展示之..

华为全栈全场景AI,推动安防行业转型升级

2018年10月23日,北京安博会2018中国安防高峰论坛顺利召开。华为中国地区部副总裁、..

智能门锁如何才能抓住消费者的心?

中国是最大门类的生产与消费国,有门就必须要配锁,中国国内锁具业每年的销售额在40..

热门标签

GPS 电子围栏 汉王人脸识别 汉王人脸 校园安防视频监控 人脸识别考勤机 人脸识别系统 人脸识别神眼跟踪 人脸识别技术 生物识别 监控 NVR取代DVR NVR与DVR DVR网络化 DVR板 DVR市场 CAMERA 2012南京安防展 高清混合DVR 门禁 天气雷达 大华dvr 大华DVR30 型摄像机 南京安防 南京安博会 停车场系统解决方案 停车场管理系统 停车场管理 人脸

客服专线:0755-83977321|市场招商热线:0755-83976188、83977188

广告
合作
:2250409004
网站
客服
:1351574492 :2995163296
新闻
投稿
:956170840
技术
支持
:616303423

网站备案号:粤ICP备12031422号-1 经营许可证编号:粤B2-20090398 深圳互联网科技创新企业

太平洋安防网版权所有 2006-2018 互联网违法和不良信息举报中心:0755-83977321 service@tpy888.cn

太平洋安防产业链: