欢迎加入

搜索结果

当前位置:首页 > 搜索结果

人工智能时代更安全?百度韩祖利:机遇与挑战并存

由中国新闻社旗下财经新媒体中新经纬主办的第五届财经中国V论坛3月28日在北京举行。百度安全产品部总经理韩祖利在主旨演讲中指出,人工智能领域的安全战线比之前更长、更复杂,包括现在广为流行的生物识别技术也存在安全隐患:在光照足够的情况下,10米开外用单反相机就可以拍到虹膜,并且低成本地复制出来。

百度安全产品部总经理韩祖利。

人工智能能为互联网安全做什么?

韩祖利指出,百度每天在互联网上抓取到几十亿网页,其中不可避免有一部分包含恶意攻击,如银行仿冒网站、虚假中奖信息、博彩或色情网站等。这些恶意网站也非常狡猾,不断变换规则以逃避网址安全检测和监察。

韩祖利表示,过去只能靠人工来发现恶意网站,并从中总结出一些通用匹配的规则。有了人工智能后,这个工作就变得更加轻松了:人类可以把筛选出的绝对违法、绝对有恶意的网站去训练一个模型,用它不断在几十亿网页里寻找新的恶意方式和欺诈方式。

据他介绍,目前在某些领域,人工智能的准确率已超过人类,因为人总会被一些信息误导。例如字符1和I非常相近,人可能会出现判断失误,但对于机器来讲不可能弄错。还有一些攻击者使用图片显示恶意信息以逃避监管,这时可使用人工智能的图片识别功能,将这些恶意网页打捞出。

人工智能时代的安全战线比之前更长

韩祖利指出,人工智能时代的安全战线比之前更长、更复杂,多了数据风险、传感器欺骗等棘手难题。

据他介绍,人工智能在进行图片分类时,具有极易受干扰的一面。虽然人工智能在某些方面精准度可超过人类,但在复杂情况下还远远达不到。例如,两张自行车图片在人类看来一模一样,但对于机器很可能并不一样,如果加一些干扰因子,机器会把其中一辆识别成蟑螂。

韩祖利称,随着深度学习的发展,现在越来越多的智能设备开始应用生物识别技术,但这一技术也存在风险,因为生物特征极易被复制。据了解,在光照足够的情况下,10米开外用单反相机可以拍到虹膜,可以低成本地复制出来。此外,生物识别传感器本身没有那么高精度,很容易会被欺骗,导致采集的数据出现问题。

此外,韩祖利还指出,目前人工智能的研究应用,基本上都会沿用一些框架,依赖库非常多;但依赖库本身往往存在安全漏洞,导致人工智能也不可避免存在风险。

百度如何应对人工智能的潜在风险?

韩祖利指出,为应对人工智能的潜在风险,百度研发了如下技术工具:

首先是对抗样本工具包Advbox。百度提供了一套安全对抗样本的工具,以测试深度学习模型抵御对抗样本的健壮性,在使用PaddlePaddle(百度深度学习平台)时,可以检验生物识别、图像验证等会不会出现问题。这套工具会随着PaddlePaddle的开源,提供给整个产业。

其次,是多因子认证解决方案。人工智能行业尚缺乏标准,对于生物认证单靠一个因子并不可靠,弥补单一因子的局限性和安全风险,同时采取两种或两种以上的认证方式,比如强因子与弱因子叠加,同时欺骗两种认证方式,难度就大很多了。此外,想要安全地上线生物识别,无疑需要一个更强大更统一的生物识别行业标准,这需要整个产业链互联网厂商、硬件厂商、芯片厂商、安全厂商、行业监管部门、学界通力合作,切实保障身份认证全产业链的安全。百度基于多年生物识别的研究与实践,持续加大对多因子认证行业核心技术与解决方案的研发投入,同时拓展多因子认证新场景。

此外,关于IOT(物联网)在整个智能设备中的安全问题,百度也提供了一套完整的框架解决方案免费给很多厂商使用,包括云端的安全、在设备端提供病毒防护,甚至一些漏洞的热修复能力等,都在不断完善。