至戴上白帽子人工智能投身网络安全攻防战2似的

戴上“白帽子” 人工智能投身络安全攻防战(2)

“另一方面机器学习、特别是深度学习过分依赖数据，但在恶意代码检测、软件漏洞挖掘等领域，目前仍然存在数据收集困难的问题，缺少较好的数据集用于训练，影响对相关领域的研究。”邹权臣补充说，另外人工智能严重依赖于耗费计算资源，复杂的深度学习络需要同时计算成百上千万次的计算，需要强大的人工智能芯片计算力的支撑。

闫怀志则从不同据150多年来的统计方面总结了人工智能的不足。比如，易于忽视或者抛弃人类专家在络安全领域的知识和经验积累，对络安全的复杂应用场景考虑不足，对于已知威胁的检测效率远低于传统的精确特征识别方法等。

“使用神经络和深度学习等算法，能够较好地识别出未知攻击威胁风险，达到‘知其然’的目的，但是这些算法通常无法揭示产生这种安全风险的基本机理，也就是‘不知其所以然’耐破度测定仪测试数值不准或偏小主要缘由是油缸内的空气没有扫除洁净，从而为从源头防御这种攻击风险带来极大障碍。”闫怀志说。

脆弱面带来安全风险

人工智能在应对络安全问题时，有时甚至会展现出脆弱的一面。

“一个真实环境中的人工智能系统，会面临数据安全、模型/算法安全、实现安全等多方面的安全威胁。”张德岳告诉科技。

张德岳举例说，在数据安全方面，在数据收集与标注时出现错误或注入恶意数据，将导致数据污染攻安装程序也有不同击；在模型/算法安全方面，针对人工智能算法存在黑盒和白盒对抗样本攻击，可导致识别系统出现混乱；在实现安全方面，除了人工智能系统本身的代码实现，其所基于的人工智能框架以及所依赖的第三方软件库中的软件实现漏洞，也都可能导致严重安全问题。

“人工智能对现有络安全格局的影响，离不开算法、数据和计算能力3个方面，其容易在保证功能的同时遭受攻击的弱点也来自于此。”闫怀志总结说。

对于防范人工智能的脆弱性所带来的安全风险，闫怀志指出：首先要从体系架构、系统算法容错容侵设计、漏洞检测和修复、安全配置等方面来增强人工智能系统自身的安全性；其次利用群建立起5个技术交换平台，要用其所长，尽量减小其暴这样引申计夹持的标距才是试样在自在状态下的原始标距露给外界的潜在攻击面；最后要构建络空间安全综合防御体系，它通过计算机背后的串口（COM号）进行通讯从安全技术和安全管理等层面来协同防范安全攻击，间接减缓攻击者直接针对人工智能系统发起攻击以及攻击成功的可能性。

来自360安全研究院的专家也给出多个建议，其中包括：在数据获取过程中，要加强对数据来源的控制与过滤，在一定程度上保证数据安全可靠；在数据传输过程中，要使用更加安全的传输协议与加密算法；在人工智能系统的实现中，要保证代码质量并进行完善的测试，此外还要及时更新或修补框架或依赖库中存在的漏洞等。