一、关于人工智能
人工智能是一门以数学为基础，涉及到计算机科学、生物学、心理学、语言学和哲学等的交叉类学科。维基百科定义：“人工智能就是机器展现出的智能”，即只要是某种机器，具有某种或某些“智能”的特征或表现，都应该算作“人工智能”。
人工智能三大核心要素：算法、算力、数据。实现人工智能有两个阶段，即准备数据与训练模型。数据准备工作量占比达 70% 以上，但更重要的数据背后的人工，即数据预处理、模型选择与参数调整。
其实，人工智能已发展了半个多世纪，如今随着计算能力飞速发展及硬件成本的不断降低促使用人工智能发展到了第三波浪潮。2017年3月5日“人工智能”正式写入2017政府工作报告，无人驾驶、个人助理、金融、电商、医疗、教育等各大领域大量应用了人工智能。
根据中国电子技术标准化研究院的《人工智能标准化白皮书》（2018版）阐述，人工智能领域关键技术包括机器学习、知识图谱、自然语言处理、计算机视觉、人机交互、生物特征识别、虚拟现实/增强现实等。
人工智能和机器学习有望彻底改变很多行业，但它们也带来了重大风险。比如“算法黑箱”或算法不透明性将引发算法安全管理困境，可能成为“隐形”恶意武器，操控决策至使算法权力诱导个人行为、影响政府决策和司法判决。剑桥分析助力特朗普总统竞选、携程差异化定价杀熟等一个个案例呈现在我们面前。
二、关于网络安全
“网络安全（Cyber security）”：是指通过采取必要措施，防范对网络的攻击、侵入、干扰、破坏和非法使用以及意外事故，使网络处于稳定可靠运行的状态，以及保障网络数据的完整性、保密性、可用性的能力。以上是2017年6月1日起实施的中华人民共和国网络安全法对网络安全的权威定义。由此我们可以发现网络安全的内涵由数据的信息安全，过渡到信息系统安全，再而演进为面向网络空间的网络安全。
网络安全内涵演进图
网络社会是现实社会的映射，网络信息服务和网络安全保护都是网络社会的重要部分，根据中国信息通信研究院《互联网法律白皮书（2017年）》阐述，目前我国的互联网立法可分为网络信息服务、网络安全保护、网络社会管理三个领域。
来源：中国信息通信研究院《互联网法律白皮书（2017年）》
360创始人周鸿祎曾提出一个观点，他认为今天已经来到大安全的时代。网络安全影响到社会的正常运转，网络和现实世界已经融为一体，线上线下的边界已经消失，网络安全问题已经泛化。有数据显示，2017年我国的安全产业产值为400亿左右，但大量应用了包括人工智能在内的先进持技术的网络黑灰色产业链则高达上千亿。
三、人工智能带来的挑战
人工智能在给人类进步带来巨大的推动作用的同时，也给网络安全领域带了一定的风险与挑战。黑灰产业链中大量应用了人工智能技术实现了攻击的自动化、平台化和系统化。
在网络安全保护领域，数据已成资产、能源和基础设施，网络安全保护的重心也聚焦在了数据安全保护。“数据安全保护” 的内涵也可分为三个层次：数据安全、个人数据保护、国家层面的数据保护。对数据安全的挑战可以理解为信息或信息系统免受未经授权的访问、使用、披露、破坏、修改、销毁等。
在网络信息服务领域，人工智能会导致不良信息更易生成。比如，不法分子可利用关键字屏蔽算法，依托机器辅助，生成海量的涉黄、涉政类违法违规信息，不良信息生成更加便捷，违法成本更低，增加了安全监管工作量。
同时，受限于算法不成熟性，人工智能在基于微博、论坛、微信公众号等公开渠道的机器人记者应用可能会生成虚假新闻，通过聚类分析形成事件报道，在事实根据和分析深度上存在差距，稿件质量普遍低于平均值，造成不良社会影响。
另外，不法分子利用人工智能，过度收集利用个人信息来实施精准网络诈骗，大大增加了防护难度。比如，为了实现精准营销，提供个性化定制服务，互联网公司需要收集海量用户个人信息，进行深度挖掘分析，刻画用户群体特征，识别人群智能推送服务。这往往导致个人信息的过度收集和利用，损害用户隐私权益。
在网络社会管理领域， 一方面是线下向线上转移的内容，比如竞争秩序、知识产权保护问题等，另一方面是传统高管制性行业和密切关系民生问题的行业包括交通（网络约租车）、金融、零售（电子商务）、广告等领域。显而易见，人工智能的不当应用可能造成互联网环境下的不正当竞争、侵犯其他互联网信息服务提供者权益等新问题。
四、如何应对挑战
2018年中国互联网安全大会的主题是：安全从0开始，即零信任安全理念。零信任安全是数字化转型时代应对新安全挑战的颠覆性思路，也是解决人工智能在网络安全保护领域、网络信息服务领域、网络社会管理领域带来新挑战的解决方案。
基于复杂的网络安全和IT基础设施现状如何从0开始构建零信任安全是一个难题。人工智能的飞速发展，促进了零信任安全在身份认证、访问控制领域的智能、全面、动态的实现。但人工智能技术是双刃剑，需要在创新的同时健全相关的法律法规，加强人控制机器的能力，使人工智能只是让我们生活变得更舒适的工具和手段。
五、关于作者
王余，杭州朔方信息技术有限公司副总经理，杭州市网络安全专家库成员。