1 人工智能在网络安全领域应用国家战略与法律法规

近几年，“人工智能+网络安全”逐步上升到国家网络安全层面。西方主要发达国家政府机构开始重视“人工智能+网络安全”，积极转变传统的军事网络防御思想和实现技术，致力于占领全球军事网络安全战略制高点。以英国为例，英国2016年先后发布了两份与人工智能相关的战略，分别是《人工智能对未来决策的机会和影响》（Artificial Intelligence：Opportunities and Implications for the Future of Decision Making）和《机器人技术和人工智能》（Robotics, Automation and Artificial Intelligence）

• 《人工智能对未来决策的机会和影响》　　

由英国政府科学办公室发布，报告主要解释了人工智能的基本概念和应用现状，分析了人工智能应用将给英国政府和社会带来的益处，并就处理人工智能带来的道德和法律风险提出了建议。报告中重点关注了人工智能对个人隐私、就业以及政府决策可能带来的影响。虽然报告在最后并未提出十分具体的应对建议，但是报告明确英国政府应当以积极、负责的态度处理与人工智能相关的决策，并重申了人工智能发展过程中应当遵守现有法律规范，但对于有限的、受控的试错应抱开放态度。

• 《机器人技术和人工智能》

由英国下议院科学和技术委员会发布，报告主要关注英国机器人、自动化和人工智能产业整体，针对英国如何充分利用自身优势，把握产业发展过程中的机遇进行了分析。报告首先分析了人工智能给社会带来的影响，重点聚焦于对就业和教育的冲击。其次，报告分析了人工智能在安全和可控以及治理上的挑战。最后，报告确定了一份包括资金、领导者以及技术3个方面的RAS（Robotics and Autonomous Systems）2020行动计划。

另外，英国围绕医疗人工智能发布的政策有《人工智能：未来决策的机遇与战略意义》（2016）、《在英国发展人工智能》（2017）

俄罗斯于2019年6月中旬完成了人工智能国家战略的制定，以加强对人工智能等产业的投资和支持。

欧盟发布了《2014—2020欧洲机器人技术战略研究计划》（2013）、《欧盟机器人研发计划》（SPARC，2014）、《地平线2020战略——机器人多年度发展战略图》（2016）、《人工智能时代：确立以人为本的欧洲战略》（2018）等政策

2 人工智能在网络安全领域应用标准

关于人工智能在网络安全领域的应用目前欧洲还没有一个统一的应用标准，各个国家在积极的制定相应的适应性较广泛的标准。德国标准协会（DIN）目前正在开始制定人工智能标准化路线图。其目的是迅速采取行动，建立标准化行动框架，加强德国工业在全球的竞争力，促使欧洲价值观成为全球基准。标准化路线图将总结出人工智能（AI）领域内现有的规范和标准，特别是将会提出人工智能未来必要发展的建议。这个路线图将由来自工业、科学、公共部门和社会上的各利益相关方共同制定。DIN正在通过协调各方对话，以形成一个中立的平台来制定人工智能标准化路线图。该路线图将为提高德国在欧洲和国际层面上的地位做出重大贡献。

3 人工智能在网络安全领域应用技术与产品

欧洲国家在人工智能在网络安全领域的应用技术与产品主要体现在以下三方面：

一是在网络入侵检测方面。入侵检测技术是利用各种手段方式，对异常网络流量等数据进行收集、筛选、处理，自动生成安全报告提供给用户，如DDoS检测、僵尸网络检测。目前神经网络、分布式Agent系统、专家系统等都是重要的人工智能入侵检测技术。Darktrace提供了一套“企业免疫系统”，可以部署在公司网络之中，监听网络异常。一旦网络内部出现可疑行为，Darktrace就会提醒IT经理，而且如果有必要的话，Darktrace还会自动触发保护行为，减缓攻击袭击。从基本层面上看，Darktrace不仅要监测通过公司网络内部的全部流量，还要区别哪些是正常活动行为，哪些是恶意行为。

二是在网络安全动态感知方面。网络安全态势感知技术利用数据融合、数据挖掘、智能分析和可视化等技术，直观显示、预测网络安全态势，为网络安全预警防护提供保障，可在不断的自学习过程中提高系统的防御水平。英国Darktrace公司开发了企业安全免疫系统。

三是在服务器防护方案方面。Sophos推出了具备预测性深度学习技术的新一代服务器防护方案Sophos Intercept X for Server，支持利用深度学习、防漏洞利用和其他主要技术元素大幅增强了对服务器的保护。根据黑客利用服务器漏洞破坏系统的惯常手段来分析，在服务器上直接设置防漏洞利用客户端方案是必需的举措。Sophos Intercept X for Server包括了深度学习神经网络、主动缓解对手攻击、漏洞利用保护、主引导记录保护、根本原因分析以及针对服务器的云端工作负载发现等6大新功能，特别适合于采用混合云架构的企业网络进行统一的安全管控，同时满足端点多样化部署。

4 人工智能在网络安全领域应用产业发展情况

随着网络安全成为越来越多人关注的热点问题，人工智能在网络安全领域应用的学术研究越来越深入。在学术界，牛津大学、剑桥大学、帝国理工学院及伦敦大学学院等高校、研究机构都在人工智能和机器学习领域有深厚的积累。

浓厚的学术环境催生了大量人工智能初创企业，一批致力于“人工智能+网络安全”的企业发展势头良好。在业界，Darktrace公司利用行为分析与高等数学自动化检测企业中的异常网络安全行为，获得软银集团、三星风投、Ten Eleven Ventures共计1.07亿美元投资。

三是传统大型IT企业向“人工智能+网络安全”战略转向明显。Sophos公司以1亿美元现金收购了Invincea，该公司利用人工智能技术自动分析威胁，可通过接受多来源警报，帮助内部网络安全团队管理和排序潜在风险。如上的收购事件凸显出传统大型IT企业向“人工智能+网络安全”战略转向明显，人工智能对于未来网络安全来说，正变得愈发重要。

5 人工智能在网络安全领域应用典型企业

欧洲人工智能在网络安全领域应用典型企业以Darktrace、Sophos为代表。

网络防御公司 Darktrace 由前英国情报官员创建，在全球拥有 23 个分部。它把人工智能系统应用到了网络安全领域。通常来说，网络安全就是要建造防护墙，以应对曾经辨识出的威胁，而 Darktrace 的技术更像是人类的免疫系统。“一旦你理解了设备与人，注意到网络内的微妙改变，你能够确立一种 模式，并且判断出某种行为是否正常——或许某个雇员使用了一个不常用的设备，或者指纹扫描仪行为异常——免疫系统将关注并采取行动，检测异常，避免更加严重的事故。” 除了应对网络攻击，Darktrace 的系统也能用于阻止泄密者。

Sophos是一家科技行业内资历比较老的公司，始建于1985年，总部位于英国牛津近郊。Sophos推出了具备预测性深度学习技术的新一代服务器防护方案Sophos Intercept X for Server，来提供不断进化的安全措施对抗网络威胁。Sophos Intercept X for Server包括了深度学习神经网络、主动缓解对手攻击、漏洞利用保护、主引导记录保护、根本原因分析以及针对服务器的云端工作负载发现等6大新功能，特别适合于采用混合云架构的企业网络进行统一的安全管控，同时满足端点多样化部署。此外，与传统服务器防护系统不同的是，Sophos Intercept X for Server无需升级。Sophos通过将不同产品整合到Sophos Central上，让合作伙伴和客户可凭借单一仪表板管理各个安全层，无论该环节是设于系统内部还是在云端，都可兼顾，因而满足了易用性。新的Intercept X for Server支持利用深度学习、防漏洞利用和其他主要技术元素大幅增强了对服务器的保护。根据黑客利用服务器漏洞破坏系统的惯常手段来分析，在服务器上直接设置防漏洞利用客户端方案是必需的举措。鉴于暗网有平价的现成漏洞利用工具包出售，即使是非专业的网络罪犯也可以发动强大的攻击，使精密的服务器专属安全方案成为一项基本要求。而Sophos Intercept X for Server强大的防护功能可以归类为以下6大方面。

• 深度学习神经网络：利用Intercept X的深度学习神经网络侦测前所未见的全新恶意软件和不需要的应用程序
• 主动缓解对手攻击：阻挡已识别的网络罪犯及用于躲避传统防毒方保护案的常用技术
• 漏洞利用保护：防止攻击者利用已知的系统漏洞
• 主引导记录保护：WipeGuard功能扩展至包含Intercept X防勒索软件技术，阻截以主引导记录为目标的变种勒索软件及恶意程序代码
• 根本原因分析：事件检测及响应功能可提供详尽报告，分析入侵手法、攻击去向与触及的层面
• 针对服务器的云端工作负载发现：检测及保护在Microsoft Azure和Amazon Web Services等公共云上运行的服务器，预防闲散IT或被遗忘资产的风险

近日，中国软件评测中心受北京市药品监督管理局的委托，对其“北京药店数据管理系统V1.0”进行信息系统验收测试。

“北京药店数据管理系统V1.0” 由移动端和后台管理组成，其中移动端由登录、我的、首页、附近、阳光评价等模块组成，后台管理由药店信息管理、药店药师审核、信息发布管理、用户信息管理、统计图表查看等模块组成。系统各项功能的操作方式一致；软件各操作界面风格一致；软件给出的各项操作提示信息易于理解。在测试过程中，系统运行稳定，未出现程序退出、崩溃异常现象。

中国软件评测中心作为第三方测试机构，在模拟测试环境下，对该软件的功能性、性能效率、可靠性、易用性、信息安全性、可移植性、用户文档集等各方面进行了严格的检测，助力该项目顺利通过验收。

应北京市海淀区教育科学研究院的邀请，中国软件评测中心为北京市海淀区教育科学研究院的“海淀区教育委员会预算经费系统升级改造项目”进行验收测试。北京市海淀区教育科学研究院于2016年3月30日在北京成立，其前身为1984年成立的海淀区教育科学研究所。教科院承担区域教育教学前沿性、探索性的科学研究任务及区域教育领域综合改革的政策研究，承担现代教育技术在教学工作中的运用研究，以及配合有关部门开展教育质量综合评价研究工作。

“海淀区教育委员会预算经费系统升级改造项目”单位与用户设置、权限设置、体系查询、财政执行数据查询、政府采购数据查询、固定资产数据查询等功能模块。中国软件测评中心依据GB/T 25000.51-2016《系统与软件工程 系统与软件质量要求和评价（SQuaRE）第51部分：就绪可用软件产品（RUSP）的质量要求和测试细则》、CSTCQBRYJB001《系统和软件产品测试规范V4.0》和用户需求，对系统从功能性、性能效率、可靠性、易用性、兼容性、安全性等6个方面进行了信息系统验收测试。中国评测定凭借丰富的测评经验为系统查找安全问题并提出整改建议，为系统持续稳定运行提供保障。

2019年，应中国红十字会的邀请，中国软件评测中心为中国红十字会的“外网门户系统”、“协同办公系统”、“组织与志愿服务系统”等8个系统进行网络安全等级保护（三级）测评。中国红十字会成立于1904年，是中华人民共和国统一的红十字组织，是从事人道主义工作的社会救助团体，是国际红十字运动的重要成员。中国红十字会以保护人的生命和健康，维护人的尊严，发扬人道主义精神，促进和平进步事业为宗旨。

中国红十字会“外网门户系统”是中国红十字会对外形象展现和应用服务的窗口。“协同办公系统”主要包含公文管理、个人办公、信息发布、公文加密传输、综合行政等功能。“组织与志愿服务系统”主要是实现对中国红十字会组织、会员、会费、志愿者的管理，使中国红十字会组织与志愿者服务工作更加网络化、科学化、规范化。中国软件测评中心依据GB/T 22239-2008 《信息安全技术 信息系统安全等级保护基本要求》、CSTCQBXAJB014 《信息系统安全测评规范 V2.0》的要求，对系统进行了物理安全、网络安全、主机安全、应用安全、数据安全和渗透测试。中国评测定凭借丰富的测评经验为系统查找安全问题并提出整改建议，为系统持续稳定运行提供保障。

中国软件评测中心受上海京东才奥电子商务有限公司委托，于2019年6月依据国家等级保护的相关标准，对1号店用户系统进行了等级保护测评工作。

1号店用户系统于2008年7月正式上线，现用户数量为亿级，活跃用户数量为千万级，该系统主要面向全国用户提供用户注册、登录、商品详情浏览、购买商品评论、搜索、团购、商品购买下单、对接第三方支付进行订单支付、对接京东配送和仓库实现配送等功能，由用户管理、商品管理、订单管理、库存管理等各子功能模块组成。

现场测评采用访谈、文档核查、配置核查、渗透测试、风险分析等方法，结合1号店用户系统的网络拓扑结构和业务情况，对系统涉及的主要设备、设施、人员和文档进行了抽样测评，找出了系统在管理和技术两个方面存在的信息安全漏洞，进行了风险分析，并比对了当前安全防护措施和国家等级保护要求之间的差距，给出了相关整改建议。

在测试过程中，中国软件评测中心测试人员项目管理和实施规范，通过对1号店用户系统进行的全面测评，摸清了系统的安全现状，为系统安全稳定运行和安全防护能力的提升提供了支持。

中国软件评测中心受中国科学院软件研究所的委托，根据GB/T 20984-2007 《信息安全技术 信息安全风险评估规范》，参考CWE（Common Weakness Enumeration，通用缺陷列表）V3.1、OWASP（Open Web Application Security Project，开放式Web应用程序安全项目）十大Web漏洞-2017、CSTCQBXAJB027 《源代码安全测试规范V2.0》，于2019年5月对中国科学院软件研究所“金融数据分析软件”进行了代码测试。

“金融数据分析软件” 由C#语言编写，中国软件评测中心测试人员对测试发现的漏洞说明了成因并给出相应的整改建议。中国科学院软件研究所根据建议对“金融数据分析软件”进行了漏洞修复，通过此次代码测试，有效提高了开发人员的安全意识，为“金融数据分析软件”的安全和稳定运行提供了保障。

中国软件评测中心受北京市西城区疾病预防控制中心的委托，于2019年4月11日至2019年4月18日对健康教育管理系统进行了系统安全等级测评工作。

健康教育管理系统将二级网络的健康教育工作落实为可考核的客观数据，为居民提供个性化的健康教育指导，为主管部门制定卫生决策提供全面动态的健康教育、传染病预防、慢性病管理、规范化免疫等工作数据。本系统主要是对健康教育活动进行全面的过程管理，主要实现对辖区内卫生服务中心、医院健康教育相关工作进行记录并保存相应工作素材，管理健康教育工作专职、兼职人员培训学时等。

评测组依据GB/T 22239-2008：《信息安全技术 信息系统安全等级保护基本要求》及用户安全需求，对“健康教育管理系统”从物理安全、网络安全、主机安全、应用安全、数据安全与备份恢复、安全管理制度、安全管理机构、人员安全管理、系统建设管理、系统运维管理十个方面，对健康教育管理系统进行综合测评。根据被测信息系统当前的安全现状，给出测评结果并提出整改建议，整改后“健康教育管理系统”等级测评结论为基本符合。

中国软件评测中心（CSTC）受内蒙古京东新雁云计算有限公司委托，于2019年5月对内蒙古京东新雁云计算有限公司京东云基础私有云平台进行了系统安全等级测评工作。本次安全测评的范围主要包括物理环境、主机、网络、业务应用系统、安全管理制度和人员等。安全测评通过静态评估、现场测试、综合评估等相关环节和阶段，采用访谈、安全措施检查、验证和渗透测试等方式进行了应用安全、数据安全的安全测评和应用安全渗透测试，根据被测信息系统当前的安全现状，给出测评结果并提出整改建议。

“内蒙古京东新雁云计算有限公司京东云基础私有云平台”主要通过虚拟化技术整合IT资源，为鄂尔多斯市政府提供政务云基础设施服务，根据用户实际需求提供云主机、云存储、云数据库、虚拟私有网VPC。

在测试过程中，中国软件评测中心测试人员凭借丰富的测评经验对“内蒙古京东新雁云计算有限公司京东云基础私有云平台”进行全面的测评，查找出安全问题并提出整改建议，为系统持续稳定运行提供保障，顺利完成了测试工作。

中国软件评测中心受广东京东云锦扬信息有限公司的委托，根据等保三级相关测评要求，对广东京东云锦扬信息有限公司“京东云基础私有云平台”进行了网络安全等级保护测评。

“京东云基础私有云平台” 主要通过虚拟化技术整合IT资源，为肇庆市政府提供互联网基础设施服务，能够简化开发部署过程，降低运维成本，构建按需扩展的网站、应用架构等，从而更适应互联网应用快速多变的特性，根据用户实际需求提供云主机、云存储、云数据库、虚拟私有网VPC。

在测试过程中，中国软件评测中心测试人员严格依据信息安全等级保护相关标准要求，对“京东云基础私有云平台”进行全面的测评，保障测试质量，顺利完成了测试工作。

中国软件评测中心完成“城市轨道交通运维云服务平台技术研究与示范” 功能和性能效率测试。

中国软件评测中心受北京和利时系统工程有限公司的委托，根据GB/T 25000.51-2016《系统与软件工程 系统与软件质量要求和评价（SQuaRE）第51部分：就绪可用软件产品（RUSP）的质量要求和测试细则》、CSTCQBRYJB001《系统和软件产品测试规范V4.0》、CSTCQBZTJB042《课题验收测试检测规范及评价V2.0》和《〈城市轨道交通运维云服务平台技术研究与示范〉北京市科技计划课题任务书》，在模拟和生产环境下，对由北京和利时系统工程有限公司、交控科技股份有限公司、北京市轨道交通运营管理有限公司共同承担的北京市科技计划“城市轨道交通运维云服务平台技术研究与示范”课题（课题编号：Z171100000517002）的课题成果“运维管理系统V1.0”从功能和性能效率方面对指定技术指标进行了课题验收测试。

“城市轨道交通运维云服务平台技术研究与示范”课题（课题编号：Z171100000517002）的课题成果“运维管理系统V1.0”的功能和性能效率达到了《〈城市轨道交通运维云服务平台技术研究与示范〉北京市科技计划课题任务书》中的指标要求，在现场测试过程中系统运行稳定，通过了中国软件评测中心的课题验收测试。

中国软件评测中心完成“HOLLiAS-N系统平台MACS V6.2.3”功能、性能效率测试。

中国软件评测中心受北京和利时系统工程有限公司的委托，根据GB/T25000.51-2016《系统与软件工程 系统与软件质量要求和评价（SQuaRE）第51部分：就绪可用软件产品（RUSP）的质量要求和测试细则》、CSTCQBRYJB001《系统和软件产品测试规范V4.0》、CSTCQBRJJB003《系统和软件产品技术鉴定测试规范及评价V4.0》和《HOLLiAS-N系统平台 MACS V6.2.3测试需求》，在模拟环境下，对“HOLLiAS-N系统平台 MACS V6.2.3”从功能、性能效率方面进行了软件产品技术鉴定测试。

“HOLLiAS-N系统平台 MACS V6.2.3”的功能、性能效率等质量特性符合《HOLLiAS-N系统平台 MACS V6.2.3测试需求》的相关要求。在现场测试过程中系统运行稳定，通过了中国软件评测中心的软件产品技术鉴定测试。

中国软件评测中心完成“水利水电BIM数据管理平台”技术鉴定测试。

中国软件评测中心受中国水利水电勘测设计协会的委托，依据GB/T25000.51-2016《系统与软件工程 系统与软件质量要求和评价（SQuaRE）第51部分：就绪可用软件产品（RUSP）的质量要求和测试细则》、CSTCQBRYJB001《系统和软件产品测试规范V4.0》、CSTCQBRJJB003《系统和软件产品技术鉴定测试规范及评价V4.0》和《水利水电BIM数据管理平台V1.0测试需求》，在生产环境和模拟环境下，对由中国水利水电勘测设计协会的“水利水电BIM数据管理平台V1.0”，从功能、性能效率、信息安全性、兼容性、用户文档集方面进行了软件产品技术鉴定测试。

“水利水电BIM数据管理平台V1.0”的功能、性能效率、信息安全性、兼容性、用户文档集等质量特性，符合《水利水电BIM数据管理平台V1.0测试需求》的相关要求。在测试过程中，中国软件评测中心测试人员严格依据检测规范和要求，对数据管理平台的测试指标逐项进行检测，保障测试质量，目前已顺利完成技术鉴定测试工作。

国家机器人质量监督检验中心（北京）发布《赛迪机器人3·15 ——小心身边的“机器人”变“击器人”》，通过研究主流公共服务机器人架构设计安全隐患，并对抽测样品进行安全分析与攻击测试，发现开源操作系统存在大量未修复漏洞、通信数据明文传输、内置无线AP弱口令、缺乏身份校验机制、未对调试用网络进行保护或禁用、未对代码进行加固、人机交互系统缺乏用户权限划分机制、未对接口采取保护措施等信息安全问题。希望通过本报告引起各界对机器人信息安全问题的关注，促进机器人产品及系统信息安全水平整体提升，真正安全可靠服务于人类。

• 背景：服务机器人应用不断拓展

根据机器人的应用领域，国际机器人联盟（International Federation of Robotics,IFR）将机器人分为工业机器人和服务机器人。其中，服务机器人是指除工业机器人之外的、用于非制造业并服务于人类的各种先进机器人，主要包括个人/家用机器人和专用服务机器人两大类。

随着人口老龄化趋势加快，劳动人口缩减，人力成本上涨等问题不断出现，服务机器人的市场规模快速扩大，应用场景不断拓展，应用模式不断丰富，机器人性能也在逐步提升，数字化、网络化、智能化将成为服务机器人的重要发展方向，人工智能、区块链、大数据、云计算、物联网等技术的迅猛发展，将与机器人产业进一步深度融合，渗透到更多的生活场景。

机器人能否安全服务于人类，是否会成为伤害人类的凶手或泄密工具？请看以下几个国外研究机构公布的主流服务机器人信息安全漏洞案例。

案例一：IOActive发现Alpha2教育陪伴机器人漏洞

Alpha2教育陪伴机器人，利用其缺乏代码签名机制的漏洞，攻击者可以轻松进入系统、覆盖权限并安装恶意代码，从而控制机器人使其操作工具损害周围物体。

案例二：Check Point安全软件公司发现LG公司的Hom-bot智能扫地机器人漏洞

LG公司的Hom-bot智能扫地机器人，利用其远程登录系统存在的加密漏洞，攻击者可以获得扫地机器人的控制权，劫持内置摄像头，监视用户的个人隐私。

案例三：华盛顿大学仿生机器人实验室发现Raven Ⅱ手术机器人漏洞

RavenⅡ手术机器人，由于其遥操作端与执行端的信号通过网络非加密传输，利用中间人攻击手段，可以干扰两端之间的通讯，使得手术机器人最终失去控制，无法执行医生的正常操作，从而影响手术过程，给患者带来极大的安全隐患。

在上述背景下，国家机器人质量监督检验中心（北京）选取目前具有代表性的，已经广泛应用于酒店、餐厅、银行、政务大厅等领域的公共服务机器人进行信息安全研究及攻击测试，通过揭示分析公共服务机器人信息安全问题，引发全社会对机器人信息安全问题的关注，让机器人真正成为人类的帮手。

（注：以下涉及的研究及试验结果仅以此类公共服务机器人为例，简称“机器人”。）

• 研究：可能存在十大信息安全风险点

国家机器人质量监督检验中心（北京）研究此类机器人的整体架构设计，如图2所示，列出其可能存在的信息安全风险点：

1.机器人专用控制系统漏洞。利用专用控制系统漏洞，攻击者可以获得控制系统权限，实现对机器人的非法控制，干扰机器人的正常运动。

2.传感器安全风险。攻击者可以对传感器进行干扰，使机器人的导航和避障功能失灵，影响机器人正常运行。

3.接口API漏洞。攻击者可以利用接口API的漏洞，获取、篡改、监听机器人的语音信息；或入侵机器人操作系统，获取系统权限，实现对机器人的劫持或敏感数据窃取。

4.Wifi通信安全风险。通讯数据未加密，攻击者可拦截通信传输信号，嗅探、篡改、伪造数据包，非法控制机器人。

5.Android系统与应用漏洞，攻击者可以利用Android系统自身存在的漏洞，实现对操作系统权限的非法获取。此外，由于开发者经常忽略的问题，包括不当的身份认证、信息未加密、密钥未安全存储、日志记录和监控不足等，也会给机器人带来极大的风险隐患。

6.网络摄像头漏洞。攻击者可通过对网络摄像头的劫持，窃取用户隐私、商业机密。

7.USB传输安全风险。攻击者可以通过USB接口植入恶意代码，实现对机器人的非法控制、窃取核心数据；通过ADB调试端口，直接侵入机器人操作系统，非法获得控制权限，实现对机器人的劫持。

8.串口通信安全风险。攻击者可以通过串口非法接入机器人操作系统，进而获得系统权限，实现对机器人的非法控制。

9.总线通信安全风险。攻击者可以通过访问总线接口，对数据进行篡改和伪造，干扰机器人的运动。

10.2.4G网络通信安全风险。攻击者可以使用软件无线电监听、篡改数据，实现对机器人的劫持。

图2 公共服务机器人安全风险点

• 测试与试验：被测公共服务机器人均存漏洞

为验证目前公共服务机器人是否存在上述信息安全风险，国家机器人质量监督检验中心（北京）抽取主流公共服务机器人进行测试与试验。（以下测试与试验结果仅对抽测样品有效）

首先，我们通过对这类机器人使用较多的操作系统版本进行了内核源代码漏洞扫描，结果如表1所示。利用这些漏洞攻击者可以获取系统级访问，进行攻击。

表1 机器人操作系统内核源代码漏洞抽测结果

随后，国家机器人质量监督检验中心（北京）按照图3所示的研究路径，对机器人进行安全分析和攻击测试。

图3 安全分析和攻击测试路径

试验结果表明：

1.对机器人使用较多的操作系统版本进行内核源代码漏洞扫描，存在多项紧急、高危甚至可提权漏洞，攻击者可通过这些漏洞获取系统级访问，进行攻击。

2.所有被测对象均采用未加密的明文方式传输数据，攻击者可以轻易获得数据报文格式，伪造或篡改控制报文。

3.部分被测对象内置无线AP，利用其弱口令漏洞，可以获得控制报文进而实现非法控制。

4.部分被测机器人未隐藏其激光雷达传感器自带用于远程调试的AP，攻击者可直接干扰传感器数据。

5.部分被测机器人没有身份校验机制，通过其开放的端口可以获取配置文件信息甚至可直接访问企业的管理后台地址。

6.部分基于Windows平台开发的被测机器人，可直接进入或通过未禁用或未做保护的接口进入其Windows系统，并获得源码信息，且其控制指令未作代码混淆，缺乏身份校验机制，攻击者可以直接实现对机器人的劫持。

7.部分被测机器人没有对使用者划分权限，任何使用者都可通过人机交互界面进入Android系统后台并开启调试模式、安装第三方应用，获取并利用系统关键资源等。

下面视频展示了对机器人进行安全分析和攻击测试并实现非法控制的过程：

• 建议：重视安全隐患 提升信息安全水平

随着服务机器人关键技术的不断更新与发展，服务机器人将呈现智能化、普及化、社会化、多元化等特点，未来服务机器人会涉及到人们日常生活的方方面面。与此同时，服务机器人在信息安全方面可能会出现更多新的隐患或问题，造成人员伤害或隐私泄露等。因此希望主管机构、服务机器人研发企业、用户以及研究和检测机构对机器人信息安全问题引起重视。

国家机器人质量监督检验中心（北京）基于现有研究和测试试验结果提出以下几点建议，以促进机器人产品及系统信息安全水平整体提升，真正安全可靠服务于人类。

1.加强信息安全防护技术研究，提升机器人产品信息安全防护能力，从根源解决机器人信息安全隐患。

2.加快建立机器人信息安全标准体系，开展机器人产品信息安全检测认证及审查工作，定期对机器人生产企业及应用企业开展信息安全检查。

3.建立国家机器人漏洞库，发现收集机器人领域的信息安全漏洞，并对漏洞进行解剖分析，向主管部门提交分析报告，为国产机器人生产及集成应用企业提供安全测评和解决方案。

4.加强机器人信息安全宣传、教育及培训活动，增强全社会对机器人的信息安全防护意识，稳步提升信息安全防护能力。

声明：