2024年4月9日下午，中国电子信息产业发展研究院、中国软件评测中心人工智能场景化应用与智能系统测评工信部重点实验室、人工智能产业创新联盟（中国计算机行业协会人工智能专委会），在北京赛迪大赛举办AI大模型安全治理研讨会暨AI安全工作组成立仪式。

中国电子信息产业发展研究院党委副书记、人工智能场景化应用与智能系统测评工信部重点实验室主任胡国栋，中国电子信息产业发展研究院副总工程师、人工智能场景化应用与智能系统测评工信部重点实验室学术委员会副主任安晖，和来自中国科学院信息工程研究所、浙江大学滨江研究院、北京理工大学、上海人工智能实验室、教育部信息中心、中国移动评测中心、腾讯朱雀实验室的专家学者，以及来自奇安信、瑞莱科技、科大讯飞、百度、火山引擎、蚂蚁集团、奇虎科技、百悟科技、梆梆安全、北京鉴衡认证中心、北京数原、长扬科技、达观数据、海致科技、恒生电子、霍因科技、集智未来、梦网科技、和利时、云天励飞、亚信安全、银信科技、中电互联、卓纬律所等四十余家研究机构、高校、企业的专家、代表参加会议。会议由中国软件评测中心人工智能研究测评事业部总经理、人工智能场景化应用与智能系统测评工信部重点实验室副主任庄金鑫主持。

中国电子信息产业发展研究院党委副书记、人工智能场景化应用与智能系统测评工信部重点实验室主任胡国栋在会议上指出，人工智能技术快速演进带来新的安全挑战，需要将总体国家安全观贯彻体现到人工智能领域，保障人工智能全产业链、全生命周期、全应用领域的安全，以高水平安全保障高质量发展，构建人工智能时代新安全格局。为确保技术发展和应用的安全可控，我们要掌握发展与安全的主动权，加大对人工智能安全领域的投入，共同构建健康的人工智能安全生态系统。希望通过共商、共建、共享的原则，携手行业内外的专家学者和企业，共同推动人工智能安全领域的标准制定、技术进步和生态完善，促进我国人工智能行业的健康发展和国际竞争力的提升。

中国电子信息产业发展研究院党委副书记、人工智能场景化应用与智能系统测评工信部重点实验室主任 胡国栋

会议宣布人工智能场景化应用与智能系统测评工信部重点实验室AI安全工作组正式成立，由中科院信息工程研究所担任组长单位，奇安信、瑞莱科技、浙江大学滨江研究院担任副组长单位，百度、科大讯飞、腾讯云等20余家单位担任成员单位，会议为相关单位颁发证书。

人工智能场景化应用与智能系统测评工信部重点实验室副主任测评师孙佰鑫发布《大模型安全测评规范》，从数据安全、模型安全、安全管理措施三大维度对规范进行了解读，并宣布启动“御安引擎”测评计划。

会上还发布了大模型安全评定结果，奇安信、科大讯飞、百度、瑞莱智慧四家企业获得中国软件评测中心首批“大模型安全评定证书”。

在主题分享环节，上海人工智能实验室青年研究员杨超做《基于RAG的内容安全审核系统》报告。

奇安信科技集团产品总监刘宇馨做《大模型产品安全实践》报告。

北京瑞莱智慧科技公司公共事务总监胡嵩智做《打造智能化时代的安全可控大模型基座》报告。

与会专家、企业代表围绕大模型安全治理挑战、实践与建议进行发言交流。

下一步，中国电子信息产业发展研究院、中国软件评测中心将依托人工智能场景化应用与智能系统测评工信部重点实验室AI安全工作组，与高校、院所、企业加强沟通协作，共同推动技术研究、标准制定、测试评估、生态建设等工作，诚挚邀请致力于相关工作的专家、企业加入。