一、首届大会召开标志数字人产业开启新篇章

2024年9月23日至24日期间，首届中国数字人大会在京召开，深入探讨人工智能在数字人技术创新中的应用，是我国数字人领域发展的重要里程碑。一方面，推动人工智能技术创新与突破。数字人所需的高度智能化交互能力，要求人工智能系统具备更强大的自然语言理解和生成能力，促进了人工智能算法的优化与升级。另一方面，表征社会数字化发展已到达新阶段。基于云计算、大数据等技术的数字人解决方案正在快速成熟，是从人的“生物本体”被数字信息化到“数字化的人”，再发展到“数字人”单独参与数字社会生产的进化过程，是数字化社会生产发展到新阶段的标志。

二、数字人产业发展可能引发数据风险

数字人应用是多技术综合的产物，人工智能技术为数字人的智能化提供了强有力的技术支撑，本质是多种数字智能技术创建的智能体，其底层动能是基于人工智能大模型持续训练的大量数据。作为一类特殊的存在，在虚拟与现实交织的数字化社会环境中，数字人应用可能引发多方面的数据风险。一是数据收集阶段风险。人工智能的学习依赖于庞大的数据集，数字人模型训练过程中不良数据、脏数据可能导致应用过程中产生歧视性甚至有害的结论，无法保证数字人的行为始终在可控、可预测的范围内进行。二是数据分析阶段风险。人工智能在数据样本量少或是非随机性取样的过程中，容易发生数据分析过程中的错误关联，又或是由于数据体量巨大，其很难在分析过程对数据建立因果关系，导致数据分析结果存在偏差，致使产生的数字人行为结果不易被信任。三是数据传输阶段风险。在数据传输过程中，黑客或恶意用户可能会通过非法手段访问或篡改数据，对数字人的安全性和可信度构成威胁，致使数据流通过程中存在更大的数据安全和数据合规风险。四是数据应用阶段风险。目前我国对数字人产业的管理要求相对不完善，数字人处理大量用户数据将导致用户隐私存在的泄露和滥用风险，弱化的隐私保护可能导致法律责任、监管调查和用户流失等问题。

三、面向人工智能的数据治理建议

一是着力研制人工智能数据治理标准。聚焦数据收集分析、模型训练与测试等数字人创建流程，制定不同环节的数据治理标准规范，确保每个阶段都能够按照既定目标和标准进行治理，实现针对性地有效安全保障。

二是强化人工智能数据治理合规管控。基于人工智能技术的不断创新和发展，数字人在开发、设计、使用、服务和产品的过程中，应保证数字人投入使用前进行数据采集存储和传输过程中，符合相应数据安全及合规的管控要求，引入第三方机构进行评估审查。

三是开展人工智能数据治理监测评估。建议主管部门联合产业生态，对数字人的行为进行实时监测与评估，利用自动化工具和算法识别、分类、加密和监控数字人数据，增强用户隐私保护，提高治理效率和准确性，使其能够更灵活地适应不断演变的数字环境。