中国信息通信研究院人工智能研究所2024年12月人工智能风险治理报告——构建面向产业的人工智能安全治理实践方案（2024年）版权声明本报告版权属于中国信息通信研究院，并受法律保护。转载、摘编或利用其它方式使用本报告文字或者观点的，应注明“来源：中国信息通信研究院”。违反上述声明者，本院将追究其相关法律责任。前言人工智能技术以其前所未有的发展态势引领新一轮科技革命和产业变革，深度驱动经济社会发展。技术跃迁释放价值红利，与此同时带来风险挑战。2023年10月，习近平主席提出《全球人工智能治理倡议》，其中着重指出，做好风险防范，不断提升人工智能技术的安全性、可靠性、可控性、公平性。人工智能风险治理已经成为把握未来人工智能发展的核心要素，也是全人类需要共同应对的时代课题。当前，全球各界积极探索人工智能风险治理之道。本报告广泛汲取国际行动、各经济体努力、产业实践等各方经验，勾勒新时代下人工智能风险认知的演进路径，提炼出人工智能风险认知正向全球性融合、前瞻性考量、系统性分析、交叉性联动不断深化。通过深入分析全球人工智能风险治理多元共治的实践经验，我们深刻认识到，将人工智能风险治理的方案落实到技术革新、产品开发和应用部署中去，是回应社会关切、解决突出矛盾、防范安全风险的必然选择，也是关系到人工智能长远发展的重要议题。本报告结合国际经验，立足我国产业实践，提出“系统治理-风险识别-风险评估-风险应对”的人工智能风险治理实践框架，实现穿透式风险管控与全链条流程管理的深度融合，为人工智能产业主体对于技术发展与安全保障提供解决方案。鉴于人工智能技术应用日新月异，本报告对人工智能风险治理的认识仍有未尽之处，恳请大家批评指正。目录一、概述........................................................................................................................1（一）人工智能风险挑战引发全球关注.............................................................1（二）人工智能风险治理模式亟需创新.............................................................3（三）推动面向产业界的人工智能风险治理落地框架迫在眉睫.....................4二、人工智能风险认知渐进深化................................................................................6（一）人工智能内生安全与衍生安全复杂交织.................................................6（二）人工智能风险认知迈向多维度深化融合.................................................9三、人工智能风险治理全球实践..............................................................................12（一）国际层面：加速推进风险治理行动及合作...........................................12（二）主要经济体：迭代完善风险划分与管控举措.......................................14（三）产业组织：协同推进治理框架和安全工具...........................................17（四）企业主体：深化技管融合的风险应对方案...........................................18四、面向产业的人工智能风险治理实践方案..........................................................19（一）打造全链条人工智能风险治理框架.......................................................19（二）提升人工智能风险系统治理能力...........................................................21（三）设立人工智能风险精准识别机制...........................................................23（四）健全人工智能风险科学评估体系...........................................................25（五）完善人工智能风险敏捷应对方案...........................................................27五、展望建议..............................................................................................................29（一）促进全球合作，共筑人工智能治理新格局...........................................2...