©2024云安全联盟大中华区版权所有1©2024云安全联盟大中华区版权所有2人工智能治理与合规工作组官网：https://cloudsecurityalliance.org/research/working-groups/ai-governance-compliance©2024云安全联盟大中华区-保留所有权利。你可以在你的电脑上下载、储存、展示、查看及打印，或者访问云安全联盟大中华区官网（https://www.c-csa.cn）。须遵守以下：(a)本文只可作个人、信息获取、非商业用途；(b)本文内容不得篡改；(c)本文不得转发；(d)该商标、版权或其他声明不得删除。在遵循中华人民共和国著作权法相关条款情况下合理使用本文内容，使用时请注明引用于云安全联盟大中华区。©2024云安全联盟-版权所有。34©2024云安全联盟大中华区版权所有致谢报告中文版支持单位启明星辰集团成立于1996年，由留美博士严望佳女士创建，2010年在深圳A股中小板上市，是网络安全产业中主力经典产业板块的龙头企业，是新兴前沿产业板块的引领企业，是可持续健康业务模式和健康产业生态的支柱企业。2024年1月，启明星辰正式由中国移动实控，成为中国移动专责网信安全专业子公司，标志着公司迈入全新的发展阶段。多年来，启明星辰持续深耕于信息安全行业，始终以用户的需求为根本动力，将场景化安全思维融入到客户的实际业务环境中，不断地进行创新实践，帮助客户建立起完善的安全保障体系，逐渐成为政府、金融、能源、运营商、税务、交通、制造等国内高端企业级客户的首选品牌。启明星辰入侵检测/入侵防御、统一威胁管理、安全管理平台、数据安全、运维安全审计、数据库安全审计与防护、漏洞扫描、工业防火墙、硬件WAF、托管安全服务等十余款产品持续多年保持第一品牌。参与本次报告的专家：张镇，启明星辰知白学院院长、首席技术官郭春梅，启明星辰副总裁、首席技术战略专家卞超轶，启明星辰核心技术研究院副院长杨天识，启明星辰高级安全专家沙明烊，启明星辰知白学院资深技术专家启明星辰是CSA大中华区理事单位，支持该报告内容的翻译，但不影响CSA研究内容的开发权和编辑权。5©2024云安全联盟大中华区版权所有报告英文版编写专家主要作者PareshPatelPiradeepanNagarajanGaetanoBisazHongtaoHao,PhDEllePyleGauravSinghKenHuangKennethT.MorasTolgayKizilelma,PhDAkshayShettySauravBhattacharyaPejuOkpamenGabrielNwajiakuMeghanaParwateAkshatVashishthaHemmaPrafullchandraRenataBudkoDesmondFooScottS.NewmanGianKapoorImranBananiElierCruzMadhavChablaniCSA全球员工Dr.ChantalSpleiss贡献者RomeoAyalinFilipChylaBeckyGaylordFrederickHanigRockyHeckmanHadirLabibLarsRuddikeitAlexSharpeAshishVashishtha审稿人SounilYuDebjyotiMukherjeeMichaelRozaPeterVenturaUdithWickramasuriyaGovindarajPalanisamyMadhaviNajanaRakeshSharmaDavideScattoRyanGiffordStephenLumpe6©2024云安全联盟大中华区版权所有序言在当今时代，人工智能（AI）技术的迅猛发展正深刻地改变着我们的世界。AI的应用范围从医疗健康到自动驾驶，从金融交易到国防安全，其决策能力不断增强，同时也带来了前所未有的风险和挑战。AI的可靠性和安全性受到了严格的审视，这要求我们必须确保AI系统的鲁棒性和可信赖性。为了应对这些挑战，CSA大中华区发布了《AI韧性：AI安全的革命性基准模型》报告。本报告旨在通过引入一个全新的基准模型来评估和提升AI的整体质量，确保AI技术的安全和稳健发展。报告详细讨论了AI治理与合规的重要性，并分析了AI技术的发展历史和当前的训练方法。通过一系列实际案例研究，揭示了AI失败的教训，并针对汽车、航空、关键基础设施等行业的监管挑战进行了深入分析。报告提出了一个受生物进化启发的AI韧性基准模型，强调了多样性和韧性在AI系统中的重要性，并给出了AI韧性评分的标准。通过本报告提出的AI韧性评分系统，企业和组织将获得一个全新的评估工具，以指导他们对AI系统的评估和优化工作。期待这份报告能激发更广泛的讨论和行动，共同塑造AI技术的未来，让其更好地服务于人类社会的发展。李雨航YaleLiCSA大中华区主席兼研究院院长7©2024云安全联盟大中华区版权所有目录导言......