-1-2024年12月30日第48期总第674期为人类治理人工智能【译者按】2024年9月，联合国人工智能咨询小组发布《治理人工智能，助力造福人类》的最终报告。报告提出了全球人工智能包容共治、数据共享、多方协作等五项原则，总结分析了现有全球人工智能合作机制的现状。报告提出，当前人工智能全球治理存在代表性不足、协调性不足等问题，导致人类无法应对人工智能技术带来的潜在威胁。报告提出了建设全球人工智能科学小组、加强全球人工智能治理政策对话、设立全球人工智能标准交流中心、在联合国秘书处内设置人工智能办公室等治理举措建议。【关键词】人工智能联合国治理机构-2-人工智能技术具有巨大的“向善”的潜力，从开辟新的科学探索领域、优化能源网络，到改善公共卫生和农业发展，乃至实现联合国可持续发展目标等方面都可以发挥重要作用。然而，如果未能实现有效治理，人工智能带来的机遇就难以实现或者无法得到公平的分配。与此同时，快速、不透明和自主的人工智能系统为人类带来了严峻挑战。未来，在全球范围内开展人工智能治理合作是应对风险挑战的关键。一、人工智能全球治理合作的现状（一）人工智能全球治理合作的主要原则从长远来看，人工智能治理必须为人类和社会带来切实的好处和保障。因此，联合国提出了以下原则：1.人工智能应由各方以包容方式共同治理并造福所有人尽管人工智能具有极大潜力，但是仍然不具有普惠意义，许多人都无法接触使用人工智能。充分利用人工智能的潜力，并使其发展、部署和使用过程中的广泛参与成为可能，是推动全球挑战可持续解决方案的关键。无论国家大小，所有国家都必须能够参与人工智能治理。无论南方或北方的公民，都应该能够通过人工智能创造自己的机会、利用这些机会并实现繁荣。因此，我们需要采取积极和矫正性措施，以解决个别少数群体在技术发展、-3-部署、使用和治理过程中长期以来的历史性和结构性排斥问题，并将数字鸿沟转变为包容性的数字机会。2.人工智能治理必须以公共利益为导向人工智能系统的开发主要集中在科技公司手中。人工智能的优化、部署和使用涉及开发者、部署者和用户多种群体。从社交媒体的经验来看，人工智能产品和服务能够迅速跨越边界和用户类别进行扩展。因此，除了更广泛的机会与风险考量外，人工智能必须以公共利益为核心进行治理。仅仅要求“不造成伤害”是一项必要但不足的要求。我们需要更广泛的框架对在人工智能生命周期中建造、部署和控制人工智能的主体追责。这不能仅依赖于自我监管，还需要成员国一致执行的具有约束力的规范，以确保公共利益优先于私人利益。此外，人工智能多样化使用的具体场景中有其复杂性和风险。治理工作必须关注与多样性、公平性、包容性、可持续性、社会与个人福祉、竞争性市场以及健康创新生态系统相关的公共政策目标。在此背景下，治理需要扩大多元利益相关方的代表性，同时在公共和私营部门角色之间划分职责时提供更清晰的界定。以公共利益为核心的治理还意味着对公共技术、基础设施和公共官员能力建设进行投资。3.人工智能治理应与数据治理和促进数据共享空间协同进行数据是人工智能系统的关键，其治理和管理必须与人工智能-4-治理的其他组成部分相结合。学术界强调，数据治理应作为短期优先事项处理。私营部门实体指出，数据治理措施应补充人工智能治理，强调全面的隐私法和负责任的人工智能使用。国际组织和民间社会组织强调，人工智能训练数据的治理应保护消费者权益，并通过对人工智能训练数据的非排他性访问来支持人工智能开发者之间的公平竞争，强调了对具体和可付诸行动的数据治理措施的呼吁。联合国被确定为应对这些治理挑战和缩小资源差距的一个关键场所。我们需要建立隐私和安全保护框架的法律与技术安排，在符合适用法律的前提下，促进数据使用。同时，还应鼓励发展公共数据共享，尤其是针对解决社会挑战至关重要的公共数据，使多方利益相关者可以使用。4.人工智能治理必须具有普遍性并与多利益相关方共同协作任何人工智能治理工作都应优先争取不同成员国和利益相关者的普遍支持。尤其需特别关注包容性参与，降低全球南方被排除社区的进入门槛。同时，除了要求...