把握好人工智能政府采购10项准则

把握好人工智能政府采购10项准则

《人工智能系统政府采购白皮书》——摘编（二）

（准则的详细说明1-5项）

1.采购流程中应关注所面临的问题和机会

在采购流程中以创新为导向，是因为采购程序会加快采用新技术的速度，以此促进技术革新。同时，有效支持国家政策标准（如对中小企业的支持以及AI的道德发展）。

a.借助创新的采购流程来获取AI系统。

创新的采购过程支持早期的市场参与，各类企业可以在不同的阶段进入政府采购市场。（采购人）可以验证创新采购流程的正确与否。创新的公共采购流程包括：详细说明挑战性问题；组织有关技术层面的竞争；为供应商提供演示机会以及为新成立的中小微企业提供竞争公共部门合同的机会等，从而促进并帮助有潜力的新公司成长。另外，做市商中也鼓励小企业有新的想法，并减少新技术创业的风险。所谓做市商是指在证券市场上，由具备一定实力和信誉的独立证券经营法人作为特许交易商，不断向公众投资者报出某些特定证券的买卖价格，并在该价位上接受公众投资者的买卖要求，以其自有资金和证券与投资者进行证券交易。

其次，根据所需要解决问题的性质从战略上选择采购方式。灵活的采购程序可以使采购人在不同的阶段进入市场，这样采购人就有机会在做出真正购买决策之前对该技术在相关问题领域进行测试和概念证明。借助采购流程，使供应商根据其AI技能相互竞争；创新伙伴关系，使目前市场上现有的但无法交付的技术采购成为可能。此外，动态采购系统可以加速技术的使用。作为采购工具，它在某种程度上类似于电子框架协议，但是由于新供应商可以随时加入，因此，新成立的公司只要符合设定的标准，便可以参与框架协议；采购框架规定了适用于任何后续合同的条款和条件，并允许框架提供商根据一组可能包括道德要求的预定义标准进行预审核。

b.采购时要给出明确的问题描述，而不是解决方案的详细说明。

人工智能技术发展迅速，不断有新技术和产品被推向市场。公共部门通过专注于描述要解决的挑战并利用技术合作伙伴的专业知识，可以更好地理解哪种技术最适合当前的问题。除了发挥每个利益相关者的优势外，采购时要给出明确的问题描述，而不是解决方案的详细说明有两个额外的好处。首先，它促进早期的市场参与到项目中来。其次，它使新的AI服务提供商（如初创企业）更容易参与，因为公共部门不再将采购重点放在特定产品上。培育新兴的AI生态系统是未来的一项关键的经济投资。

c.在产品开发过程中支持迭代方法。

人工智能驱动的解决方案与其他技术在学习和利用新数据来进行训练方面有明显的不同。因此，人工智能系统的采购过程中应该为迭代预留一定的空间，以确保系统的健壮性。所谓系统的健壮性，是指在异常和危险情况下系统生存的关键。为此，应建立公平和透明的评估及决策过程。例如，分阶段采购可以在采购的第一阶段评估不同潜在供应商的最低可行产品（MVP），只有获胜者才能开发完整的解决方案。在采购周期内分阶段进行构建和测试，有助于做出明智的决策。此外，透明的采购过程还为企业提供相关信息，以进行有意义的影响评估和风险评估。

2.对使用AI的益处进行定义并评估潜在风险

AI对公众的益处进行定义并评估潜在风险旨在为整个项目和采购流程提供基础保障。人工智能为公共机构带来益处的同时还带来了全新的、特定的风险，因此必须在项目的采购实施之前就进行识别和管理。

a.采购人在需求建议书中说清楚为什么觉得这个问题和AI相关，同时提出了备选的技术方案。

在大多数情况下，只有在有充分迹象表明某项技术可解决所需解决的问题时，才应在招标书中提及对AI解决方案的需求。公共机构应该通过分析政策挑战和替代方案来阐述获取人工智能系统的需求，并且当人工智能项目没有明确的研究和创新重点时，可以将其与其他潜在的行动方案进行比较。如果在评估招标结果时，发现另一种不包含AI的解决方案能够更好地解决该问题，那么采购人应该决定采用这一替代交付方式。另外，在开始采购流程之前，请评估AI是否可以作为解决问题的一部分。如果公共机构的团队缺乏执行此评估的能力，则应从组织中其他地方或相关专业部门（如学术界、可信赖的供应商）中寻求评估支持，并优先与适当的利益相关者进行协商和协作。对于此评估，至关重要的是要与多利益相关方共同参与，在需求建议书中反映评估结果。这将帮助采购人更好地与潜在供应商沟通需求，因为一个项目的成功主要还取决于AI系统提供商对问题的理解程度。

b.在需求建议书中解释清楚在评估标书时公共利益是自动决策过程的主要驱动力。

在需求建议书中提出，公共机构应该考虑明确提及公共利益以及用户需求。在确定用户需求时，行政机构的采购人应确信他们在为公共利益行事。关于人工智能系统，公共利益不只是物有所值，还包括决策过程的透明度以及这些准则中包含的其他因素。实践中，要求采购人在公共利益的背景下明确成功和失败的标准：采购人希望这样的系统能够实现什么具体的价值？必须避免什么类型的失败和伤害？进行影响评估将帮助采购人解决这些问题。

c.在开始采购前进行人工智能风险和影响评估，确保评估结果反馈到采购需求层面，并在决策点重新进行评估。

在人工智能解决方案的全生命周期内，从设计到后期的维护，都要进行系统性和持续性的风险监控。人工智能解决方案提供商可以通过项目管理功能来识别、草拟解决方案和报告风险。为了更好地了解使用AI的潜在影响并减轻风险，重要的是在购买AI系统之前进行系统性地评估。根据公共机构要解决的政策挑战以及AI的潜在功能可能有助于解决这一挑战，他们之间会站在不同立场有不同的考虑。初步评估应概述用户需求和受影响的地区、社区的潜在风险及意外后果的方案。初步评估应使公共机构考虑AI系统的不准确性和偏差的潜在影响，包括但不限于透明度报告和对差异化私有或综合数据集的测试。针对相关风险及其相应的缓解策略必须由具有决策权的合适风险所有者认可，并且应包括“可以/不可以”决策。

在招标中，公共机构应考虑要求潜在的供应商识别风险并解释如何减轻风险。这可以帮助采购人了解每个投标者的谨慎程度以及投标人对潜在风险的了解程度等宝贵信息。如果采购人在初始评估中发现了重大风险，则应特别要求招标人阐明如何应对这些风险。另外，数据保护影响评估和平等影响评估可以为评估潜在意外后果提供有用的帮助。在评估这些指标时，采购人可以考虑使用这些系统（例如半自动化或纯自动化决策）如何与监督、审查和其他保障机制互动。有关用于自动决策的风险评估调查表的示例，请参阅加拿大政府的《自动决策指令》以及AI Now的算法影响评估框架。除上述内容外，还应在AI解决方案生命周期的每个阶段（从设计到实施后维护）进行系统且连续的风险监控。AI解决方案提供商可以通过项目管理功能来识别、起草缓解措施并报告风险，这是实施的关键。必要时应重新评估影响。

3.使AI采购与现有的政府战略一致，并有助于其进一步改进

AI采购与现有的政府战略一致是为了确保公共机构有策略地借助采购来支持AI开发和部署的工作，并传播新兴技术在公共应用方面的知识。

a.查阅政府发展规划文件和关于新技术的公共政策指南文件，如人工智能国家战略、创新战略和工业战略。

许多国家目前正在起草和发布国家人工智能战略，其中一些国家已经发布了他们的战略。在开始推出AI之前，请公共机构评估其对购买AI系统的需求如何与国家的整体战略相吻合。符合国家AI战略的另一个好处是，与该战略相一致的计划可以获得特殊支持，例如获得更多专家的支持。

b.与其他相关政府机构和科研院所相互协作和学习。

一方面，采购人可以改善实践做法并分享其经验，同时还可以积极寻求跨部门和专业领域的协作，可以通过专家社区（如数字社区、专业网络社区）分享知识和反馈。另一方面，采购人所在的公共机构部门可以通过设置平台和网络交换有关购买基于AI的解决方案的信息、经验和最佳实践，这对之后的采购工作也可能会有所帮助。

4.在需求建议书中加入相关的潜在立法和行业规则

在AI采购需求中加入相关的潜在立法和行业规则是要遵守现有法律法规，确保合规；纳入业务守则支持规范的标准化；通过调查相关规则，可以在动态创新技术生态系统中更好地制定政策。

a.对管理数据类型和应用类型的相关立法、权利、管理规则和其他规范进行审查，并在需求建议书中进行引用。

公共机构应该在采购前对所在国相关的法律、人权、公民权利、行政法规以及其他相关规范进行审查，以避免在需求建议书中所要解决的问题和提出的解决方案中有关的数据类型、应用程序类型与该国现行法律中对数据的使用、处理、传输等规则相冲突。另外，在需求建议书中标注的相关规则，其信息来源不仅应包括正式法律条文，还应包括行业最佳实践做法以及世界贸易组织共识准则以及软性法律中的其他形式准则制定机制。

b.将与人工智能系统部署相关的机密性、商业密码保护、数据隐私最佳实践考虑进来；根据公共利益需要，可以在保密和保护商业秘密的前提下，在调查过程中，可以通过部分披露、有限的审查和其他增强公众信任的手段促进透明度。

为了对潜在的AI解决方案进行有意义的评估，行政机构的官员或采购人必须对评估过程的透明度和确保供应商与其产品和服务相关的商业机密之间取得相对平衡。有关政府程序的信息应默认为公开，在特殊情况下（如出口管制、国家安全或正在进行的刑事调查除外），公开范围应合理。出于公共利益考虑，面对供应商对于AI系统机密性和贸易安全保护的相关诉求，应研究通过披露有限的审查选项和其他增强公众信任的方式来提高透明度的可能性。

5.阐明访问相关数据的技术和管理可行性

访问相关数据的技术和管理可行性之所以重要，是因为相关数据的可用性是任何AI解决方案的前提，因此如果没有可用数据，则不应花时间讨论AI采购。此外，只有数据管理方仔细考虑后，才可以授予对数据的访问权限。

a.确保从采购流程开始就有适当的数据管理机制。公共机构应当从采购流程开始时就制定数据治理方法。鉴于数据治理的重要性和复杂性，几乎必须执行健全的数据治理流程，然后才能参与变革性的AI项目。治理需要涵盖与拟议项目相关的所有数据活动，例如向项目成员授予数据访问权限，在其他位置移动/存储数据以进行分析以及查看数据同意书。此外，数据治理以及AI项目的所有其他方面都需要一支跨学科的团队。在没有数据治理框架的情况下，明确负责人，即谁具体负责采购过程和后续项目中的数据管理。

b.评估相关数据对项目是否可用。数据对于现代AI工具至关重要。采购人在开始采购活动之前，应该从总体上确定全生命周期项目的数据可用性。这需要研究项目中哪些数据需要被了解。这个研究不是评估所有可能的数据源，而是建立对潜在利益数据源的一般认识。例如，在尝试建立对数据资产的高级理解时，使用数据字典中的数据文件会很有帮助。简单来说，数据字典是对数据的数据项、数据结构、数据流、数据存储、处理逻辑等进行定义和描述，其目的是对数据流程图中的各个元素做出详细的说明。因此，数据字典是描述数据的信息集合，是对系统中使用的所有数据元素的定义的集合。而数据文件是在大容量复制操作中，将数据从向外大容量复制操作传输到向内大容量复制操作的文件。

如果研究中认为有些数据不可用，则可以通过第三方（如供应商、合作伙伴或数据经纪人）找到数据。如果无法通过任何渠道获得数据，可以请有关专业的数据科学家来评估是否能够以数据驱动的方式解决用例。

c.定义是否以及如何就采购计划和随后的项目与厂商进行相关数据共享。

根据项目和数据的敏感性，公共机构值得考虑的是在采购过程中向供应商发布数据，以便投标人可以针对需求建议书做出响应，需求建议书可以根据采购人的需求“量身定制”，并提供与招标要求相符的假设时间表和费用。尽可能提高投标文件对需求建议书的响应质量。如果公共机构发布的数据比较敏感不适合公众使用，应该考虑仅发布一个样本，以便供应商清楚了解他们能够执行哪些操作而无需访问所有数据。在具体执行此操作中，采购人应确保提供一个代表整个数据集的样本，否则供应商可能会做出错误的假设，从而影响投标的质量，进而影响项目的完整性。最后要创建并记录适当的数据共享条件。例如：供应商托管数据环境的最低要求；由项目负责人签署的数据同意书，说明供应商拥有的数据除需求建议书中指定的用途外，不得将其用于其他目的；数据删除日期（如提交投标文件后后立即删除）。在任何情况下，政府都不应允许供应商在采购过程之后或项目结束后保留项目中需要的数据；确认删除所有数据（如由供应商负责人签署并提交的删除项目的书面确认）。有许多匿名技术可帮助保护数据隐私，包括数据聚合，屏蔽和合成数据。但采购人必须像对待原始数据一样仔细地管理匿名数据，因为它可能会无意间暴露出重要的内容。需求建议书中应该鼓励采用创新性的技术方法，例如上面提到的那些，以减少对数据的使用或者使用敏感度较低的数据集实现相同或相似的结果。但是，当某些供应商所需的数据可能涉及项目的补充内容，建议公共机构在合理的情况下提供供应商数据。决定提供给供应商数据的原因可以包括：某些供应商可能已经被资格认定为可接受的数据提供者，由于他们以前作为现有供应商的过往记录而被认为更值得信赖，或者在其数据资产方面享有很高的声誉；某些非常敏感的领域，如健康、司法和移民等，使用第三方数据需要被仔细检查，然后才能接受。

（昝妍编译）

本报拥有此文版权，若需转载或复制，请注明来源于中国政府采购报，标注作者，并保持文章的完整性。否则，将追究法律责任。