政府采购人工智能产品风险有哪些？怎么防？

政府采购人工智能产品风险有哪些？怎么防？

■ 张泽明

随着人工智能的日益强大，其相关产品在政府采购市场的应用也将越来越多。然而，人工智能是一把双刃剑，采购人必须处理好几个核心关切，才能有效规避风险，发挥最大作用。

政府采购人工智能需求不断被挖掘

人工智能产品的政府采购需求已不是新鲜事物。2023年8月3日财政部发布的《通用服务器政府采购需求标准（征求意见稿）》中就提出，配备了AI计算单元的产品，可大幅提升在特定场景下，典型功能的计算性能，如人脸识别、图片识别、数据挖掘等，用户可根据需要选择是否配备。

各采购单位对于人工智能产品的使用也日益增多。2023年最高人民法院对十三届全国人大五次会议第3194号建议的答复中，针对人大代表提出关于运用人工智能等方式保障法官裁量可预测性的建议，最高法表态将充分考虑一线法官需求，搭建完全自主、集法律和案例检索、应用、研究于一体的统一法律适用平台和数据库，实现智能分析和人工筛查相结合，为进一步完善类案检索、规范裁量权行使、推进统一法律适用提供科技支撑。

类似的基于对文本学习而统一执法尺度的需求，在其他单位也不同程度存在。例如，多地公共资源交易中心已经用上了人工智能辅助评标系统。而未来，采购人对于人工智能产品的需求仍将不断攀升。

高度关注人工智能产品使用的责任与风险

人工智能产品采购已有先例，但尚未成熟。笔者认为，采购人在采购和使用人工智能产品时要注意以下几个问题。

一是做好个人信息保护。人工智能产品涉及个人信息的收集，如何避免收集到的个人信息泄露，是采购人必须要考虑的首要问题。

《中华人民共和国个人信息保护法》（以下简称个人信息保护法）已经就有关单位如何进行个人信息保护提出了很多要求。第六十九条规定了个人信息处理者的举证倒置责任，即处理个人信息侵害个人信息权益造成损害，个人信息处理者不能证明自己没有过错的，应当承担损害赔偿等侵权责任。此外，该法还规定了警告、处分、罚款等不同的违法责任。

个人信息保护的细则也在继续完善。去年8月3日，国家网信办公布了《个人信息保护合规审计管理办法》征求意见稿，要求处理超过100万人个人信息的处理者，每年至少开展一次个人信息保护合规审计，其他应每两年审计一次。如果该要求在正式办法中依然保留，那么各采购单位在使用人工智能产品处理个人信息时，还要新增主动寻求合规审计的责任。

因此，机关单位等采购人在采购及使用人工智能产品前，就要有个人信息保护意识，避免出现某些单位上马人脸识别系统引发的数据采集与保护争议。

二是确保数据安全。数据安全法规定了数据分类分级保护制度、数据安全应急处置机制与数据出口管制制度等，重要数据的处理者还应当明确数据安全负责人和管理机构，落实数据安全保护责任。

以上规定中，采购人最容易忽视的就是数据出口管制制度了。很多采购人认为，自己采购的人工智能产品其训练所需的数据采集与存储都在国内，不存在数据非法出口的问题，其实不尽然。以之前大火的人工智能工具ChatGPT为例，有媒体报道某国企员工因直接将企业机密信息以提问的方式输入到ChatGPT中，导致相关内容进入学习数据库，并泄露到境外。

ChatGPT曾经还存在一项漏洞，使得一些用户可以看到另一在线用户的姓名、电子邮件地址、付款地址、信用卡号后四位，以及信用卡有效期等隐私信息。虽然漏洞目前已经被修复，但是这种因机器学习需要数据“喂入”而产生的数据跨境泄露风险是一直存在的。

因此，2023年4月10日，中国支付清算协会明确指出，ChatGPT这类智能化工具已经暴露出跨境数据泄露等风险，要求全面评估使用ChatGPT等工具处理工作内容的风险，并发出谨慎使用ChatGPT等工具的倡议。

最近正在公开征求意见的《会计师事务所数据安全管理暂行办法》也要求会计师事务所的审计工作底稿及相关数据存储在境内，不得在境外备份，加密数据密钥应当存储在境内，核心数据应存储在专用服务器或私有云平台上，使用加密虚拟专用网络等技术手段传输等。各采购单位在采购人工智能产品时，可以结合上述经验，对具体数据保护措施予以约定。

三是提前考虑能耗问题。人工智能产品需要大规模的密集计算，其耗电量非常惊人，对应的数据中心水冷消耗也是巨大的。

虽然目前有专家表示，由于人工智能大模型存在复杂度高、参数量大的问题，对于政府机关事业单位的部署使用将带来巨大挑战，并建议可以考虑模型压缩的概念和研发规划路线，在尽量不损失模型精度和使用体验的情况下，减小模型的计算复杂度。但短时间这种技术只能停留在研究阶段，毕竟从原理上，人工智能的强大就是根源于海量数据的学习与复杂参数的调整。

四是避免形成技术依赖。按照现行规范性文件要求，政府采购人工智能服务合同期限最长可以续签到3年。采购人应避免后续续约时出现只能通过单一来源选择原供应商的问题，人为使自己的选择权受限。

做好人工智能产品采购的几点建议

一是压实个人信息保护责任。涉及个人信息采集等关键问题的采购需求，采购人应经过内部合法性审查。针对供应商管理，采购人要在采购文件中，对个人信息保护提出具体要求，要求供应商制定并遵守相关人员管理制度，避免对个人信息的非法采集与信息泄露。在合同中，采购人还应约定供应商违反个人信息相关法律法规的罚则。

二是严守数据安全底线。采购人应在采购文件中对供应商的数据分级保护与传输、数据安全应急处置等提出要求，明确人工智能产品训练与生成的数据必须存放在采购人可控的存储上，比如政务云或采购单位的存储设备上。

采购单位也要从权责分治、权限管理等方面夯实数据保护基础。具体来说，要对提供给供应商的原始数据建立审查机制，确保不上传国家及行业涉密文件、非公开的资料、基础设施或系统的核心代码等数据。

按照个人信息保护法第三十八条规定，向中国境外提供个人信息主要有三条合规路径：通过网信部门组织的安全评估，经专业机构进行个人信息保护认证，以及与境外接收方订立国家网信部门制定的标准合同。国家网信办目前已出台《个人信息出境标准合同办法》，配套发布《个人信息出境标准合同备案指南（第一版）》，明确了个人信息出境标准合同备案的适用范围、备案方式和备案流程等。从此，适用广泛的个人信息出境的第三条路径——标准合同有了可实操的规范。采购人应结合上述规范性文件与项目具体情况，在采购文件和合同中对供应商如何应对数据出境风险及如何做到合法出境等作出要求。

此外，笔者注意到，近来国家安全机关曾通报，境外特定组织和人员正通过SDK搜集中国大陆使用者数据，给国家安全带来隐患。SDK是手机软件的开发组件，国内厂商如果在开发手机APP时使用了有问题的国外SDK，再参加政府采购活动，就可能把这种数据安全风险引入采购单位。

各采购单位可以视具体情况，适时在采购文件中加入供应商提供产品未通过网络安全审查的，不得参与采购项目竞争等要求。

三是在采购需求阶段就预估能耗。采购人应将人工智能产品采购与节能减排政策相结合，在采购需求调研阶段就对人工智能产品需要的能耗进行预估，从而验证自身是否可以承担，项目上马是否必要。

四是从项目源头确保人工智能产品的可替代性。为防止服务期满后，只能通过单一来源方式继续选用原供应商服务的情况，采购人应在合同中与供应商约定好数据资产的权属划分，自己要保存好已提供或由供应商采集的原始训练数据集，合理划分人工智能生成式数据的知识产权与所有权、使用权，防止现有人工智能产品形成不可替代性，为项目后期升级等保持竞争性奠定基础。

五是避免对人工智能产品过于激进的使用。虽然目前人工智能技术在图像识别上有天然的优势，在文本和视频生成上也有不错的效果，在教育、医疗、智慧城市、气象、电力等多个行业中有很好的实践，但对于人工智能是否能够进化为有自我意识，且对人类社会产生危害，社会各界一直保持着警惕。因此，重点领域的采购单位，还是应该对人工智能技术持谨慎态度，并持续关注人工智能业界关于技术管制的最新动态，对是否通过人工智能技术解决自身需求做出理性抉择。

本报拥有此文版权，若需转载或复制，请注明来源于中国政府采购报，标注作者，并保持文章的完整性。否则，将追究法律责任。