在公共部门,采用 AI 不仅是一个能力问题,更是一个合法性问题。公民并不像挑选产品那样挑选自己的政府,因此公共机构使用技术的门槛更高:决策必须可解释、可问责且公平,并且必须始终如此。
如今有两个概念主导着讨论:主权与责任。二者相关但有别。主权关乎控制，数据存放在何处、谁能访问、适用哪些法律,以及某项关键能力是否可能被供应商或外国司法管辖区收回。责任关乎行为，一个系统的使用方式,对其所影响的人是否公平、透明且安全。
主权很容易被简化为服务器摆在哪里。这固然重要,但过于狭隘。真正的主权,是按自己的方式持续运行的能力:理解一个系统在做什么、无需推倒重来即可更换供应商、履行法律与语言义务,并拒绝任何不符合公共利益的用途。一个连自己所依赖的系统都无法解释或修改的政府,外包出去的远不止基础设施。
责任在实践中更少关乎原则,而更多关乎流程。是谁批准了这一用途。用什么数据训练了它。错误如何被发现和纠正。在影响某人福利、身份或自由的决策中,人在何处留在环路里。当出问题时,机构将如何向公众交代。只有在部署之前就提出、并在部署之后重新审视,这些问题才会有答案。
加拿大机构的双语与联邦制特性又增添了一层。这里一个负责任的系统要能以两种官方语言运作、尊重省级与联邦的界限,并反映并不划一的各个社区。在别处构建和测试的工具往往忽略这一点,而这些疏漏,会以悄然的失败落在最无力反抗的人身上。
这一切都不是公共机构回避 AI 的理由,而是审慎采用它的理由:把主权与责任当作设计要求,而非事后补充,并构建维护它们的治理与能力。做得好,这并不会拖慢采用,反而正是让采用经久且可信的原因。
这正是我们帮助公共机构把握的平衡:让技术赢得公众信任,而不是消耗它。