算法早已参与到治理中。它们决定了哪些工作广告会被推送给哪些公民，哪些税务申报会被标记为审计对象，哪些福利案件会被优先处理，甚至还影响警察巡逻路线的安排。

这些过程大多是在“决策支持”的名义下悄然进行的，而非作为显性的决策行为。然而，阿尔巴尼亚和日本最近的举措却显得与众不同，因为这些系统不再是隐藏的基础设施。

阿尔巴尼亚政府正式委托其数字助手Diella管理采购流程，而日本的小型政党“重生之路”则宣布将任命人工智能为其领导者。

然而，这两种情况都不代表权力完全移交给机器。Diella仍然是一个受监督的工作流程工具，而日本的政党在国家立法机构中没有席位，仍需指定一名人类代表进行正式文件的提交。

即便如此，这些举措仍然意义重大。它们将算法决策从幕后推向了台前，赋予其一个公开承认的机构角色。这表明，长期以来作为行政生活中隐性存在的算法治理，正在变得显性化。这些问题需要从机构设计、合法性和问责制的角度加以讨论。

广义上来说，算法治理并不新鲜。几十年来，政府和企业一直使用评分公式、风险模型和决策树来引导结果。

今天的独特之处在于对人工智能系统的讨论。这些系统能够从数据中学习，随着时间的推移进行调整，并在大规模上运行。

这些系统不仅仅是执行固定规则。它们生成模式、排序选项，有时甚至提出设计者未曾预见的行动建议。这使它们变得强大，但也更难以审查。

阿尔巴尼亚和日本最近公开任命人工智能系统的举措，突显了这种转变。这不仅仅是关于使用不断演化的系统进行治理，还涉及到如何在保持民主监督的前提下，使其推理过程保持可理解性。

算法治理与客观性的梦想

从莱布尼茨到孔多塞，启蒙时代的思想家们曾设想用计算取代争论。莱布尼茨甚至提出了一种“普遍演算”，通过它对手可以通过简单地宣称“我们来计算”（calculemus）来解决分歧。

边沁将这一愿景转化为功利主义政策，认为治理的目标应是通过理性计算最大化集体幸福。

当代的算法治理似乎让这一项目成为现实。它承诺提供摆脱随意性和偏见的决策，并以函数调用般的规律性交付结果。

现代治理长期以来一直在秩序与自主之间、无偏管理的承诺与令人窒息的控制之间挣扎。

韦伯的官僚制社会学提供了第一个主要的概念锚点。他描述了理想的现代国家是由规则而非个人意志所治理的，其特点是正式程序、书面记录和分层监督。

算法系统是这一项目的逻辑延伸。它们通过消除最低层级的自由裁量权并强制执行一致性来承诺一致性。然而，它们也让韦伯的“铁笼”变得更加紧密。从这个角度看，算法治理并不是断裂，而是理性化的进一步强化。

后来，20世纪40年代兴起的控制论将治理重新定义为反馈控制的问题。诺伯特·维纳的洞见是，生物、机械或社会系统可以通过感知其状态、与目标进行比较并应用修正来进行调节。

20世纪70年代，斯塔福德·比尔的“可行系统模型”将这一逻辑应用于整个经济体，将国家想象为一个活生生的信息处理器。

算法治理将这一愿景付诸实践。传感器变成了数字数据流，控制器变成了机器学习模型，修正措施可以以机器速度应用。

战后时期，政府采用运筹学、线性规划和决策分析来优化物流、预算分配和社会规划。冷战时期的分析家们在紧张的限制下追求“最优”答案。

例如，兰德公司的桌面战争游戏让官员们演练危机，苏联试图用反馈驱动的计算机模型管理经济，英国战后规划使用投入产出表设定生产目标。

由于这些方法是可理解的，政策制定者可以看到数字是如何产生建议的。

现代算法系统继承了优化的精神，但用不透明的神经网络取代了可解释的方程式。这创造了一种历史上的不连续性，我们继承了对最优性的信仰，却没有解释性的保证。

20世纪90年代和2000年代的数字化浪潮专注于通过在线门户、电子档案和自动化案件管理提高效率。这些大多是服务升级，而不是权力的重新定义。

算法治理利用了这些基础设施，但从被动的记录保存转向了主动的引导。

系统现在可以优先处理人类官员需要查看的案件，预测哪些政策将达到绩效目标，有时甚至自动执行处罚或资格决定。

国家正在从一个登记机构转变为一个推荐者，在某些领域甚至成为一个行动者。

人工智能治理

这一时刻的新颖之处不在于对治理进行理性化的追求，而在于当前部署工具的特性。

与早期基于规则的系统不同，当代人工智能基于统计推断而非显性逻辑。它通过映射数据中的复杂关联来生成输出，而不是应用透明的规则。

这带来了灵活性和适应性，系统可以随着新数据的到来自行更新。

然而，这也带来了不透明性。政策制定者可能难以解释为什么会提出某个建议，或者重建导致某个结果的推理链条。

从这个意义上说，今天的算法治理不仅仅是让韦伯的铁笼更紧密；它还可能用看不见的栏杆取代可见的栏杆。

另一个关键区别在于规模和细化程度。早期的行政系统只能进行概括化处理。

它们对广泛的案件类别应用统一规则。而机器学习模型则可以实现微观差异化。风险评分、资格决定和政策引导可以精确到社区甚至个人层面。

这既带来了机遇，也引发了担忧。一方面，资源可以以前所未有的精度进行分配，可能减少浪费和不公平。

另一方面，这种精细化治理可能会分裂公共概念，用个性化优化取代集体处理，并使政治上的正当性更难以证明：如果没有人类做出决定，为什么我的案件与邻居的待遇不同？

还有一个时间上的转变。经典的官僚和规划系统是周期性和回顾性的。每十年一次的人口普查，每个财政年度的预算，每个立法会期的政策修订。

现代人工智能系统可以连续运行，实时接收数据并即时调整决策。

这引入了动态治理的可能性，这将是一种始终处于轻微变化中的滚动管理。

然而，这也使监督变得复杂。当决策不断更新时，立法审计或司法审查究竟在评估什么？是上个月的模型版本，上周的，还是今天早上的？

人工智能主导的治理引入了一种新的代理分配方式。今天的系统可以生成选项并提出设计者未曾预见的策略。

这模糊了决策支持与决策之间的界限。它还改变了公共官员所需的技能。他们现在不仅要管理人口，还要管理模型。

他们必须学会何时信任，何时推翻，以及如何将公共价值转化为技术参数。

现在的问题是，人工智能模型是否以符合民主意图的方式继续学习。

早期案例研究

算法系统与早期的行政技术在三个重要方面有所不同。它们是适应性的，依赖于概率推断而非固定规则，并且以能够同时影响数百万案件的规模运行。

这些特性使政府能够以前所未有的精度分配资源，并在问题升级之前预测问题。

但它们也放大了错误的影响，以难以察觉的方式嵌入偏见，并使监督更加复杂。

与其将这些发展视为宣传噱头或担心它们是机器统治的先兆，我们应该将阿尔巴尼亚和日本的实验视为早期案例研究。

它们为设计规范、审计实践和法律框架提供了机会，以在算法决策深深扎根之前对其进行治理。

阿尔巴尼亚和日本有意或无意地使算法治理变得可见。

现在的任务是决定如何使其合法化、可辩论，并与民主原则保持一致，在下一个办公室挂上数字铭牌之前。