筹备中 · 尚未出版04 / 07

数字化转型之后

人工智能时代的机构、国家、权力、工作与决策重塑

当生产知识的成本下降,而验证成本与决策责任仍然存在时,机构会如何改变?

围绕新的稀缺要素——可靠判断与问责——重新设计任务、决策权与自主能力。

阅读的起点
15 章 / 05 部分工作书名

本书从“工具叙事”结束的地方开始。数字化转型把交易从纸面迁入系统,却基本保留了人理解情境、作出判断的角色。如今模型进入这一区域,生成分析、草稿和备选方案;但它们并不会因此对基于其输出的决定承担法律或制度责任。

每一种充裕都会把稀缺转移到别处。认知输出越便宜,验证、情境、判断与问责就越珍贵。书中区分“貌似合理的认知”与“有保障的认知”:前者足以启动审查,后者则明确来源和边界,并由责任主体批准。两者之间的距离需要制度工作来填补,不是模型自身的一个功能。

论述进而讨论任务组合与决策权、生产率悖论,以及入门工作消失后如何培养专家;随后把国家视为采购者和能力建设者,并通过芯片、能源、网络与语言把地理重新带回人工智能。真正的问题不只是买哪一个模型,而是哪些验证、建设和治理能力必须留在自己手中。

论证如何展开

以下是对所提供说明的分析性梳理,并非书稿的章节标题。

  1. 01

    新的认知经济

    识别模型让什么变得充裕,以及稀缺如何转向情境、验证、判断与问责。

  2. 02

    重构机构

    围绕任务与决策权重新组合工作,而不是用部署了多少工具衡量转型。

  3. 03

    自动化之后培养专长

    权衡当下收益与未来培养能够审查机器、处理困难案例的专业人员之能力。

  4. 04

    国家、地理与能力

    区分可安全租用的能力和承载制度记忆与判断的能力,并连接人工智能的物质与语言资源。

  5. 05

    可问责的判断

    为预测配置观察指标与证伪条件,使读者能随证据变化重新检验论点。

概念实验室

01

貌似合理与有保障的认知

有说服力的输出可以启动审查;采用它则需要来源、情境、验证和责任主体。

02

机构认知栈

数据、情境、模型、验证、判断、决策、行动、问责和学习,不能因其中一层降价而省略。

03

验证与后果矩阵

说明性模型把验证难易与错误后果相对照,用以选择合适的控制程度。

示意模型 · 数据为虚构,不构成证据或预测。
04

专长债务

自动化初级工作可能掩盖机构培养未来专家能力的延迟损失。

亲手检验一个想法

示意模型 · 数据为虚构,不构成证据或预测。

从貌似合理的回答到获授权的行动

回答已经生成。请选择机构完成了哪些工作。
0 / 4
不操作也能读懂

这些环节展示责任分工。在图中通过检查,不能保证现实决策正确。

  1. 情境 — 明确要做的决定及其处境。
  2. 核验 — 检验证据、不确定性和回答的限度。
  3. 权限 — 确认谁有权批准行动。
  4. 问责 — 记录责任、后果及复核路径。

视觉文库

原创概念研究。封面为设计方案,配文为编辑文字,并非书稿引文。

数字化转型之后

数字化转型之后

当生产知识的成本下降,而验证成本与决策责任仍然存在时,机构会如何改变?

下载 SVG 研究图 ↓

围绕新的稀缺要素——可靠判断与问责——重新设计任务、决策权与自主能力。

下载 SVG 研究图 · 2:1 ↓
貌似合理的回答只是起点
视觉短论 / 01

貌似合理的回答只是起点

输出可能连贯而有说服力,却不自带机构采用它所需的条件。图示把回答视为待审材料,先经过检验,再考虑是否据此行动。

下载 SVG 研究图 ↓
情境关口
视觉短论 / 02

情境关口

评价回答之前,必须先界定它服务于什么决定,又将在什么环境中使用。适合低后果任务的方法,未必适合影响重大的决定。

下载 SVG 研究图 ↓
核验关口
视觉短论 / 03

核验关口

这一关检查输出的证据、假设、边界与不确定性。它不会带来绝对确定性,而是让合理的信任程度可以被检验。

下载 SVG 研究图 ↓
权限关口
视觉短论 / 04

权限关口

回答可能有用,但谁有权采纳并把它变成决定,仍是另一个问题。这一关把知识生产与行动授权区分开来。

下载 SVG 研究图 ↓
进入行动的关口
视觉短论 / 05

进入行动的关口

执行需要清楚的委托边界,也需要停止或复核影响的办法。拥有行动能力,并不能免除机构在行动前明确责任的义务。

下载 SVG 研究图 ↓
问责与回退闭环
视觉短论 / 06

问责与回退闭环

行动之后,结果回到可检查、可学习的记录中;只要条件允许,还应保留回退路径。闭环不能保证决定正确,但能防止决定在执行后失去踪迹。

下载 SVG 研究图 ↓

六则小论证

采用关口. 说明性关口:模型输出只有经过来源、情境、风险、责任人和复核记录检查后,才能进入行动。
05 / 06

采用关口

说明性关口:模型输出只有经过来源、情境、风险、责任人和复核记录检查后,才能进入行动。

下载 SVG 研究图 ↓

原创程序绘图 · 七部书工作室 · Project-original procedural geometry

沿着问题继续读

03

入侵之后

当入侵无法被完全排除、机器加速行动而责任仍由人承担时,国家与机构应如何保持安全?

05

力量的枢纽

力量来自拥有资源,还是来自在决策仍有效的时间内调动、停止并恢复资源的能力?

06

我们没有说出的

当言语不等于行动、行为不能单独揭示动机,而且一些人根本未进入测量时,我们如何理解人?

07

现实罗盘

决策者如何区分需要理解的现实,与测量工具允许其看见的现实图像?

思想札记

先把问题写清楚,再谈人工智能

采用人工智能之前,真正需要被设计的往往不是提示词,而是问题、决定与责任之间的边界。

↳

当作品可以阅读时

选择希望关注的书籍。我们会先发送确认邮件,验证地址后再发送出版通知。

隐私与同意 ↗