筹备中 · 尚未出版03 / 07

入侵之后

威慑、韧性与人工智能战争

当入侵无法被完全排除、机器加速行动而责任仍由人承担时,国家与机构应如何保持安全?

把焦点从绝对阻止转向查明事实、作出正当决定、控制损害,并恢复关键功能与信任。

阅读的起点
22 章 / 05 主题工作书名

三部曲的终卷先提出一个早于威慑的问题:我们如何知道究竟发生了什么?行动可经过中间设备,使用多人可得的工具,并留下可被模仿的痕迹。因此,本书区分痕迹、行动、操作者与下令权力,也区分安全公司能观察什么、情报机构能知道什么、政府能公开什么以及法院能检验什么。

由这道裂缝,论述进入正当性。进攻能力可能依靠保密维持价值,回应可能低于武装冲突门槛,保留漏洞的部门也可能与保护公共系统的部门发生冲突。书稿没有把它简化为善恶二分,却坚持保密不能取消约束、监督,以及对监控和授权的边界。

在工程核心处,韧性成为设计:识别关键功能,隔离故障域,保留可用替代方案,并恢复数据、身份与信任。人工智能加快侦察、执行与影响,也带来新的攻击面。全书最终提出一个阿拉伯地区的学说问题:通信退化、人机判断分歧时,如何维持指挥、协同和决策完整性?

亲手检验一个想法

示意模型 · 数据为虚构,不构成证据或预测。

究竟恢复了什么?

分别检查恢复的每个维度。
0 / 4
不操作也能读懂

勾选全部四个维度,也不等于真实系统已通过恢复认证。

  1. 服务运行 — 服务重新响应。
  2. 数据完整性 — 记录与可信依据完成核对。
  3. 身份识别 — 系统能够区分获授权的参与者。
  4. 公众信任 — 人们重新获得信赖机构的理由。

概念实验室

01

归因阶梯

痕迹不等于行动;行动不能自动证明操作者;操作者也不能单独证明命令来源或意图。

02

信任即基础设施

信任建立在验证、纠正、质疑与问责之上,而不是“永不失败”的承诺。

03

韧性循环

说明性循环:诚实发现、适度控制、替代运行、可信恢复,以及改变设计的学习。

示意模型 · 数据为虚构,不构成证据或预测。
04

责任不会转移给模型

机器分析和行动能力的扩大,不能取消人设定权限并承担决策后果的义务。

论证如何展开

以下是对所提供说明的分析性梳理,并非书稿的章节标题。

  1. 01

    从痕迹到归因

    校准技术、情报与法律证据所能支持的结论,避免从工具直接跳到下令权力。

  2. 02

    威慑与正当性

    检验灰色地带中的威慑,并平衡网络强国中的保密、监督与权利。

  3. 03

    设计韧性

    从保护一切转向保存关键功能、限制故障,并恢复运行、知识和信任。

  4. 04

    智能体与加速影响

    区分已观察到的能力和推演情景,审视授权及对模型、工具与供应链的攻击。

  5. 05

    走向阿拉伯地区学说

    把海湾地区依赖同授权边界、指挥连续性及不确定条件下的军政决策完整性连接起来。

视觉文库

原创概念研究。封面为设计方案,配文为编辑文字,并非书稿引文。

入侵之后

入侵之后

当入侵无法被完全排除、机器加速行动而责任仍由人承担时,国家与机构应如何保持安全?

下载 SVG 研究图 ↓

把焦点从绝对阻止转向查明事实、作出正当决定、控制损害,并恢复关键功能与信任。

下载 SVG 研究图 · 2:1 ↓
服务恢复并不等于全部恢复
视觉短论 / 01

服务恢复并不等于全部恢复

系统重新响应很重要,却不能单独证明数据、身份或信任已经恢复。图示把运行作为一个独立维度,避免它遮蔽其他维度。

下载 SVG 研究图 ↓
中断之后的数据完整性
视觉短论 / 02

中断之后的数据完整性

记录不只要重新可用,还要确认其正确、一致并可核查。这个维度把恢复访问,与恢复可靠工作的依据区分开来。

下载 SVG 研究图 ↓
身份与权限的连续性
视觉短论 / 03

身份与权限的连续性

恢复要求系统能够区分获授权者,并把行动与责任主体联系起来。只有服务恢复而没有这项能力,核心问题仍未解决。

下载 SVG 研究图 ↓
修复之后还要重建信任
视觉短论 / 04

修复之后还要重建信任

技术可能已经运行,人和机构却还没有充分理由重新依赖它。信任重建是机构与解释工作,并非机器发出的一盏绿灯。

下载 SVG 研究图 ↓
恢复维度之间的接缝
视觉短论 / 05

恢复维度之间的接缝

运行、数据、身份与信任彼此相连,但每一项仍可能独立失效。保留可见接缝,可以防止把局部修复宣布为全面恢复。

下载 SVG 研究图 ↓
逐项独立检查就绪状态
视觉短论 / 06

逐项独立检查就绪状态

每个条件都需要与之相称的证据,之后才能汇成整体判断。这项检查用于组织问题,并不认证现实系统已经安全。

下载 SVG 研究图 ↓

六则小论证

原创程序绘图 · 七部书工作室 · Project-original procedural geometry

沿着问题继续读

01

隐秘力量的诞生

计算机互联如何从工程收益演变为国家与市场施展政治和情报力量的领域?

02

反噬时代

当网络行动的影响不会止于操作者选定的目标时,会发生什么?

04

数字化转型之后

当生产知识的成本下降,而验证成本与决策责任仍然存在时,机构会如何改变?

05

力量的枢纽

力量来自拥有资源,还是来自在决策仍有效的时间内调动、停止并恢复资源的能力?

思想札记

安全是一种设计决定

安全不只关乎阻挡访问,也关乎权力如何分配、摩擦放在哪里,以及系统出错后能否被解释和修复。

↳

当作品可以阅读时

选择希望关注的书籍。我们会先发送确认邮件,验证地址后再发送出版通知。

隐私与同意 ↗