入侵之后
威慑、韧性与人工智能战争
当入侵无法被完全排除、机器加速行动而责任仍由人承担时,国家与机构应如何保持安全?
把焦点从绝对阻止转向查明事实、作出正当决定、控制损害,并恢复关键功能与信任。
阅读的起点阅读的起点
三部曲的终卷先提出一个早于威慑的问题:我们如何知道究竟发生了什么?行动可经过中间设备,使用多人可得的工具,并留下可被模仿的痕迹。因此,本书区分痕迹、行动、操作者与下令权力,也区分安全公司能观察什么、情报机构能知道什么、政府能公开什么以及法院能检验什么。
由这道裂缝,论述进入正当性。进攻能力可能依靠保密维持价值,回应可能低于武装冲突门槛,保留漏洞的部门也可能与保护公共系统的部门发生冲突。书稿没有把它简化为善恶二分,却坚持保密不能取消约束、监督,以及对监控和授权的边界。
在工程核心处,韧性成为设计:识别关键功能,隔离故障域,保留可用替代方案,并恢复数据、身份与信任。人工智能加快侦察、执行与影响,也带来新的攻击面。全书最终提出一个阿拉伯地区的学说问题:通信退化、人机判断分歧时,如何维持指挥、协同和决策完整性?
亲手检验一个想法
示意模型 · 数据为虚构,不构成证据或预测。
究竟恢复了什么?
勾选全部四个维度,也不等于真实系统已通过恢复认证。
- 服务运行 — 服务重新响应。
- 数据完整性 — 记录与可信依据完成核对。
- 身份识别 — 系统能够区分获授权的参与者。
- 公众信任 — 人们重新获得信赖机构的理由。
概念实验室
归因阶梯
痕迹不等于行动;行动不能自动证明操作者;操作者也不能单独证明命令来源或意图。
信任即基础设施
信任建立在验证、纠正、质疑与问责之上,而不是“永不失败”的承诺。
韧性循环
说明性循环:诚实发现、适度控制、替代运行、可信恢复,以及改变设计的学习。
示意模型 · 数据为虚构,不构成证据或预测。责任不会转移给模型
机器分析和行动能力的扩大,不能取消人设定权限并承担决策后果的义务。
论证如何展开
以下是对所提供说明的分析性梳理,并非书稿的章节标题。
- 01
从痕迹到归因
校准技术、情报与法律证据所能支持的结论,避免从工具直接跳到下令权力。
- 02
威慑与正当性
检验灰色地带中的威慑,并平衡网络强国中的保密、监督与权利。
- 03
设计韧性
从保护一切转向保存关键功能、限制故障,并恢复运行、知识和信任。
- 04
智能体与加速影响
区分已观察到的能力和推演情景,审视授权及对模型、工具与供应链的攻击。
- 05
走向阿拉伯地区学说
把海湾地区依赖同授权边界、指挥连续性及不确定条件下的军政决策完整性连接起来。
视觉文库
原创概念研究。封面为设计方案,配文为编辑文字,并非书稿引文。
入侵之后
当入侵无法被完全排除、机器加速行动而责任仍由人承担时,国家与机构应如何保持安全?
下载 SVG 研究图 ↓把焦点从绝对阻止转向查明事实、作出正当决定、控制损害,并恢复关键功能与信任。
下载 SVG 研究图 · 2:1 ↓服务恢复并不等于全部恢复
系统重新响应很重要,却不能单独证明数据、身份或信任已经恢复。图示把运行作为一个独立维度,避免它遮蔽其他维度。
下载 SVG 研究图 ↓中断之后的数据完整性
记录不只要重新可用,还要确认其正确、一致并可核查。这个维度把恢复访问,与恢复可靠工作的依据区分开来。
下载 SVG 研究图 ↓身份与权限的连续性
恢复要求系统能够区分获授权者,并把行动与责任主体联系起来。只有服务恢复而没有这项能力,核心问题仍未解决。
下载 SVG 研究图 ↓修复之后还要重建信任
技术可能已经运行,人和机构却还没有充分理由重新依赖它。信任重建是机构与解释工作,并非机器发出的一盏绿灯。
下载 SVG 研究图 ↓恢复维度之间的接缝
运行、数据、身份与信任彼此相连,但每一项仍可能独立失效。保留可见接缝,可以防止把局部修复宣布为全面恢复。
下载 SVG 研究图 ↓逐项独立检查就绪状态
每个条件都需要与之相称的证据,之后才能汇成整体判断。这项检查用于组织问题,并不认证现实系统已经安全。
下载 SVG 研究图 ↓六则小论证
原创程序绘图 · 七部书工作室 · Project-original procedural geometry
沿着问题继续读
当作品可以阅读时
选择希望关注的书籍。我们会先发送确认邮件,验证地址后再发送出版通知。
出版通知订阅尚未开放,此处不收集邮箱地址。
隐私与同意 ↗