--- schemaVersion: 1 scope: "public-indexable-html" renderScope: "server-rendered-main" canonical: "https://isafwan.com/zh-CN/lectures/artificial-intelligence/" companion: "https://isafwan.com/agent/zh-CN/lectures/artificial-intelligence/index.md" locale: "zh-CN" language: "zh-CN" direction: "ltr" title: "数字化之后 | Safwan AlModhayan" description: "计算史上的每一层都接管了一些细节；智能体开始选择的，是路径本身的一部分。" --- ## Language versions - [ar-SA](https://isafwan.com/ar/lectures/artificial-intelligence/) - [en](https://isafwan.com/en/lectures/artificial-intelligence/) - [ru](https://isafwan.com/ru/lectures/artificial-intelligence/) - [x-default](https://isafwan.com/ar/lectures/artificial-intelligence/) - [zh-CN](https://isafwan.com/zh-CN/lectures/artificial-intelligence/) [Safwan AlModhayan](https://isafwan.com/zh-CN/)[返回演讲列表](https://isafwan.com/zh-CN/lectures/)编辑提案 委托与决策边界的架构 # 数字化之后 计算史也是一条不断移动的边界：哪些决定由人预先规定，哪些留给系统在运行时完成。 [从一个场景开始](https://isafwan.com/zh-CN/lectures/artificial-intelligence/#world-opening) > 我们做的不只是增加自动化，而是在移动人类规定与机器选择之间的分界线。 **阅读路线** [哪些事情，人已经不再亲自规定？](https://isafwan.com/zh-CN/lectures/artificial-intelligence/#world-opening)[动手探索](https://isafwan.com/zh-CN/lectures/artificial-intelligence/#world-experiment)[核心问题](https://isafwan.com/zh-CN/lectures/artificial-intelligence/#lecture-question)[先沿历史看：决定怎样逐层移交](https://isafwan.com/zh-CN/lectures/artificial-intelligence/#world-chapter-layers-of-abstraction)[关键选择：规定边界](https://isafwan.com/zh-CN/lectures/artificial-intelligence/#world-chapter-signature)[运行时控制：该继续，还是该停下](https://isafwan.com/zh-CN/lectures/artificial-intelligence/#world-chapter-human-service)[结果回来后：用证据重画边界](https://isafwan.com/zh-CN/lectures/artificial-intelligence/#world-chapter-learning-organization)[最终核验：任务完成不等于结果正确](https://isafwan.com/zh-CN/lectures/artificial-intelligence/#world-chapter-verified-outcome)[让问题打开新的视角](https://isafwan.com/zh-CN/lectures/artificial-intelligence/#world-questions)[这份思想的书架](https://isafwan.com/zh-CN/lectures/artificial-intelligence/#world-reading-list)[设置邀约背景](https://isafwan.com/zh-CN/lectures/artificial-intelligence/#session) 从一个场景开始 ## 哪些事情，人已经不再亲自规定？ 编译器让人不再书写大量机器指令，操作系统接管资源细节，数据库选择查询执行路径，云服务隐藏部分物理基础设施。每增加一层，人就能在更高层次描述自己想完成什么。 智能体迈出新的一步：它接收一个并未完全规定的目标——解决客户问题、安排旅行、检查账户——并在运行时选择部分路径。搜索什么、调用哪个工具、何时停下、何时澄清，并不全部在设计时写死。 所以，这不是宣布数字化转型结束，也不是罗列 AI 用例。真正的问题是：哪些决定从设计时移到了运行时？组织如何有意识地在人、确定性软件与学习系统之间分配决策权？ 动手探索 ## 画出一项工作的决策地图 让一个假设任务经过五个阶段，标出规定边界究竟在哪里发生移动。 ### 让状态变得可见 记录与访问建立基础，但尚未改变决策方式。 **查看所有视角** 1. ### 让状态变得可见 记录与访问建立基础，但尚未改变决策方式。 2. ### 重复已知路线 明确规则适合交给机器稳定执行。 3. ### 在边界内选择 系统获得目标和一组被允许的决策空间。 4. ### 看见结果与例外 人或评估机制确认结果，并接管高影响异常。 5. ### 有意识地调整分工 根据结果，重新决定哪些事项写在执行前，哪些可以留到运行时。 可交互的示意场景 核心问题 ## 哪些事情，人已经不再亲自规定？ ## 先沿历史看：决定怎样逐层移交 高级编程语言让人不必逐条书写底层机器指令，编译器承担翻译；操作系统、数据库、图形界面、互联网和云计算，又不断把复杂细节组织成更高层能力。 从这个角度看，AI 延续了抽象层的历史。新的地方在于，人可以用自然语言描述目标，系统再结合上下文和工具选择部分路径。 ## 关键选择：规定边界 “规定边界”（Specification Frontier）是这场演讲提出的框架：一侧是组织在执行前已经决定的事项，另一侧是有意留给系统在运行时决定的事项。人可以规定目标、政策与预算，让系统选择顺序、工具和步骤；也可以只允许系统提出方案，把最终批准留给人。 这条边界并不固定。系统能力、错误后果、结果可验证性、当前风险与恢复条件都会推动它移动。成熟不是部署更多智能体，而是知道何时移动边界，以及何时把真正的判断权交还给人。 ## 运行时控制：该继续，还是该停下 生产体系中的 jidoka 提醒我们：成熟自动化并非无论发生什么都持续运转。系统发现异常后停下或召唤人，让问题不至于扩散成一串缺陷。 这一思想很适合智能体时代。先进组织不以“流程里没有人”为目标，而是设计清楚哪些环节让软件独立完成，哪些需要确认，哪些例外必须回到能够理解其意义的人手中。 ## 结果回来后：用证据重画边界 当流程可被观察，组织就能看见决定在哪里等待、错误在哪里重复、哪些步骤不再创造价值，以及员工何时缺少必要信息。AI 由此进入更大的学习循环：测量结果、重看流程、调整分工。 转型的成绩不由智能体数量决定，而体现在服务质量、正确结果所需时间、异常恢复能力，以及人获得了多少时间去处理真正复杂的问题。 ## 最终核验：任务完成不等于结果正确 一个智能体可以顺利走完所有步骤，却没有解决用户的问题；也可能缩短处理时间，却把复核成本转移给下一位员工。流程完成率只能说明系统到达终点，不能说明终点值得到达。 因此，组织要同时检查结果是否正确、用户是否真正得到服务、异常能否恢复，以及人在何处仍承担不可见的补救劳动。只有这些证据回到设计环节，规定边界才会随着经验变得更准确。 走进思想的深处 ## 让问题打开新的视角 **数字化之后真正发生什么？** 记录与连接完成数字化后，组织可以重新设计工作本身：哪些步骤仍然需要、谁选择下一步、结果如何被检验。 **委托与自动化有什么不同？** 自动化遵循预定程序；委托让系统在目标与条件限定的空间里作出部分选择。 **组织是否应部署尽可能多的智能体？** 不应以数量为目标。价值来自合适任务、可靠数据、清晰权限、有效复核和对用户有意义的结果。 **员工角色会如何变化？** 部分精力可从收集信息与重复步骤，转向设定目标、复核结果、处理例外和改进工作方法。 **如何衡量 AI 转型？** 观察服务质量与速度、正确结果的成本、韧性、流程学习，以及人被释放出来用于高价值工作的时间。 离开会场之后 ## 让好奇心走出会场 部署智能体之前，先画出决策：谁选择、谁执行、谁复核，以及谁有能力让工作恢复。 1. 区分采用工具与重新分配决策权及责任。 2. 识别既定自动化何时优于委托 AI 作出决定。 3. 在评估价值与成本时纳入监督、验证和恢复。 ## 这份思想的书架 这些作品帮助理解主题的来路，也为继续阅读提供线索。 1. [Man–Computer Symbiosis](https://ieeexplore.ieee.org/document/4503259) J. C. R. Licklider 1960 年发表的论文，讨论人与计算机如何在问题形成、判断与复杂情境控制中协作。 2. [Augmenting Human Intellect: A Conceptual Framework](https://dougengelbart.org/content/view/138/) Douglas C. Engelbart 1962 年的原始研究报告，探讨系统如何增强人理解复杂情境和解决问题的能力。 ## 适合听众 - 机构管理者及转型、技术负责人 - 运营、产品与组织发展负责人 - 工作研究、系统及人机交互领域的研究者 ### 适用情境 适用于从零散试验转向讨论负责任 AI 运营模式的机构。 **内容边界** 不承诺具体财务回报，不是裁员方案，也不主张所有流程都应自主运行。 [洽谈演讲](https://isafwan.com/zh-CN/speaking/?lecture=artificial-intelligence#invitation) 设置邀约背景 ## 一个核心问题，匹配不同听众的深度。 拟议形式25–35 分钟**主题演讲**面向管理者及跨专业听众，建立对核心问题的共同理解。45–60 分钟**专业交流**面向专业人员与决策者，深入讨论系统关联与取舍。75–90 分钟**深度专题讲座**面向工程师与研究者，提前商定知识要求及互动方式。 选择听众视角[洽谈演讲](https://isafwan.com/zh-CN/speaking/?lecture=artificial-intelligence&lens=all&session=keynote#invitation) 以下形式均为提案。内容准备情况、时长与互动方式须针对每次邀约确认。 这些语言用于网站介绍。现场演讲语言及口译安排须针对每次邀约单独确认。 贯穿其中的线索 ## 相关内容 [相关内容当 Claude 走进导弹研发室从“沙蒙”到红海：一份来自沙特视角的分析，讨论部分软件专长成为云端服务后究竟改变了什么，以及代码辅助与得到证实的军事能力之间仍隔着多远。](https://isafwan.com/zh-CN/ideas/when-claude-entered-missile-room/)[研究代码不会独自飞行一份基于公开来源的分析论文，区分人工智能的使用、产出、独立验证与运行能力，并把也门北部案例放回区域历史，同时不越过归属判断与证据的边界。](https://isafwan.com/zh-CN/research/code-does-not-fly-alone/)[相关内容先把问题写清楚，再谈人工智能采用人工智能之前，真正需要被设计的往往不是提示词，而是问题、决定与责任之间的边界。](https://isafwan.com/zh-CN/ideas/better-questions-before-ai/) 主题[人工智能](https://isafwan.com/zh-CN/topics/#artificial-intelligence)[权力](https://isafwan.com/zh-CN/topics/#power) 下一场演讲[信任是一种基础设施](https://isafwan.com/zh-CN/lectures/cybersecurity/)[主权不等于模型](https://isafwan.com/zh-CN/lectures/sovereign-ai/)