黑箱转向

黑箱不是一种东西，控制也不是单一方法。本系列终章以来源、系统和行为三种黑箱，对照认识、行为和运行三层控制，给出按风险选择透明性、验证与恢复机制的矩阵，并说明 AI 时代为何需要重新分配理解，而不是宣布透明性的终结。

AI 生成代码模糊了文本作者，却不会让责任自动转移给模型或生成过程。本文区分作者身份、版权、来源证据、专业问责与法律责任，分析工程师、组织、工具供应商和模型提供者在不同控制范围内的责任，并给出兼顾审计与隐私的生成记录方案。

AI 正在改变工程师的任务组合，但现有证据不足以宣布代码作者已经消失。本文把“约束设计者”限定为一种能力重心：定义问题、配置上下文与权限、审查小批变化、建立保证证据并从运行反馈中修正规范，同时说明阅读、调试和实现能力为何仍然重要。

架构不能保证每个组件正确，却能决定错误可以到达哪里、持续多久以及造成多大损失。本文把“风险几何”明确为故障半径、权限范围、暴露时间和相关性四个维度，并说明隔离、零信任、可观测性、渐进发布与恢复机制的能力和边界。

控制复杂或生成式软件不能只靠逐行阅读，也不能只看测试是否通过。本文以转账系统为例，建立需求、契约、性质测试、实现分析、形式验证与运行监控组成的六层证据体系，说明每种方法各自能证明什么。