NEO.K / STDI時空域支配智能
編號STDI-12
版本v0.1
日期2026-07-30
作者Neo.K
狀態安全架構論文／運行時保證與物理回退規格
證據E0——形式模型、系統架構、驗證命題與 MVP 路線

下載 PDF ↓回到論文索引 ↗

安全憲法即運行時

時空域 AI 的局部否決、權限租約、運行時保證與物理回退

Safety Constitution as Runtime: Local Veto, Authority Leases, Runtime Assurance, and Physical Recovery for Spatiotemporal-Domain AI

系列：《時空域支配智能》系列第 12 篇
文件編號： EML-STDI-SCR-2026-v0.1
架構名稱： SCR｜Safety Constitution Runtime
作者： Neo.K
協作整理： Aletheia（阿萊）
機構： EveMissLab／一言諾科技有限公司
日期： 2026 年 7 月 30 日
文件類型： 安全架構論文／運行時保證與物理回退規格
證據成熟度： E0——形式模型、系統架構、驗證命題與 MVP 路線
公開狀態： 私人研究稿；公開前應經 EML-CF 的 IP Gate、功能安全、資安、法規與人類治理審查
上位理論： STDI｜時空域支配智能
直接前序：

  1. 《中央主權、地方自治與動態不動點中央》
  2. 《連線不是纜線：有線、無線、光學與離線任務包的混合站網》
  3. 《站點化世界模型：物體、區域、事件、權限與可能行動的共同物理世界表示》
  4. 《具身化 AI 自主研究閉環：從假說生成、物理實驗到證據判定與概念修正》
  5. 《異常即入口：具身自主研究中的反例、失敗、離群事件與未知管理》

摘要

具身 AI、分布式機器人和自主研究系統常以「安全政策」「倫理原則」「禁止事項」描述安全，但文字原則若不能在物理命令真正進入致動器之前被檢查、限制、替換或否決，就只是設計文件，而不是安全機制。對時空域支配智能而言，中央超靈可能產生高階計畫，地方 Agent 可能進行路徑和工具調整，生成式模型可能提出新實驗，遠端站點可能在斷線時依任務包繼續運行；安全不能只依賴每個智能體都「理解並願意遵守」共同原則。

本文提出：

安全憲法必須成為運行時，而不能只是一份被模型閱讀的文件。

本文建立 SCR｜Safety Constitution Runtime（安全憲法運行時）。SCR 是位於 DomainIR、治理中心、地方 Agent 與物理控制器之間的受信任執行層。它將域憲法、危害分析、安全不變量、作用域、權限租約、世界狀態新鮮度、控制障礙、不可逆性和人類緊急權限，編譯成每次物理提交都必須滿足的機器可檢查條件。

SCR 的基本形式為：

SSCR=(I,H,C,L,M,B,R,A,E),\mathcal{S}_{\mathrm{SCR}} = \left( \mathcal{I}, \mathcal{H}, \mathcal{C}, \mathcal{L}, \mathcal{M}, \mathcal{B}, \mathcal{R}, \mathcal{A}, \mathcal{E} \right),

其中：

本文採用類 Runtime Assurance／Simplex 的結構：

Advanced Controller／AI Planner
              ↓ proposed action
Runtime Safety Monitor／Decision Module
     ├── allow
     ├── modify through safety filter
     ├── switch to Baseline Controller
     └── reject／stop／isolate
              ↓
Trusted Actuation Gateway
              ↓
Local Safety Controller／Physical Plant

高性能 AI 可負責複雜規劃、最佳化與研究探索，但它不是安全權威。安全監視器根據已驗證的狀態、模型和安全不變量，決定是否允許其行動。若先進控制器的輸出可能使系統進入不可恢復區，SCR 應在跨越邊界前切換至受信任基線控制器、套用安全濾波器或停止。

本文將安全集合寫為：

C={x∈X∣hj(x)≥0, ∀j}.\mathcal{C} = \left\{ x\in\mathcal{X} \mid h_j(x)\geq0,\ \forall j \right\}.

對可用控制 uu ，要求其維持安全集合的前向不變性。例如控制障礙函數可將安全條件轉化為對控制輸入的限制：

h˙(x,u)+α(h(x))≥0.\dot{h}(x,u) + \alpha(h(x)) \geq0.

但本文也明確限制：並非所有安全都能由連續動力學和障礙函數表示。樣本身份、權限、保管、校準、網路紀元、IP 和人類批准等離散治理安全，仍需透過狀態機、憑證、事件日誌與本地硬體互鎖執行。

本文區分五種回退：

  1. 軟體回滾：恢復程序或模型版本；
  2. 資訊狀態回滾：重建任務、世界模型和治理紀元；
  3. 可逆物理回退：將物體、工具或設備返回先前安全狀態；
  4. 補償與安全封存：原作用不可逆，但可降低後果、隔離或完成安全後處理；
  5. 不可回退事件：破壞、公開、污染、人體傷害或材料永久改變，只能停止、保存證據和承擔責任。

因此：

物理回退≠資料庫 rollback\boxed{ \text{物理回退} \neq \text{資料庫 rollback} }

SCR 不允許系統以「之後可以復原」為理由降低不可逆動作的事前門檻。每個動作會依不可逆等級被分類：

I0  純讀取或模擬
I1  可軟體撤銷
I2  可物理回復
I3  只能補償或隔離
I4  不可逆、高後果或涉及人類／公共權利

I3 和 I4 必須使用更高批准、更多證據、更短租約和更強本地否決；I4 不允許由 AI 自行取得最終批准。

本文建立「七重提交 Gate」：

Commit⁡(a)=Id∧Au∧Wf∧Cp∧Ss∧Rr∧Ev,\operatorname{Commit}(a) = I_d \land A_u \land W_f \land C_p \land S_s \land R_r \land E_v,

其中：

現有功能安全與自主系統標準提供了重要背景。IEC 61508 將功能安全視為涵蓋電氣、電子與可程式電子安全相關系統完整生命週期的風險導向工程問題；ISO 10218-1:2025 和 ISO 10218-2:2025 分別處理工業機器人本體及機器人應用／工作單元的安全要求；UL 4600 使用安全案例思路評估完全自主產品；ASTM F3269-21 則提供以 Runtime Assurance 對含複雜功能之系統行為進行安全界定的架構框架。本文不宣稱 SCR 自動符合上述標準，而是將其共同精神轉化為 STDI 的分層運行時架構：安全必須基於風險、生命週期、可證明邊界、獨立監視、測試證據與責任。

本文的核心命題為：

AI 可以提出任何候選行動，但只有安全憲法運行時有權決定哪些作用能進入物理世界。

關鍵詞： 安全憲法、Safety Constitution Runtime、SCR、Runtime Assurance、Simplex、局部否決、權限租約、控制障礙函數、運行時監視器、基線控制器、功能安全、安全案例、物理回退、補償事務、不可逆行動、人類緊急權

0. 版本定位：第十二篇把分散安全規則收斂成執行核心

前文已在不同章節提出：

但若這些規則分散於不同服務，由各個 Agent 自行理解，仍可能出現：

SCR 的任務是把安全規則收斂成：

一條所有物理作用必經、不可由研究 Agent 或治理中央繞過的受信任提交路徑。

1. 憲法、政策、規則與運行時

1.1 憲法層

定義不可由一般 AI 修改的基本原則：

1.2 政策層

將憲法依領域具體化：

1.3 規則層

可機器檢查：

IF human_in_zone(cell-B)
THEN arm_speed <= reduced_speed
AND destructive_action = forbidden

1.4 運行時層

在每次控制週期或提交事件中執行：

1.5 文件閱讀不足

即使模型在上下文中看過安全規則，仍可能因：

違反規則。

因此安全憲法不能只存在於 prompt。

2. 安全權限階層

延續第七篇權限格：

A0>A1>A2>A3>A4.A_0>A_1>A_2>A_3>A_4.

A0A_0 ：本地硬安全

A1A_1 ：域憲法

A2A_2 ：SCR 安全租約

A3A_3 ：中央／研究計畫

A4A_4 ：地方最佳化

任何 A3A_3 或 A4A_4 決策均不得覆蓋 A0A_0 或 A1A_1 。

3. SCR 的 Runtime Assurance 架構

3.1 Advanced Controller

可能是：

它追求性能與研究價值，但不視為受信任安全元件。

3.2 Runtime Safety Monitor

負責：

3.3 Decision Module

輸出：

ALLOW
MODIFY
DELAY
SWITCH_TO_BASELINE
REJECT
EMERGENCY_STOP
QUARANTINE

3.4 Baseline Controller

受信任、較簡單、功能較少：

它不需要完成研究目標，只需維持或回到安全集合。

3.5 Trusted Actuation Gateway

所有物理致動命令必須通過：

3.6 Local Safety Controller

最接近物理設備，不能依賴中央網路。

4. 安全集合與前向不變性

4.1 安全集合

C={x∣h1(x)≥0,…,hm(x)≥0}.\mathcal{C} = \left\{ x \mid h_1(x)\geq0,\ldots,h_m(x)\geq0 \right\}.

例：

4.2 前向不變性

安全控制要求：

x(0)∈C⇒x(t)∈C, ∀t≥0.x(0)\in\mathcal{C} \Rightarrow x(t)\in\mathcal{C},\ \forall t\geq0.

4.3 控制障礙函數

對動力系統：

x˙=f(x)+g(x)u,\dot{x} = f(x)+g(x)u,

可要求：

Lfh(x)+Lgh(x)u+α(h(x))≥0.L_fh(x) + L_gh(x)u + \alpha(h(x)) \geq0.

安全濾波器選擇最接近先進控制輸出的安全控制：

u⋆=arg⁡min⁡u∥u−uAI∥2u^\star = \arg\min_u \|u-u_{\mathrm{AI}}\|^2

subject to safety constraints.

4.4 離散與混合安全

具身研究還包含：

需使用：

4.5 模型誤差

若安全模型有誤，形式保證也可能失效。

因此需：

5. 危害圖

5.1 Hazard Node

危害：

h=(source,condition,event,consequence,severity,likelihood,controls).h = \left( source, condition, event, consequence, severity, likelihood, controls \right).

5.2 節點類別

5.3 因果路徑

world state stale
→ human presence not detected
→ robot enters shared zone
→ collision hazard

或：

sample identity conflict
→ destructive test allowed on wrong sample
→ irreversible loss
→ IP／research damage

5.4 控制點

每條危害路徑可配置：

5.5 爆炸半徑

B(h)=∑x∈Affected⁡(h)w(x).B(h) = \sum_{x\in\operatorname{Affected}(h)} w(x).

高爆炸半徑行動使用更嚴格 Gate。

6. 安全不變量

6.1 Invariant Record

safety_invariant:
  id: "SI-human-cell-B"
  scope: "cell-B"
  statement: "human_present -> high_energy_motion_forbidden"
  enforcement:
    - local_safety_controller
    - runtime_monitor
  fallback: "controlled_stop"

6.2 類型

Physical Invariant

溫度、力、速度、距離、壓力。

Identity／Custody Invariant

高風險樣本必須具有唯一身份和保管者。

Authority Invariant

只有最高有效治理紀元和租約可提交。

Temporal Invariant

命令和感測狀態必須在新鮮度期限內。

Evidence Invariant

某些操作必須有預先／過程／事後證據。

Human Rights Invariant

人類急停、隱私、接管和知情邊界。

IP Invariant

受限資料不得跨越授權域。

7. 七重提交 Gate

對候選行動 aa ：

Commit⁡(a)=Id∧Au∧Wf∧Cp∧Ss∧Rr∧Ev.\operatorname{Commit}(a) = I_d \land A_u \land W_f \land C_p \land S_s \land R_r \land E_v.

7.1 Identity Gate IdI_d

檢查：

7.2 Authority Gate AuA_u

檢查：

7.3 World Freshness Gate WfW_f

檢查：

7.4 Capability Gate CpC_p

檢查：

7.5 Safety Gate SsS_s

檢查：

7.6 Recovery Gate RrR_r

檢查：

7.7 Evidence Gate EvE_v

檢查：

任一必要 Gate 失敗：

Commit⁡(a)=0.\operatorname{Commit}(a)=0.

8. 權限租約

8.1 Action Lease

λ=(subject,action,object,zone,[t0,t1],limits,conditions,issuer,epoch).\lambda = \left( subject, action, object, zone, [t_0,t_1], limits, conditions, issuer, epoch \right).

8.2 租約不是永久能力

即使站點具備機械能力，也只有在租約有效時可執行。

8.3 本地到期

站點依本地時間和保守誤差自行到期：

tlocal≥texpire−ϵt⇒λ=invalid.t_{\mathrm{local}} \geq t_{\mathrm{expire}}-\epsilon_t \Rightarrow \lambda=\mathrm{invalid}.

8.4 不允許自行續租

地方 Agent 和離線任務包不能自行延長：

8.5 租約縮權

異常、斷線、世界紀元失效或人類進入時，可以：

9. 地方否決

9.1 Local Veto 原則

地方站點有權拒絕中央命令，若：

9.2 地方否決的輸出

VETO_HARD_SAFETY
VETO_AUTHORITY
VETO_WORLD_STATE
VETO_CAPABILITY
VETO_CALIBRATION
VETO_RECOVERY_INSUFFICIENT
VETO_EVIDENCE_NOT_READY

9.3 否決不是地方主權擴張

地方不得因拒絕中央命令而：

9.4 否決需要證據

保存：

10. Mode Supervisor

10.1 模式

NORMAL
CONSERVATIVE
DEGRADED
DISCONNECTED_LOCAL
BASELINE_CONTROL
SAFE_HOLD
EMERGENCY_STOP
QUARANTINED
HUMAN_TAKEOVER
RELINQUISHING

10.2 模式轉移

由：

共同決定。

10.3 只能縮權的轉移

當安全資訊減少時：

At+1⊆At.\mathcal{A}_{t+1} \subseteq \mathcal{A}_t.

不得因感測器失效而假設「未看到人，所以無人」。

10.4 恢復正常模式

需要：

11. 不可逆性分級

I0：無物理作用

I1：資訊可撤銷

I2：物理可恢復

I3：物理不可完全恢復但可補償

I4：高後果不可逆

11.1 Gate 強度

G(I0)<G(I1)<G(I2)<G(I3)<G(I4).G(I0)<G(I1)<G(I2)<G(I3)<G(I4).

11.2 I4 規則

12. 物理回退與補償

12.1 軟體回滾

恢復：

不自動改變物理世界。

12.2 世界狀態恢復

從事件日誌和盤點重建世界。

這是認識恢復，不是物理逆轉。

12.3 可逆物理回退

條件：

12.4 補償

當不能恢復原狀時，執行：

12.5 安全封存

若連補償也不安全：

12.6 不可回退

對不可逆事件，SCR 只能：

13. 物理交易狀態

PROPOSED
  ↓
SAFETY_CHECKED
  ↓
PREPARED
  ↓
ARMED
  ↓
EXECUTING
  ↓
EFFECT_OBSERVED
  ↓
COMMITTED

例外分支：

REJECTED
ABORTED
SAFE_STOPPED
COMPENSATING
QUARANTINED
HUMAN_INTERVENTION

13.1 Prepared

資源、站點、權限和回退已準備，但物理作用未開始。

13.2 Armed

本地控制器已準備，仍可撤銷。

13.3 Executing

物理作用發生。

13.4 Effect Observed

不能只根據命令回覆，必須觀測實際效果。

13.5 Committed

保管、世界和證據更新完成。

14. Runtime Monitor 的時間預算

安全監視器本身也有 deadline。

對控制週期：

Tsense+Testimate+Tmonitor+Tdecide+Tactuate≤Tsafe.T_{\mathrm{sense}} + T_{\mathrm{estimate}} + T_{\mathrm{monitor}} + T_{\mathrm{decide}} + T_{\mathrm{actuate}} \leq T_{\mathrm{safe}}.

若無法在時間內判定：

Unknown⇒Conservative／Baseline.\text{Unknown} \Rightarrow \text{Conservative／Baseline}.

不能以逾時作為默認允許。

15. Monitor 失效

15.1 安全監視器不是不可失效

可能：

15.2 防護

15.3 Fail-Safe

若 SCR 失去可信狀態：

16. 安全案例

16.1 Claim–Argument–Evidence

Claim:
  系統在批准作用域內不會以超過限制的速度接近人類。

Argument:
  感測、局部監視、速度限制、CBF、安全 PLC 與測試共同支持。

Evidence:
  校準、形式分析、單元測試、故障注入、實體測試與運行日誌。

16.2 動態安全案例

運行時更新：

16.3 失效時撤回主張

若支持證據過期，安全主張不能繼續標為成立。

17. 與功能安全標準的關係

17.1 IEC 61508

可借用：

SCR 不應把功能安全理解成部署前一次測試，而是全生命週期。

17.2 ISO 10218:2025

工業機器人和整合工作單元安全要求提醒：

需分開處理。

17.3 UL 4600

安全案例思路適合無法僅靠傳統元件測試覆蓋的自主產品。

17.4 ASTM F3269

Runtime Assurance 對含複雜功能的系統，以受信任邊界和監視器限制其行為。

17.5 不宣稱自動合規

SCR v0.1 是研究架構。實際產品需由相應領域專家、測試與認證程序判定。

18. 安全與資安耦合

18.1 假命令是物理危害

必須驗證：

18.2 降級攻擊

攻擊者可能破壞感測或鏈路，迫使系統進入較弱模式。

規則：

降級只能縮權，不能放權。

18.3 惡意模型或文件

外部文字和模型輸出只能提出候選，不能直接獲得安全 token。

18.4 安全元件最小攻擊面

SCR 應避免：

19. 人類緊急權

19.1 Emergency Stop

必須：

19.2 Human Hold

人類可讓系統保持：

SAFE_HOLD

而不必立即斷能。

19.3 Human Takeover

接管後：

19.4 復位不是按一下重啟

需確認：

20. Safety Debt

20.1 定義

未解決但仍被接受的安全缺口：

DS=∑iwi⋅severityi⋅exposurei⋅agei.D_S = \sum_i w_i \cdot severity_i \cdot exposure_i \cdot age_i.

20.2 來源

20.3 門檻

當：

DS>τS,D_S>\tau_S,

系統應：

21. SCR 系統元件

21.1 Constitution Registry

保存不可由一般 Agent 修改的原則和版本。

21.2 Hazard Graph Store

危害、因果、控制與爆炸半徑。

21.3 Invariant Compiler

把安全規則編譯成：

21.4 Runtime State Estimator

讀取 SWM、本地感測與設備健康。

21.5 Safety Monitor

判斷候選控制。

21.6 Safety Filter

修改控制，使其留在安全集合。

21.7 Baseline Controller Registry

每個站點的安全降級控制。

21.8 Lease／Fencing Validator

驗證治理和作用權。

21.9 Irreversibility Classifier

將動作分成 I0–I4。

21.10 Recovery／Compensation Planner

準備回退、補償與隔離。

21.11 Trusted Actuation Gateway

唯一物理提交入口。

21.12 Local Veto Controller

本地最終否決。

21.13 Safety Case and Evidence Store

保存主張、論證和測試。

21.14 Human Emergency Console

停止、保持、接管、復位。

22. 與前序元件整合

22.1 與 DomainIR

DomainIR 的 safety 和 forbidden effects 編譯成 SCR 約束。

22.2 與 OSF

每個站點必須公布：

22.3 與 PCD

安全義務跨重啟保存。

22.4 與 DFC

中央只能簽發租約，不能繞過 SCR。

22.5 與 HLF

鏈路退化時縮權； K0K_0 不依賴上層網路。

22.6 與 SWM

世界狀態、新鮮度、未知和權限參與安全判定。

22.7 與 EARC

研究 Agent 只能提出實驗；SCR 決定是否物理執行。

22.8 與 AEU

異常可使世界紀元失效、縮減租約、隔離站點或轉入基線控制。

23. MVP：Safety Constitution Runtime Lab 14D

23.1 目的

在低風險移動、機械臂和熱量測系統中，驗證 SCR 能否在 AI 計畫錯誤、世界狀態過期、鏈路失效和本地危險出現時，限制或取代先進控制器。

23.2 配置

23.3 測試場景

  1. 正常任務；
  2. AI 規劃穿越禁止區；
  3. 人類突然進入；
  4. 租約過期；
  5. 世界紀元過期；
  6. 感測器失效；
  7. 控制器輸出過高速度；
  8. 樣本身份衝突；
  9. 不可逆任務未批准；
  10. 中央斷線；
  11. 舊命令重放；
  12. SCR 自身 watchdog 失效。

23.4 故障注入

23.5 成功條件

24. 評估指標

24.1 安全

24.2 RTA

24.3 租約與治理

24.4 回退

24.5 運行成本

24.6 證據

25. 可證偽命題

H1：SCR 可降低 AI 規劃器造成的安全違規

若先進控制器和 SCR 模式違規率相同，架構無增量價值。

H2：SCR 會降低部分性能並增加延遲

若完全沒有代價，可能未真實計入監測和保守控制。

H3：安全濾波比全拒絕保留更多任務性能

但在模型不確定時可能不如切換基線可靠。

H4：地方否決能縮短現場危害反應

H5：租約與 fencing 能阻止斷線和舊中央造成越權

H6：不可逆分級能降低將「補償」誤稱為「回滾」的比例

H7：顯式 Recovery Gate 能在執行前暴露不可安全退出的任務

H8：動態安全案例能在校準或模型過期時撤回安全主張

H9：SCR 故障注入會暴露安全核心自身的共同失效域

H10：安全債務門檻能防止系統在未驗證安全基礎上擴張

26. 主要限制

26.1 安全集合可能不完整

未知危害無法被現有 invariant 捕捉。

26.2 控制障礙函數依賴模型

模型誤差和感測誤差會影響保證。

26.3 基線控制器也可能失效

26.4 形式驗證不涵蓋所有硬體和環境

26.5 安全與任務活性有衝突

過度保守會使系統頻繁停止。

26.6 人類急停後仍可能存在殘餘能量

26.7 補償不能真正逆轉不可逆效果

26.8 跨領域法規不同

26.9 SCR 增加架構複雜度和維護成本

26.10 本文不提供任何產品的實際安全認證

27. 不能宣稱的內容

本篇不主張：

28. 後續系列關係

本篇把安全憲法落成 Runtime 後，下一篇可回到尺度遷移：

《從單一實驗室到跨站點研究文明：時空域智能的尺度遷移》

它將處理：

29. 結論

安全不能只存在於模型的語言理解中，也不能只在事故後由人類檢討。

時空域 AI 的安全必須是一個持續執行的控制層：

安全憲法=可檢查不變量+受限租約+本地否決+運行時監視+基線控制+恢復與責任\boxed{ \text{安全憲法} = \text{可檢查不變量} + \text{受限租約} + \text{本地否決} + \text{運行時監視} + \text{基線控制} + \text{恢復與責任} }

其最重要的架構分工是：

AI Planner 提出SCR 判定Local Safety 最終否決\boxed{ \text{AI Planner 提出} \quad \text{SCR 判定} \quad \text{Local Safety 最終否決} }

真正的安全運行時不保證系統永遠完成任務，而保證：

本文最終命題是：

AI 的能力可以持續擴張，但它進入物理世界的權力必須始終經過一個更小、更保守、更可證明，也更容易被人類切斷的安全核心。

因此：

安全憲法即運行時\boxed{ \text{安全憲法即運行時} }

不是把倫理口號寫進程式，而是讓任何不符合身份、權限、世界狀態、安全集合、回退與證據要求的作用，都無法成為物理現實。

參考文獻與官方技術資料

  1. Hobbs, K. et al. Run Time Assurance for Safety-Critical Systems. 2021.

  2. Brat, G. et al. Runtime Assurance of Aeronautical Products: Preliminary Recommendations. NASA Technical Memorandum, 2023.

  3. Slagel, J. T. et al. A Formal Verification Framework for Runtime Assurance. NASA Formal Methods, 2024.

  4. NASA. Argument-Driven Application of Formal Methods to Runtime Assurance. TechPort project record, updated 2026.

  5. ASTM International. ASTM F3269-21: Standard Practice for Methods to Safely Bound Behavior of Aircraft Systems Containing Complex Functions Using Run-Time Assurance.

  6. Danylyszyn, A. and others. An Architectural Description of the Simplex Architecture. Carnegie Mellon Software Engineering Institute, 1996.

  7. Seto, D., Krogh, B., Sha, L. and Chutinan, A. The Simplex Architecture for Safe On-Line Control System Upgrades. American Control Conference, 1998.

  8. Ames, A. D., Xu, X., Grizzle, J. W. and Tabuada, P. Control Barrier Function Based Quadratic Programs for Safety Critical Systems. IEEE Transactions on Automatic Control, 2017.

  9. Ames, A. D. et al. Control Barrier Functions: Theory and Applications. European Control Conference, 2019.

  10. Phan, D. et al. A Component-Based Simplex Architecture for High-Assurance Cyber-Physical Systems. 2017.

  11. Mehmood, U. et al. The Black-Box Simplex Architecture for Runtime Assurance of Autonomous CPS. NASA Formal Methods, 2022.

  12. IEC. IEC 61508 Series: Functional Safety of Electrical／Electronic／Programmable Electronic Safety-Related Systems.

  13. ISO. ISO 10218-1:2025 — Robotics — Safety Requirements — Part 1: Industrial Robots.

  14. ISO. ISO 10218-2:2025 — Robotics — Safety Requirements — Part 2: Industrial Robot Applications and Robot Cells.

  15. UL Standards & Engagement. UL 4600, Standard for Safety for the Evaluation of Autonomous Products, Edition 3.

  16. Neo.K／Aletheia. 中央主權、地方自治與動態不動點中央.

  17. Neo.K／Aletheia. 連線不是纜線：有線、無線、光學與離線任務包的混合站網.

  18. Neo.K／Aletheia. 站點化世界模型：物體、區域、事件、權限與可能行動的共同物理世界表示.

  19. Neo.K／Aletheia. 具身化 AI 自主研究閉環：從假說生成、物理實驗到證據判定與概念修正.

  20. Neo.K／Aletheia. 異常即入口：具身自主研究中的反例、失敗、離群事件與未知管理.

附錄 A：Safety Invariant

safety_invariant:
  id: ""
  version: ""
  scope:
    domain: ""
    zones: []
    stations: []
    actions: []

  statement: ""
  class: "physical | identity | authority | temporal |
          evidence | human_rights | ip"

  enforcement:
    runtime_monitor: true
    local_controller: true
    hardware_interlock: false

  fallback:
    mode: "safe_hold | baseline | stop | isolate"
    baseline_controller: ""

  verification:
    method: ""
    evidence: []
    valid_until: null

附錄 B：Safety Action Lease

safety_action_lease:
  id: ""
  domain_id: ""
  governance_epoch: 0
  issuer: ""
  subject: ""

  action:
    type: ""
    targets: []
    zones: []

  limits:
    speed: null
    force: null
    temperature: null
    energy: null
    duration: null

  validity:
    from: ""
    until: ""
    local_expiry: true

  prerequisites:
    world_epoch: ""
    capabilities: []
    calibration: []
    human_approval: null

  irreversibility_class: "I0 | I1 | I2 | I3 | I4"
  recovery_plan: ""
  evidence_required: []
  transferable: false
  self_renewable: false
  signature: ""

附錄 C：Runtime Safety Decision

runtime_safety_decision:
  id: ""
  command_id: ""
  station_id: ""
  evaluated_at: ""

  inputs:
    governance_epoch: 0
    world_epoch: ""
    lease_id: ""
    mode: ""
    state_snapshot: ""
    hazard_snapshot: ""

  gates:
    identity: "pass | fail | unknown"
    authority: "pass | fail | unknown"
    world_freshness: "pass | fail | unknown"
    capability: "pass | fail | unknown"
    safety: "pass | fail | unknown"
    recovery: "pass | fail | unknown"
    evidence: "pass | fail | unknown"

  decision: "ALLOW | MODIFY | DELAY | SWITCH_TO_BASELINE |
             REJECT | EMERGENCY_STOP | QUARANTINE"

  modified_command: null
  baseline_controller: null
  reasons: []
  evidence: []

附錄 D：Physical Recovery Plan

physical_recovery_plan:
  id: ""
  action_id: ""
  irreversibility_class: ""

  strategies:
    software_rollback: []
    state_reconstruction: []
    physical_return: []
    compensation: []
    containment: []
    human_response: []

  assumptions: []
  required_resources: []
  maximum_recovery_time: null
  residual_risks: []
  recovery_not_possible_conditions: []
  approved_by: ""

附錄 E：Hazard Record

hazard:
  id: ""
  source: ""
  hazardous_condition: ""
  hazardous_event: ""
  consequences: []

  assessment:
    severity: 0
    likelihood: 0
    exposure: 0
    detectability: 0
    blast_radius: 0

  controls:
    design_elimination: []
    physical_guard: []
    runtime_monitor: []
    local_interlock: []
    human_approval: []
    recovery: []

  affected_invariants: []
  verification_evidence: []
  status: "OPEN | CONTROLLED | ACCEPTED | RETIRED"

附錄 F：Safety Case Node

safety_case:
  id: ""
  claim: ""
  context: []
  assumptions: []
  arguments: []
  evidence: []
  counterarguments: []
  unresolved_risks: []
  validity:
    software_versions: []
    model_versions: []
    capability_certificates: []
    calibration_valid_until: null
  status: "SUPPORTED | PARTIAL | WITHDRAWN"

附錄 G：Local Veto

local_veto:
  id: ""
  station_id: ""
  command_id: ""
  occurred_at: ""

  category: "HARD_SAFETY | AUTHORITY | WORLD_STATE |
             CAPABILITY | CALIBRATION | RECOVERY |
             EVIDENCE"

  violated_invariants: []
  observations: []
  immediate_action: "safe_hold | baseline | stop | isolate"
  central_notified: false
  human_notified: false
  evidence: []

附錄 H：Safety Debt Report

safety_debt:
  domain_id: ""
  generated_at: ""

  items:
    - id: ""
      description: ""
      severity: 0
      exposure: 0
      age: 0
      temporary_control: ""
      permanent_fix: ""
      deadline: ""

  weighted_debt: 0
  threshold: 0
  current_mode: ""
  required_mode: ""
  expansion_allowed: false

附錄 I：系列血緣

DFC
  中央權限與地方否決
        ↓

HLF
  鏈路退化與本地到期
        ↓

SWM
  世界狀態、新鮮度與未知
        ↓

EARC
  AI 產生實驗候選
        ↓

AEU
  異常隔離與世界紀元失效
        ↓

SCR
  候選作用 → 七重 Gate → 安全濾波／基線／拒絕 → 物理提交
        ↓

下一篇
  從單一實驗室擴展至跨域與跨組織研究聯邦