人机协同：关键决策留人

人机协同（human-in-the-loop）指在 AI 系统的关键环节保留人类监督、审核与最终决定权，让模型作为辅助而非独立决策者。EU AI Act 对高风险系统明确要求「人类监督」，正是这一原则的法律化表达。

是什么

人类监督有几种形态：人在环前（模型建议、人执行）、人在环中（模型与人对齐、人可打断）、人在环后（模型自动执行、人抽查复核）。选择哪种取决于决策的可逆性与危害程度。

监督模式：
环前  模型建议 -> 人决定
环中  模型执行 -> 人可随时中止
环后  模型自主 -> 人抽样复核

为什么重要

AI 在招聘、信贷、医疗等场景可能放大偏见或误判，且难以解释。把最终决定权留在人手中，能在错误造成不可逆伤害前设一道闸，也更符合问责与伦理要求。

怎么做

识别高影响决策点并强制人工确认；给监督者提供可理解的依据而非黑箱结论；明确人在拒绝模型结果时的责任与流程；对自动执行动作保留即时中止能力。

注意点

警惕「自动化偏见」：人可能因疲劳而盲目采纳模型建议，使监督形同虚设。应通过培训与界面设计让监督真正生效。

小结

人机协同在高影响决策上保留人类监督与否决，是高风险 AI 的法律与伦理要求。落实需可理解依据、明确责任与防自动化偏见。

参考与延伸阅读

• EU AI Act 高风险系统之人类监督要求。已核验。https://artificialintelligenceact.eu/
• NIST AI RMF（以人为中心的职责设计）。已核验。https://www.nist.gov/itl/ai-risk-management-framework