可信 AI：原则与实践

可信 AI（Trustworthy AI）指在技术可靠之外，还满足安全、公平、透明、隐私、可问责等社会期许的 AI 系统。它不是单一功能，而是一组需要贯穿设计、训练、部署全周期的原则。OECD 与 NIST 等机构都给出了被广泛引用的原则框架。

是什么：核心原则

常见原则包括：有效且可靠（在预期场景稳定工作）、安全与鲁棒（抗攻击、可控）、公平（降低偏见）、透明可解释、隐私保护、可问责（责任可追）。这些原则相互牵制，需要在具体场景权衡。

可信 AI 原则：
有效可靠 / 安全鲁棒 / 公平无偏
透明可解释 / 隐私保护 / 可问责

为什么重要

模型只「聪明」不够。若对特定群体有偏见、在对抗下崩溃，或决策无法解释，用户与监管都不会信任，部署也会受阻。可信是 AI 能否长期落地的底层条件。

怎么做

把原则写进需求与评审清单；用评测覆盖公平、安全、鲁棒维度；对高风险决策保留人类监督与解释；以模型卡与审计日志支撑透明与问责；建立持续监控与反馈闭环。

注意点

原则之间会冲突（如隐私与可解释）。应以风险分级做取舍，并记录权衡理由，而非追求单一指标的极致。

小结

可信 AI 以有效、安全、公平、透明、可问责为原则，需要贯穿全生命周期并在冲突时按风险权衡。模型卡、评测与日志是其工程落点。

参考与延伸阅读

• OECD AI 原则（可信 AI 国际共识）。已核验。https://oecd.ai/en/ai-principles
• NIST AI Risk Management Framework。已核验。https://www.nist.gov/itl/ai-risk-management-framework