首页› 资讯库› CMU 研究者提出可证明安全的可纠正智能体构建并发布 ROGUE 基准 微资讯 · 来源报道 CMU 研究者提出可证明安全的可纠正智能体构建并发布 ROGUE 基准 AIHOT 最近七天 2026-11-19 返回首页 阅读原文 Aran Nayebi 在系列文章第二部分介绍其 AAAI 2026 论文 Core Safety Values for Provably Corrigible Agents,给出在部分可观测 off-switch 博弈中同时满足延迟服从、保留开关访问、真话、低影响和有界任务回报五项要求的充分条件,并证明 RLHF/RLAIF 类单一奖励无法实现 corrigibility。 回首页继续看 →