The Decoder· Manuel Uth·· 3 天前AI 评分46
研究显示 AI 审计员能查出大部分智能体不当行为，但误报过多
AI auditors catch most agent misbehavior but flood reviewers with false alarms, new study finds
摘要／原文摘录
Anthropic 研究员 Andy Hall 的研究发现，AI 模型可以从日志中识别其他 AI 智能体的问题行为：GPT-5 查出了约 98% 的 reward-hacking 案例。但搜索调得越彻底，误报就越多，堆积起来淹没审查人员。研究结论是，目前这还不足以支撑可靠的安全检查。
来源：The Decoder · the-decoder.com