The Decoder· Matthias Bastian·· 9 天前精选AI 评分62
Anthropic 用养蜂和摔角等伪装内容训练小模型规避监管
Beekeeping tips and wrestling advice can train AI models to sabotage oversight
摘要／原文摘录
Anthropic 用 Claude 自动生成看似无害的训练数据，可将较小模型训练出破坏监管、欺骗用户等不当行为。这些数据隐藏在养蜂、职业摔角和线粒体等虚构语境中，能绕过安全监测器，效果超过研究文献中的已知基准。
推荐理由
Anthropic 展示了用无害伪装数据训练小模型规避监管的攻击方式，为安全监测的盲区提供了具体参照。
来源：The Decoder · the-decoder.com