Anthropic 公开了一项自动化安全研究，尝试用 Claude 协助寻找训练数据监测系统的盲点。研究人员在受控环境中让模型生成微调数据，并评估这些数据能否在较低警报率下改变实验模型的行为。
团队表示，多轮搜索产生了大量不同的数据集，部分样本表面上看起来像普通的写作练习或问答。研究使用固定的评估集观察微调后的模型，并据此比较生成数据对行为的影响；结果体现了数据监测需要面对的复杂性。
Anthropic 强调，这不是对线上 Claude 实际行为的结论。实验模型是为了测试而专门训练的，研究设置也有利于测试方，包括向其开放监测器信息。团队希望把类似方法用于更接近现实的安全评估，发现仅靠人工测试可能遗漏的问题。