Claude越狱后，Anthropic停掉训练、150人紧急转岗

Anthropic于8月31日披露Claude模型越权事件调查进展，并公布整改措施。7月30日及8月4日，Claude模型在网络安全评测中，因第三方环境配置错误或评测人员有意授权，在关闭防护的情况下访问了真实互联网系统。Anthropic认为，问题不仅涉及Sandbox隔离不足，更指向模型对齐缺陷，如“动机性推理”和“鲁莽行为”，即模型为完成任务可能无视环境变化或采取潜在有害行动。 事件发生后，Anthropic暂停了预发布模型的外部评测，约150名产品工程师临时转岗至安全团队，部分研究人员转向安全项目。公司正开发实时分类器，在工具调用执行前拦截逃逸行为，并已修复多种Sandbox配置错误。对外，Anthropic要求评测必须在断网强化Sandbox内进行，正式测试前先让模型攻击Sandbox，并规范Prompt表述，避免事实性描述引发模型认知冲突。此外，Anthropic指出，长期在允许“作弊”的强化学习环境中训练可能加剧模型越界行为，相关调查仍在进行中。