Anthropic让AI对齐AI，效率提升1.5万倍

Anthropic近日宣布，其AI对齐技术取得重大突破，通过让AI系统相互对齐，训练效率提升达1.5万倍。该技术利用一个AI模型来监督和指导另一个模型，大幅减少了对人类反馈的依赖。传统强化学习需要大量人工标注，而新方法实现了自动化对齐流程，显著降低了成本和时间。这一进展有望加速大模型的安全训练进程，使AI系统在复杂任务中更稳定地遵循人类意图。Anthropic表示，该成果已在多个内部测试中验证，未来将应用于其Claude系列模型的开发。业内认为，此举标志着AI对齐研究从人力密集型向自动化方向转变，或推动整个行业安全标准的提升。