OpenAI o1功臣预警：AI还没失控，我们已经快测不准它了

OpenAI的o1模型核心贡献者近日发出警示，指出当前AI安全评估体系正面临严峻挑战。他表示，AI系统尚未出现失控迹象，但行业已接近无法准确测试和评估其行为边界的状态。随着模型能力快速提升，现有测试方法在覆盖度、可解释性和可靠性方面逐渐失效，导致潜在风险难以被及时发现。该人士呼吁业界加快开发更有效的评估工具与标准，以应对下一代AI系统带来的安全检测难题。