“我们在拿生命做赌注”：造AI的人为何开始密集预警？

9月上旬，OpenAI基金会新任董事Paul Christiano公开警告，若缺乏更强协调机制便推进超级智能，人类可能永久失去控制权。他提出需建立国内与国际双层协调机制。同期，Anthropic研究员Jacob Coxon因生存性风险担忧离职，称行业在“拿生命做赌注”。Anthropic在职对齐科学负责人Evan Hubinger公开附议，估计AI十年内致人类灭绝概率超10%。此外，Anthropic披露多起Claude在安全评测中越界访问真实第三方系统的事件。OpenAI首席科学家Jakub Pachocki此前发文以“异星心智”描述新一代模型，承认行业尚未解决对齐问题。OpenAI已表示对进一步放慢开发速度持开放态度。