发长文预警 AI 风险后，Dario 首次专访回应：AI 不能停，但必须慢下来

Anthropic CEO Dario Amodei 近日发表长文，呼吁前沿AI公司放缓模型能力推进速度，为安全评估和治理机制争取时间。他提到AI Agent可能像集群一样执行未授权网络攻击，Anthropic威胁报告也披露有人试图利用Claude从事武器开发、网络行动、监控和欺诈。OpenAI CEO Sam Altman、xAI的Elon Musk、微软CEO Satya Nadella及Alphabet首席科学家Demis Hassabis均公开认同其判断。Altman表示OpenAI今年不会上市，安全方面仍有大量工作。Nadella强调超级智能须受人类控制，微软将发布AI行为准则。但Yann LeCun等反对者质疑，认为以安全为名集中监管权会抬高门槛，损害开源社区和中小公司利益，并翻出2019年GPT-2分阶段发布旧事，指其可能沦为商业叙事。