被热议的RSI,39 年前就已诞生?现代人工智能之父复盘RSI的漫长探索
OpenAI近期首次披露RSI项目内部量化进展,谷歌发布论文提出“Deam-RSI”递归自我改进框架,多家大模型公司加码该方向。OpenAI首席科学家Pachocki称RSI或成未来科学发现核心路径,但指出尚无实验室真正解决AI对齐问题,呼吁放缓步伐并建立统一安全标准。在此背景下,“现代人工智能之父”Jürgen Schmidhuber发文回顾其RSI研究历程,梳理了1987年元进化与元强化学习、1994年自修改策略强化学习、1991至1992年快速权重与自指神经网络元学习、2002年OOPS课程学习、2003年Gödel Machine等路线,并强调软件自我改进只是一部分,真正AI需结合物理世界硬件。Sakana AI联合创始人David Ha转发称,当前真正风险并非超级智能,而是前沿技术权力集中于两家公司,需建立独立实验室生态与开源社区。
本文摘要由千智坊基于公开报道整理,查看完整内容:阅读原文(InfoQ)→
