详细介绍
工具简介
Yi大模型是由李开复博士创办的AI 2.0公司零一万物(01.AI)研发的首款开源大语言模型系列。该系列于2023年11月正式发布首个公开版本,包含两个双语(英语/中文)基础模型,参数规模分别为6B和34B。两者均使用4K序列长度进行训练,并在推理阶段可扩展至32K,而后续版本更是将上下文窗口推向了200K的全球最长水平,可直接处理约40万汉字的超长文本输入。
Yi大模型虽然出道时间相对较晚,但凭借出色的性能表现实现了“后发制人”。在Hugging Face英文测试榜单上,Yi-34B以340亿参数规模碾压Llama-2 70B和Falcon-180B等一众更大尺寸的模型,位居第一,成为唯一成功登顶HuggingFace的国产大模型。在C-Eval中文能力排行榜上,Yi大模型同样位居第一,超越了全球所有开源模型。此外,在MMLU、BBH等八大综合能力评估中全部胜出,展现出全面的语言理解与推理能力。
Yi大模型在多个基准评估中取得了最先进的结果,包括MMLU、CMMLU、C-Eval、GAOKAO、BBH、常识推理、阅读理解和数学与编码任务。该模型通过Hugging Face、ModelScope和GitHub等开源社区进行访问和使用,在Yi许可证下获得许可,可用于学术研究和免费商业使用(需通过申请获得许可),如需正式商业许可可联系01.AI。
主要功能
双语基础模型
Yi系列提供6B和34B两个参数规模的基础模型,均具备强大的中英文双语处理能力。6B版本适合资源受限的环境和轻量级应用,34B版本则面向对性能有更高要求的场景。两个版本都使用4K序列长度训练,推理时可扩展至32K,能够处理较长的文档和对话。
超长上下文窗口
Yi大模型在上下文长度方面表现突出,后续版本支持高达200K的上下文窗口,可直接处理约40万汉字的超长文本输入。这一能力使其在长文档理解、长篇对话、代码库分析等场景中具有显著优势,远超许多同级别开源模型。
多维度评测领先
Yi-34B在MMLU、CMMLU、C-Eval、GAOKAO、BBH、常识推理、阅读理解和数学与编码任务等多个评估任务中取得了最先进的结果。在Hugging Face英文测试榜单位居第一,C-Eval中文能力排行榜位居第一,八大综合能力表现全部胜出,充分证明了其在不同语言和任务类型上的均衡实力。
开源社区支持
Yi大模型在Hugging Face、ModelScope和GitHub等主流开源社区均可获取。开发者可以方便地下载模型权重、查阅文档、参与社区讨论。Yi许可证允许学术研究和免费商业使用(需申请),为研究者和企业提供了灵活的使用条件。
商业应用许可
对于需要正式商业许可的用户,零一万物提供申请渠道。免费商业使用需通过申请获得许可,正式商业许可可联系01.AI获取。这种许可模式在保护知识产权的同时,也促进了模型的广泛采用和生态建设。
使用方法
获取模型
用户可以通过以下渠道获取Yi大模型:
- Hugging Face:搜索01-ai/Yi-34B或01-ai/Yi-6B下载模型权重
- ModelScope:在魔搭社区搜索01ai/Yi-34B或01ai/Yi-6B
- GitHub:访问01-ai/Yi仓库获取代码和文档
部署与推理
下载模型后,用户可根据官方文档进行本地部署或云端推理。Yi大模型支持多种推理框架,开发者可以根据自身硬件条件选择合适的部署方案。对于34B模型,建议使用具备足够显存的GPU环境;6B模型则对硬件要求相对较低,适合在消费级显卡上运行。
许可申请
学术研究可直接使用。免费商业使用需通过申请获得许可,正式商业许可可联系01.AI。用户应仔细阅读Yi许可证条款,确保合规使用。
产品优势
| 对比维度 | Yi-34B | Llama-2 70B | Falcon-180B |
|---|---|---|---|
| 参数规模 | 34B | 70B | 180B |
| Hugging Face英文榜 | 第一 | 落后 | 落后 |
| C-Eval中文榜 | 第一 | — | — |
| 上下文窗口 | 200K(后续版本) | 4K | 2K |
Yi大模型的核心优势在于以小博大:34B参数规模在多项评测中超越70B甚至180B的模型,展现出极高的参数效率。同时,其中文能力尤为突出,是唯一登顶HuggingFace的国产大模型,对于中文场景的应用具有天然优势。超长上下文窗口更是为长文本处理提供了独特竞争力。
应用场景
- 学术研究:作为开源双语大模型,适合NLP研究、模型微调、评测基准研究等。
- 企业应用:可用于构建智能客服、文档问答、内容生成等企业级应用。
- 长文本处理:200K上下文窗口适合法律文书分析、长篇小说创作、代码库理解等场景。
- 中英文双语产品:适合需要同时处理中英文的跨国业务和国际化产品。
- 教育与培训:可用于构建教学助手、作业批改、知识问答等教育应用。


