Yi大模型

Yi大模型

免费增值Web
访问官网

Yi大模型是零一万物推出的开源双语大模型,包含6B与34B版本,支持超长上下文,多项评测全球领先。

Yi大模型访问官网

详细介绍

工具简介

Yi大模型是由李开复博士创办的AI 2.0公司零一万物(01.AI)研发的首款开源大语言模型系列。该系列于2023年11月正式发布首个公开版本,包含两个双语(英语/中文)基础模型,参数规模分别为6B和34B。两者均使用4K序列长度进行训练,并在推理阶段可扩展至32K,而后续版本更是将上下文窗口推向了200K的全球最长水平,可直接处理约40万汉字的超长文本输入。

Yi大模型虽然出道时间相对较晚,但凭借出色的性能表现实现了“后发制人”。在Hugging Face英文测试榜单上,Yi-34B以340亿参数规模碾压Llama-2 70B和Falcon-180B等一众更大尺寸的模型,位居第一,成为唯一成功登顶HuggingFace的国产大模型。在C-Eval中文能力排行榜上,Yi大模型同样位居第一,超越了全球所有开源模型。此外,在MMLU、BBH等八大综合能力评估中全部胜出,展现出全面的语言理解与推理能力。

Yi大模型在多个基准评估中取得了最先进的结果,包括MMLU、CMMLU、C-Eval、GAOKAO、BBH、常识推理、阅读理解和数学与编码任务。该模型通过Hugging Face、ModelScope和GitHub等开源社区进行访问和使用,在Yi许可证下获得许可,可用于学术研究和免费商业使用(需通过申请获得许可),如需正式商业许可可联系01.AI。


主要功能

双语基础模型

Yi系列提供6B和34B两个参数规模的基础模型,均具备强大的中英文双语处理能力。6B版本适合资源受限的环境和轻量级应用,34B版本则面向对性能有更高要求的场景。两个版本都使用4K序列长度训练,推理时可扩展至32K,能够处理较长的文档和对话。

超长上下文窗口

Yi大模型在上下文长度方面表现突出,后续版本支持高达200K的上下文窗口,可直接处理约40万汉字的超长文本输入。这一能力使其在长文档理解、长篇对话、代码库分析等场景中具有显著优势,远超许多同级别开源模型。

多维度评测领先

Yi-34B在MMLU、CMMLU、C-Eval、GAOKAO、BBH、常识推理、阅读理解和数学与编码任务等多个评估任务中取得了最先进的结果。在Hugging Face英文测试榜单位居第一,C-Eval中文能力排行榜位居第一,八大综合能力表现全部胜出,充分证明了其在不同语言和任务类型上的均衡实力。

开源社区支持

Yi大模型在Hugging Face、ModelScope和GitHub等主流开源社区均可获取。开发者可以方便地下载模型权重、查阅文档、参与社区讨论。Yi许可证允许学术研究和免费商业使用(需申请),为研究者和企业提供了灵活的使用条件。

商业应用许可

对于需要正式商业许可的用户,零一万物提供申请渠道。免费商业使用需通过申请获得许可,正式商业许可可联系01.AI获取。这种许可模式在保护知识产权的同时,也促进了模型的广泛采用和生态建设。


使用方法

获取模型

用户可以通过以下渠道获取Yi大模型:

  • Hugging Face:搜索01-ai/Yi-34B或01-ai/Yi-6B下载模型权重
  • ModelScope:在魔搭社区搜索01ai/Yi-34B或01ai/Yi-6B
  • GitHub:访问01-ai/Yi仓库获取代码和文档

部署与推理

下载模型后,用户可根据官方文档进行本地部署或云端推理。Yi大模型支持多种推理框架,开发者可以根据自身硬件条件选择合适的部署方案。对于34B模型,建议使用具备足够显存的GPU环境;6B模型则对硬件要求相对较低,适合在消费级显卡上运行。

许可申请

学术研究可直接使用。免费商业使用需通过申请获得许可,正式商业许可可联系01.AI。用户应仔细阅读Yi许可证条款,确保合规使用。


产品优势

对比维度Yi-34BLlama-2 70BFalcon-180B
参数规模34B70B180B
Hugging Face英文榜第一落后落后
C-Eval中文榜第一——
上下文窗口200K(后续版本)4K2K

Yi大模型的核心优势在于以小博大:34B参数规模在多项评测中超越70B甚至180B的模型,展现出极高的参数效率。同时,其中文能力尤为突出,是唯一登顶HuggingFace的国产大模型,对于中文场景的应用具有天然优势。超长上下文窗口更是为长文本处理提供了独特竞争力。


应用场景

  • 学术研究:作为开源双语大模型,适合NLP研究、模型微调、评测基准研究等。
  • 企业应用:可用于构建智能客服、文档问答、内容生成等企业级应用。
  • 长文本处理:200K上下文窗口适合法律文书分析、长篇小说创作、代码库理解等场景。
  • 中英文双语产品:适合需要同时处理中英文的跨国业务和国际化产品。
  • 教育与培训:可用于构建教学助手、作业批改、知识问答等教育应用。

核心功能

1
双语基础模型
提供6B和34B两个参数规模的基础模型,均支持中英文双语处理。6B适合轻量级应用和资源受限环境,34B面向高性能需求场景,两者均使用4K序列长度训练,推理时可扩展至32K。
2
超长上下文窗口
后续版本支持高达200K的上下文窗口,可直接处理约40万汉字的超长文本输入。在长文档理解、长篇对话、代码库分析等场景中具有显著优势,上下文长度位居全球开源模型前列。
3
多维度评测领先
Yi-34B在MMLU、CMMLU、C-Eval、GAOKAO、BBH、常识推理、阅读理解和数学与编码任务等多个评估中取得最先进结果,Hugging Face英文榜和C-Eval中文榜均位居第一。
4
开源社区支持
模型在Hugging Face、ModelScope和GitHub等主流开源社区均可获取,开发者可方便下载权重、查阅文档、参与社区讨论,享受活跃的开源生态支持。
5
灵活许可模式
在Yi许可证下,学术研究可直接使用,免费商业使用需通过申请获得许可,正式商业许可可联系01.AI。灵活的许可模式兼顾了开源共享与商业合规需求。
6
参数高效性能
34B参数规模在多项评测中超越Llama-2 70B和Falcon-180B等更大尺寸模型,展现出极高的参数效率,以更少计算资源实现更强性能表现。

优缺点分析

优点
+性能表现突出,34B模型在Hugging Face英文榜和C-Eval中文榜均位居第一,以小博大碾压更大尺寸模型
+中文能力尤为出色,是唯一成功登顶HuggingFace的国产大模型,适合中文场景应用
+支持超长上下文窗口,后续版本达200K,可处理约40万汉字超长文本,长文本处理优势明显
+开源社区支持完善,Hugging Face、ModelScope、GitHub均可获取,许可模式灵活
缺点
-免费商业使用需通过申请获得许可,正式商业许可需联系官方,流程相对繁琐
-模型发布时间相对较晚,生态建设和社区积累相比Llama等老牌开源模型仍有差距

适用人群

AI研究人员和学者,用于NLP研究、模型微调和评测基准研究企业开发者,用于构建智能客服、文档问答、内容生成等企业级应用需要处理长文本的用户,如法律文书分析、长篇小说创作、代码库理解等场景中英文双语产品团队,需要同时处理中英文的跨国业务和国际化产品教育机构和开发者,用于构建教学助手、作业批改、知识问答等教育应用

常见问题

Q: Yi大模型是免费的吗?
Yi大模型在Yi许可证下提供,学术研究可直接免费使用。免费商业使用需要通过申请获得许可,正式商业许可需联系01.AI获取。这种模式既保证了开源共享,又兼顾了商业合规需求。用户在使用前应仔细阅读许可证条款,确保使用场景符合规定。
Q: Yi大模型支持多长的上下文?
Yi大模型初始版本使用4K序列长度训练,推理时可扩展至32K。后续版本将上下文窗口推向了200K,可直接处理约40万汉字的超长文本输入,位居全球开源模型前列。这一能力使其在长文档理解、长篇对话、代码库分析等场景中具有显著优势。
Q: Yi大模型和Llama相比有什么优势?
Yi-34B在Hugging Face英文测试榜单位居第一,以34B参数规模碾压Llama-2 70B和Falcon-180B等更大尺寸模型,展现出极高的参数效率。同时,Yi在C-Eval中文能力排行榜位居第一,中文能力尤为突出,是唯一登顶HuggingFace的国产大模型。此外,Yi支持更长的上下文窗口,长文本处理能力更强。
Q: 如何获取和部署Yi大模型?
用户可以通过Hugging Face(01-ai/Yi-34B或01-ai/Yi-6B)、ModelScope(01ai/Yi-34B或01ai/Yi-6B)和GitHub(01-ai/Yi)获取模型权重和代码。下载后可根据官方文档进行本地部署或云端推理,支持多种推理框架。34B模型建议使用具备足够显存的GPU环境,6B模型对硬件要求较低,适合消费级显卡运行。
Q: Yi大模型适合哪些应用场景?
Yi大模型适用于多种场景:学术研究中的NLP研究、模型微调和评测基准研究;企业应用中的智能客服、文档问答、内容生成;长文本处理如法律文书分析、长篇小说创作、代码库理解;中英文双语产品;以及教育领域的教学助手、作业批改、知识问答等。其双语能力和超长上下文窗口使其在跨语言和长文本场景中尤为适用。