中文版LLaMA:Chinese-LLaMA-Alpaca

中文版LLaMA:Chinese-LLaMA-Alpaca

    正在检查是否收录...

GitHub:GitHub - ymcui/Chinese-LLaMA-Alpaca: 中文LLaMA&Alpaca大语言模型+本地CPU/GPU训练部署 (Chinese LLaMA & Alpaca LLMs)

以ChatGPT、GPT-4等为代表的大语言模型(Large Language Model, LLM)掀起了新一轮自然语言处理领域的研究浪潮,展现出了类通用人工智能(AGI)的能力,受到业界广泛关注。然而,由于大语言模型的训练和部署都极为昂贵,为构建透明且开放的学术研究造成了一定的阻碍。

为了促进大模型在中文NLP社区的开放研究,本项目开源了中文LLaMA模型和指令精调的Alpaca大模型。这些模型在原版LLaMA的基础上扩充了中文词表并使用了中文数据进行二次预训练,进一步提升了中文基础语义理解能力。同时,中文Alpaca模型进一步使用了中文指令数据进行精调,显著提升了模型对指令的理解和执行能力。详细内容请参考技术报告(Cui, Yang, and Yao, 2023)。

本项目主要内容:

? 针对原版LLaMA模型扩充了中文词表,提升了中文编解码效率 ? 开源了使用中文文本数据预训

llamaalpaca大语言模型语言模型大模型gptllmgithubgitchatgptcpu文本数据预训练lmsllms学术研究chatgpu语义理解nlp语言处理gpt-4自然语言处理自然语言人工智能url
  • 本文作者:李琛
  • 本文链接: https://wapzz.net/post-1739.html
  • 版权声明:本博客所有文章除特别声明外,均默认采用 CC BY-NC-SA 4.0 许可协议。
本站部分内容来源于网络转载,仅供学习交流使用。如涉及版权问题,请及时联系我们,我们将第一时间处理。
文章很赞!支持一下吧 还没有人为TA充电
为TA充电
还没有人为TA充电
0
  • 支付宝打赏
    支付宝扫一扫
  • 微信打赏
    微信扫一扫
感谢支持
文章很赞!支持一下吧
关于作者
1.4W+
5
0
1
WAP站长官方

人工智能的未来:未来五年的预期

上一篇

笔灵AI写作官网体验入口 AI写作助手免费软件app下载

下一篇
  • 复制图片
按住ctrl可打开默认菜单