llama.cpp LLM模型 windows cpu安装部署;运行LLaMA2模型测试

llama.cpp LLM模型 windows cpu安装部署;运行LLaMA2模型测试

    正在检查是否收录...

参考:
https://www.listera.top/ji-xu-zhe-teng-xia-chinese-llama-alpaca/
https://blog.csdn.net/qq_38238956/article/details/130113599

cmake windows安装参考:https://blog.csdn.net/weixin_42357472/article/details/131314105

llama.cpp下载编译

1、下载:

git clone https://github.com/ggerganov/llama.cpp cd llama.cpp 

2、编译

mkdir build cd build cmake .. cmake --build . --config Release 

3、测试运行

cd bin\Release ./main -h 

运行LLaMA-7B模型测试

参考:
https://zhuanlan.zhihu.com/p/638427280

模型下载:
https://huggingface.co/nyanko7/LLaMA-7B/tree/main
下载下来后在llama.cpp-master\mode

llamacodegitgithubganwindowsalpacahuggingface模型测试cloneurl
  • 本文作者:WAP站长网
  • 本文链接: https://wapzz.net/post-4401.html
  • 版权声明:本博客所有文章除特别声明外,均默认采用 CC BY-NC-SA 4.0 许可协议。
本站部分内容来源于网络转载,仅供学习交流使用。如涉及版权问题,请及时联系我们,我们将第一时间处理。
文章很赞!支持一下吧 还没有人为TA充电
为TA充电
还没有人为TA充电
0
0
  • 支付宝打赏
    支付宝扫一扫
  • 微信打赏
    微信扫一扫
感谢支持
文章很赞!支持一下吧
关于作者
2.8W+
9
1
2
WAP站长官方

大模型被偷家!CNN搞多模态不弱于Transfromer(腾讯&港中文)

上一篇

网易有道将在1月3日发布子曰教育大模型创新成果

下一篇
  • 复制图片
按住ctrl可打开默认菜单