安装单机版大语言模型AI,基于LLaMA的斯坦福大学开源Alpaca

安装单机版大语言模型AI,基于LLaMA的斯坦福大学开源Alpaca

    正在检查是否收录...

个人电脑即可,不需要GPU,但内存最好大于8G。我是在VM虚拟机中安装成功,且流程运行。

1. 首先使用如下命令下载 alpaca.cpp 项目

git clone https://github.com/antimatter15/alpaca.cpp

2.进入项目后,下载模型

cd alpaca.cpp

 下载模型到目录中,下载地址

3.然后编译

make chat

4.开始运行

./chat

如果运行时报错,有可能是内存或CPU性能不足。

英语场景很流畅,对中文的支持一般,不过这个不重要了。单机版AI安装成功

codealpacachatgitgithubgpucpucloneurl
  • 本文作者:李琛
  • 本文链接: https://wapzz.net/post-3844.html
  • 版权声明:本博客所有文章除特别声明外,均默认采用 CC BY-NC-SA 4.0 许可协议。
本站部分内容来源于网络转载,仅供学习交流使用。如涉及版权问题,请及时联系我们,我们将第一时间处理。
文章很赞!支持一下吧 还没有人为TA充电
为TA充电
还没有人为TA充电
0
  • 支付宝打赏
    支付宝扫一扫
  • 微信打赏
    微信扫一扫
感谢支持
文章很赞!支持一下吧
关于作者
2.3W+
5
0
1
WAP站长官方

欧盟扩大对AI初创公司的支持,提供超级计算机进行模型训练

上一篇

网站流量下滑,生成式 AI 将使情况变得更糟

下一篇
  • 复制图片
按住ctrl可打开默认菜单