有人做了windows下的脚本放到github上了，直接运行就可以了。我在本机试了一下13B的模型能运行，但生成速度非常慢，回复一个问题基本上要花5分钟以上的时间。我的机器配置 3900X 32G内存。
https://github.com/mps256/vicuna.ps1
githubgitwindows生成速度url使用llama.cpp在本地搭建vicuna 13B语言模型
20
一言准备中...
- 本文链接：
- https://wapzz.net/post-4141.html
- 版权声明：本博客所有文章除特别声明外，均默认采用 CC BY-NC-SA 4.0 许可协议。
本站部分内容来源于网络转载，仅供学习交流使用。如涉及版权问题，请及时联系我们，我们将第一时间处理。
文章很赞！支持一下吧
还没有人为TA充电
为TA充电
-
支付宝扫一扫 -
微信扫一扫
感谢支持
文章很赞！支持一下吧
