(2023.12.6)解决部署privateGPT中,安装依赖llama-cpp-python失败。

(2023.12.6)解决部署privateGPT中,安装依赖llama-cpp-python失败。

    正在检查是否收录...

问题描述-1(gcc编译器问题)

CMake Error: CMAKE_C_COMPILER not set, after EnableLanguage CMake Error: CMAKE_CXX_COMPILER not set, after EnableLanguage -- Configuring incomplete, errors occurred!
出现这个问题是关于设置C和C++编译器的问题,

解决思路

因为我是新电脑没有安装过gcc相关编辑器,故重新下载了 Visual Studio tool 2022
选择安装。

安装好后重新运行llama-cpp-python依赖

pip install --force-reinstall --no-cache-dir llama-cpp-python 

结果还是显示失败

问题描述-2(No CUDA toolset found)

新问题核心问题是
-- cuBLAS found CMake Error at C:/Users/Administrator/AppData/Local/Temp/pip-build-env-lr0mlpl6/normal/Lib/site-packages/cmake/data/share/cmake-3.27/Modules/CMakeDetermineCompilerId.cmake:503 (message): No CUDA toolset found.
提示没有找到CUDA工具集,但是电脑已经是安装了CUDA 12.1和配套cudnn,

解决思路

看问题是cmake没法找到cuda 工具集,找了相关资料,说是要把NVIDIA GPU Computing Toolkit目录MSBuildExtensions下面的文件复制到Microsoft Visual Studio文件目录下的BuildCustomizations下去。
完整路径如下:
C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v12.1\extras\visual_studio_integration\MSBuildExtensions

C:\Program Files (x86)\Microsoft Visual Studio\2022\BuildTools\MSBuild\Microsoft\VC\v170\BuildCustomizations

这里因为每个人安装的版本不同,需要找到合适的Vxx目录下面才有BuildCustomizations文件,我是22版本,所以是V170。找到BuildCustomizations文件夹后直接复制进去。

替换完成,再次运行

pip install --force-reinstall --no-cache-dir llama-cpp-python 


显示安装成功,解决问题!

codepythonllamamicrosoftgpu工具集nvidia gpu编辑器解决问题app文件夹nistshareurl
  • 本文作者:李琛
  • 本文链接: https://wapzz.net/post-7742.html
  • 版权声明:本博客所有文章除特别声明外,均默认采用 CC BY-NC-SA 4.0 许可协议。
本站部分内容来源于网络转载,仅供学习交流使用。如涉及版权问题,请及时联系我们,我们将第一时间处理。
文章很赞!支持一下吧 还没有人为TA充电
为TA充电
还没有人为TA充电
0
  • 支付宝打赏
    支付宝扫一扫
  • 微信打赏
    微信扫一扫
感谢支持
文章很赞!支持一下吧
关于作者
2.3W+
5
0
1
WAP站长官方

最新AI创作系统ChatGPT源码,Midjourney绘画系统,GPT语音对话+ChatFile文档对话总结+DALL-E3文生图+思维导图+GPT-4识图理解+自定义知识库一站式解决方案

上一篇

这篇深入浅出贴 助你早日实现Stable diffusion自由

下一篇
  • 复制图片
按住ctrl可打开默认菜单