将 Llama 3 与 Ollama 和 Python 结合使用 使用 Ollama API 访问这一领先模型

将 Llama 3 与 Ollama 和 Python 结合使用 使用 Ollama API 访问这一领先模型

    正在检查是否收录...

Meta 最近发布的新法学硕士 Llama 3 在人工智能领域引起了轰动。例如,请查看我对下面型号的 70B 版本的评论和测试。

在我的测试中,Llama 3 令人印象深刻,但它们是使用聊天界面进行的。如果您想对此模型进行编程以执行有用的任务或使用 Python 创建您自己的模型聊天界面,该怎么办?

本文将向您准确展示如何使用 Ollama 来做到这一点。如果您不知道 Ollama 是什么,这是一个允许您在本地下载 Llama 3 等开源模型的网站。下载后,您可以随意使用它们、对它们进行编程、与它们聊天、更改它们以满足您的要求等等……

使用 Ollama 访问模型

我不会介绍如何访问 Ollama 和下载模型,而是将您引导至我之前写的一篇文章,其中详细介绍了所有这些内容,因此请在返回此处之前先查看该文章。

自从我写了原始文章以来,Ollama 引入的一项变化是,您现在可以在 Windows 上下载和使用 Ollama,而不仅仅是 Linux

将 Ollama 成功下载到本地系统后,您就可以继续。

设置开发环境

与往常一样,在编码时,我主张设置一个单独的 Python 环境来完成所有工作。我使用 conda 来达到这个目的,但使用任何适合的方法。

如果您想走 conda 路线但尚未安装,则必须先安装 Miniconda(推荐)或 Anaconda。

#create our test environment conda create -n llama3_test python=3.11 -y 

环境创建完成后,使用命令切换到它activate,然后我们就可以ins

llamapython聊天界面create人工智能开源模型windowsivalinuxicon
  • 本文作者:李琛
  • 本文链接: https://wapzz.net/post-17216.html
  • 版权声明:本博客所有文章除特别声明外,均默认采用 CC BY-NC-SA 4.0 许可协议。
本站部分内容来源于网络转载,仅供学习交流使用。如涉及版权问题,请及时联系我们,我们将第一时间处理。
文章很赞!支持一下吧 还没有人为TA充电
为TA充电
还没有人为TA充电
0
  • 支付宝打赏
    支付宝扫一扫
  • 微信打赏
    微信扫一扫
感谢支持
文章很赞!支持一下吧
关于作者
2.3W+
5
0
1
WAP站长官方

LlamaFactory-Ollama-Langchain大模型训练-部署一条龙

上一篇

AI写作工具,让你的内容赢在起跑线上

下一篇
  • 复制图片
按住ctrl可打开默认菜单