如何快速接入llama 3 ?送上最便捷教程

如何快速接入llama 3 ?送上最便捷教程

    正在检查是否收录...

一、Meta llama 3介绍

当地时间4月18日,Meta 发布两款开源Llama 3 8B与Llama 3 70B模型。

按照Meta的说法,Llama 3 8B和Llama 3 70B是目前同体量下,性能最好的开源模型。

在Llama 3发布后,小扎向外媒表示,“我们的目标不是与开源模型竞争,而是要超过所有人,打造最领先的人工智能。”

具体来说,Llama 3的亮点和特性概括如下:

基于超过15T token训练,大小相当于Llama 2数据集的7倍还多; 训练效率比Llama 2高3倍; 支持8K长文本,改进的tokenizer具有128K token的词汇量,可实现更好的性能; 在大量重要基准测试中均具有最先进性能; 增强的推理和代码能力; 安全性有重大突破,带有Llama Guard 2、Code Shield 和 CyberSec Eval 2的新版信任和安全工具,还能够比Llama 2有更好“错误拒绝表现”。

二、Meta llama 3模型使用方法

打开沃卡API网站:https://4.0.wokaai.com,参考调用OpenAI 模型的方法即可调用

llama 3系列模型。

三、使用接口介绍

3.5模型API接口:https://3.5.wokaai.com

全模型API接口:https://4.0.wokaai.com

额度购买入口:https://shopwk.wokaai.com

3.5接口模型API使用

1、前往https://shopwk.wokaai.com根据需求购买对应额度卡密;

2、前往3.5站点https://3.5.wokaai.com注册账号;复制购买的卡密后进行兑换;

流程:注册----登陆后点击-"充值"-填入卡密后点击-"兑换";

3、点击"令牌"---"添加新的令牌"---填好对应的信息后点击---"复制"---复制的就是KEY,然后配上接口https://3.5.wokaai.com使用即可;

全模型接口API使用

1、前往https://shopwk.wokaai.com根据需求购买对应额度卡密;

2、前往全模型API站点https://4.0.wokaai.com注册账号;复制购买的卡密后进行兑换;

流程:注册----登陆后点击-"充值"-填入卡密后点击-"兑换";

3、点击"令牌"---"添加新的令牌"---填好对应的信息后点击---"复制"---复制的就是KEY,然后配上接口https://4.0.wokaai.com使用即可;

四、token计算规则

什么是 token?

Token 是大语言模型处理信息的最小单元,它介于“字”和“词”之间,你可以用下方的网址,来计算一段文字会变成多少 token:https://gpt-tokenizer.dev

大部分情况下,你都可以使用 1 汉字 = 2 token 来近似估算中文聊天的中文所需 token 数。

请注意,若您觉得明明提问字数很少,token计算却很多,导致费用产生很多。这并不是中转api出现问题,基本都是因为您的上下文token合计数很大!

若遇到此情况,请新建对话或关闭上下文!

五、如何购买

请前往https://shopwk.wokaai.com进行购买后使用,如有疑问请联系客服。

然后可以开始愉快地使用AI 全模型啦!

llamatokenapillama 2api接口上下文开源模型code长文本人工智能大语言模型ai 模型安全性数据集语言模型gptopenai词汇量
  • 本文作者:李琛
  • 本文链接: https://wapzz.net/post-17810.html
  • 版权声明:本博客所有文章除特别声明外,均默认采用 CC BY-NC-SA 4.0 许可协议。
本站部分内容来源于网络转载,仅供学习交流使用。如涉及版权问题,请及时联系我们,我们将第一时间处理。
文章很赞!支持一下吧 还没有人为TA充电
为TA充电
还没有人为TA充电
0
  • 支付宝打赏
    支付宝扫一扫
  • 微信打赏
    微信扫一扫
感谢支持
文章很赞!支持一下吧
关于作者
2.3W+
5
0
1
WAP站长官方

在本地部署 Stable Diffusion:详细教程

上一篇

大模型咨询培训老师叶梓:利用知识图谱和Llama-Index增强大模型应用

下一篇
  • 复制图片
按住ctrl可打开默认菜单