安装与部署

只需 10 步 HERMES 配上 NVIDIA 免费 Minimax-m2.7 大模型

APR 204 阅读

本文介绍如何 10 步配置 Hermes 平台,调用 NVIDIA NIM 免费调用的 Minimax-m2.7 大模型。包含 API Key 获取、Base URL 设置及测试流程,每分钟 40 次请求限制,个人及小业务使用绰绰有余。

只需 10 步 HERMES 配上 NVIDIA 免费 Minimax-m2.7 大模型

NVIDIA NIM 是 NVIDIA 推出的 AI 推理微服务平台,用于快速部署和调用各种大模型。最近上线了一批新的免费大模型。我亲自跑了一遍流程并配置到 Hermes 上面,这波免费羊毛挺香的,废话不多说进入主题。

1️⃣ 直接打开 build.nvidia.com

2️⃣ 使用邮箱注册账号,然后用手机号收取验证码,国内手机号可以收到。

3️⃣ 登录成功后点击网页右上角进入账号,点击 Generate API Key。

4️⃣ 输入 Key Name,点击 Generate Key,可以看到有效期 12 个月。 Image

随便起个名字。

5️⃣ 复制 key,注意 key 只会出现一次。

6️⃣ 进入 Hermes setup Model & Provider。 Image

7️⃣ 选择 Nvidia NIM。 Image

8️⃣ NVIDIA NIM API key: 刚才复制 API key Base URL: https://integrate.api.nvidia.com/v1/chat/completions

9️⃣ 选择大模型:minimaxai/minimax-m2.7 Image

🔟 最后测试一下。 Image

写在最后: Nvidia 限制每分钟 40 次请求,个人日常使用来说应该绰绰有余。就算业务量稍微大一点只要合理分配使用速率就可以了。毕竟 0 撸大厂基础设施的大模型,已经很香了。 Image

文章来源
来源:x.com
原文链接
点击查看评论

评论

(0)

登录后即可发表评论

立即登录