我的作品一个基于 Llama-3.1-70b 的聊天机器人，速度比 ChatGPT 和 Claude 还要快！！！

jsam · 2024年08月15日 · 最后由 jsam 回复于 2024年08月17日 · 239 次阅读

刚刚部署了一个基于 Llama-3.1-70b 的聊天机器人，响应速度飞快，比 ChatGPT 和 Claude 还要快！！！

功能方面没太多可以介绍的，能力就看大语言模型自己的效果。

目前简单的测试了一下，效果还不错，实测效果可以参考：

另外，如果想和某人聊天，访问格式如下：

例如:

KuTear #2 2024年08月16日

这中 llm chat 通常是自己部署还是对接三方 api?

jsam #3 2024年08月17日

对

都可以，就像有的公司自己开发框架，有的公司自研。自己玩玩或量小接第三方就可以了，ChatGPT、Claude、Replicate、HuggingFace 等。groq.com 有免费额度哦，很多人不知道

需要登录后方可回复, 如果你还没有账号请注册新账号

我的作品 一个基于 Llama-3.1-70b 的聊天机器人，速度比 ChatGPT 和 Claude 还要快！！！