我的作品 一个基于 Llama-3.1-70b 的聊天机器人,速度比 ChatGPT 和 Claude 还要快!!!

jsam · August 15, 2024 · Last by jsam replied at August 17, 2024 · 251 hits

刚刚部署了一个基于 Llama-3.1-70b 的聊天机器人,响应速度飞快,比 ChatGPT 和 Claude 还要快!!!

https://chatgpt4omini.net/

功能方面没太多可以介绍的,能力就看大语言模型自己的效果。

目前简单的测试了一下,效果还不错,实测效果可以参考:

一个基于 Llama-3.1-70b 的聊天机器人,速度比 ChatGPT 和 Claude 还要快!!!

另外,如果想和某人聊天,访问格式如下:

https://chatgpt4omini.net/?c=<姓名>

例如:

https://chatgpt4omini.net/?c=周星驰

这中 llm chat 通常是自己部署还是对接三方 api?

Reply to KuTear

都可以,就像有的公司自己开发框架,有的公司自研。自己玩玩或量小接第三方就可以了,ChatGPT、Claude、Replicate、HuggingFace 等。groq.com 有免费额度哦,很多人不知道

You need to Sign in before reply, if you don't have an account, please Sign up first.