跳转到内容
欢迎抵达彼岸 彼岸花开 此处谁在 -彼岸论坛

[OpenAI] 为啥 together 和 fireworks 的 llama 3.1(405B)差别很大

Featured Replies

发表于

together.aifireworks.ai 都第一时间推出了 Llama 3.1 405B

together 上名称叫 Meta-Llama-3.1-405B-Instruct-Turbo ,定价 5 刀/百万 Tokens

fireworks 上名字叫 llama-v3p1-405b-instruct ,定价 3 刀/百万 Tokens

我用 API 测试了,同样的参数,明显 together 的回答要更好些。有大佬知道原因吗? 是部署了不同的量化版本吗?