制作方：meta-llama
Llama 3.3 70B Instruct
meta-llama/Llama-3.3-70B-Instruct
所有数字均为估算。实际内存占用和速度取决于您的驱动程序、设置以及同时运行的其他程序。
- 参数量
- 71B
- 许可证
- llama3.3
- 发布日期
- 2024年11月26日
许可证属于模型制作方。使用模型前请先查看其条款。
在 Hugging Face 下载此模型前，需要先接受制作方的条款。此模型不出售套件。
在 Hugging Face 查看原始页面 ↗各量化方式所需内存
按 8,192 token 上下文计算，含运行时所需的 0.8 GB。
| 量化 | 模型文件 | 合计 |
|---|---|---|
| Q4_K_M | 42.8 GB | 47.9 GB(粗略) |
| Q5_K_M | 50.2 GB | 56.0 GB(粗略) |
| Q6_K | 57.9 GB | 64.4 GB(粗略) |
| Q8_0 | 75.0 GB | 83.3 GB(粗略) |
| F16 | 141.1 GB | 156.0 GB(粗略) |
可在显卡上运行它的硬件
按 Q4_K_M、8,192 token 上下文计算。
在此设置下，我们列出的硬件都无法完全在显卡上运行它。
在您的电脑上查看通过 API 使用同一模型
最便宜的提供商：NanoGPT，按默认用量（每天 200 次请求）每月 $0.99。
在 Model Price Map 查看价格模型信息（名称、大小、许可证）来自 Hugging Face 的公开列表。每个模型页面都附有原始页面的链接。