作者：meta-llama
Llama 3.2 1B Instruct
meta-llama/Llama-3.2-1B-Instruct
所有數字皆為估算值。實際的記憶體用量與速度會因您的驅動程式、設定及其他正在執行的程式而異。
- 參數
- 1.2B
- 授權
- llama3.2
- 發布日期
- 2024年9月18日
此授權由模型製造者提供。使用模型前，請先查看其條款。
下載此模型前，Hugging Face 要求您先接受製造商的條款。我們不販售此模型的套件。
Hugging Face 上的原始頁面 ↗各量化方式所需的記憶體
在 8,192 token 的上下文下，包含執行環境所需的 0.8 GB。
| 量化方式 | 模型檔案 | 總計 |
|---|---|---|
| Q4_K_M | 0.7 GB | 1.6 GB(粗略) |
| Q5_K_M | 0.9 GB | 1.8 GB(粗略) |
| Q6_K | 1.0 GB | 1.9 GB(粗略) |
| Q8_0 | 1.3 GB | 2.2 GB(粗略) |
| F16 | 2.5 GB | 3.5 GB(粗略) |
可在顯示卡上執行此模型的硬體
在 Q4_K_M 與 8,192 token 的上下文下。
- NVIDIA GeForce RTX 3060 (12 GB)
- NVIDIA GeForce RTX 3070
- NVIDIA GeForce RTX 3080 (10 GB)
- NVIDIA GeForce RTX 3090
- NVIDIA GeForce RTX 4070
- NVIDIA GeForce RTX 4070 Ti SUPER
- NVIDIA GeForce RTX 4080 SUPER
- NVIDIA GeForce RTX 4090
- NVIDIA GeForce RTX 5060 Ti (16 GB)
- NVIDIA GeForce RTX 5070
- NVIDIA GeForce RTX 5070 Ti
- NVIDIA GeForce RTX 5080
- NVIDIA GeForce RTX 5090
- AMD Radeon RX 7600
- AMD Radeon RX 7700 XT
- AMD Radeon RX 7800 XT
- AMD Radeon RX 7900 XT
- AMD Radeon RX 7900 XTX
- AMD Radeon RX 9070 XT
- Apple M1 Pro
- Apple M1 Max
- Apple M2
- Apple M2 Pro
- Apple M2 Max
- Apple M3
- Apple M3 Pro
- Apple M3 Max (30-core GPU)
- Apple M3 Max (40-core GPU)
- Apple M4
- Apple M4 Pro
- Apple M4 Max (32-core GPU)
- Apple M4 Max (40-core GPU)
- Apple M5
- AMD Ryzen AI Max+ 395
透過 API 使用同一個模型
最便宜的供應商：Inference，以預設使用量（每日 200 次請求）計算，每月 $0.09。
在 Model Price Map 上查看價格模型資料來自 Hugging Face 的公開列表（名稱、大小、授權）。每個模型頁面都附有原始頁面的連結。