โดย meta-llama
Llama 3.2 1B Instruct
meta-llama/Llama-3.2-1B-Instruct
ตัวเลขทั้งหมดเป็นค่าประมาณ การใช้หน่วยความจำและความเร็วจริงขึ้นอยู่กับไดรเวอร์ การตั้งค่า และโปรแกรมอื่นที่กำลังทำงานอยู่
- พารามิเตอร์
- 1.2B
- สัญญาอนุญาต
- llama3.2
- เผยแพร่เมื่อ
- 18 ก.ย. 2567
สัญญาอนุญาตเป็นของผู้สร้างโมเดล โปรดตรวจสอบเงื่อนไขก่อนใช้โมเดล
Hugging Face ให้คุณยอมรับเงื่อนไขของผู้สร้างก่อนดาวน์โหลดโมเดลนี้ เราจึงไม่ขายชุดคิตสำหรับโมเดลนี้
ต้นฉบับบน Hugging Face ↗หน่วยความจำที่ต้องใช้ตามระดับควอนไทซ์
ที่บริบท 8,192 โทเค็น รวม 0.8 GB สำหรับรันไทม์
| ควอนไทซ์ | ไฟล์โมเดล | รวม |
|---|---|---|
| Q4_K_M | 0.7 GB | 1.6 GB(คร่าวๆ) |
| Q5_K_M | 0.9 GB | 1.8 GB(คร่าวๆ) |
| Q6_K | 1.0 GB | 1.9 GB(คร่าวๆ) |
| Q8_0 | 1.3 GB | 2.2 GB(คร่าวๆ) |
| F16 | 2.5 GB | 3.5 GB(คร่าวๆ) |
ฮาร์ดแวร์ที่รันโมเดลนี้บนการ์ดจอได้
ที่ Q4_K_M และบริบท 8,192 โทเค็น
- NVIDIA GeForce RTX 3060 (12 GB)
- NVIDIA GeForce RTX 3070
- NVIDIA GeForce RTX 3080 (10 GB)
- NVIDIA GeForce RTX 3090
- NVIDIA GeForce RTX 4070
- NVIDIA GeForce RTX 4070 Ti SUPER
- NVIDIA GeForce RTX 4080 SUPER
- NVIDIA GeForce RTX 4090
- NVIDIA GeForce RTX 5060 Ti (16 GB)
- NVIDIA GeForce RTX 5070
- NVIDIA GeForce RTX 5070 Ti
- NVIDIA GeForce RTX 5080
- NVIDIA GeForce RTX 5090
- AMD Radeon RX 7600
- AMD Radeon RX 7700 XT
- AMD Radeon RX 7800 XT
- AMD Radeon RX 7900 XT
- AMD Radeon RX 7900 XTX
- AMD Radeon RX 9070 XT
- Apple M1 Pro
- Apple M1 Max
- Apple M2
- Apple M2 Pro
- Apple M2 Max
- Apple M3
- Apple M3 Pro
- Apple M3 Max (30-core GPU)
- Apple M3 Max (40-core GPU)
- Apple M4
- Apple M4 Pro
- Apple M4 Max (32-core GPU)
- Apple M4 Max (40-core GPU)
- Apple M5
- AMD Ryzen AI Max+ 395
โมเดลเดียวกันผ่าน API
ผู้ขายที่ถูกที่สุด: Inference เดือนละ $0.09 ที่การใช้งานเริ่มต้น (200 คำขอต่อวัน)
ดูราคาใน Model Price Mapข้อมูลโมเดลมาจากรายการสาธารณะของ Hugging Face (ชื่อ ขนาด สัญญาอนุญาต) ทุกหน้าโมเดลมีลิงก์ไปยังต้นฉบับ