โดย meta-llama
Llama 3.3 70B Instruct
meta-llama/Llama-3.3-70B-Instruct
ตัวเลขทั้งหมดเป็นค่าประมาณ การใช้หน่วยความจำและความเร็วจริงขึ้นอยู่กับไดรเวอร์ การตั้งค่า และโปรแกรมอื่นที่กำลังทำงานอยู่
- พารามิเตอร์
- 71B
- สัญญาอนุญาต
- llama3.3
- เผยแพร่เมื่อ
- 26 พ.ย. 2567
สัญญาอนุญาตเป็นของผู้สร้างโมเดล โปรดตรวจสอบเงื่อนไขก่อนใช้โมเดล
Hugging Face ให้คุณยอมรับเงื่อนไขของผู้สร้างก่อนดาวน์โหลดโมเดลนี้ เราจึงไม่ขายชุดคิตสำหรับโมเดลนี้
ต้นฉบับบน Hugging Face ↗หน่วยความจำที่ต้องใช้ตามระดับควอนไทซ์
ที่บริบท 8,192 โทเค็น รวม 0.8 GB สำหรับรันไทม์
| ควอนไทซ์ | ไฟล์โมเดล | รวม |
|---|---|---|
| Q4_K_M | 42.8 GB | 47.9 GB(คร่าวๆ) |
| Q5_K_M | 50.2 GB | 56.0 GB(คร่าวๆ) |
| Q6_K | 57.9 GB | 64.4 GB(คร่าวๆ) |
| Q8_0 | 75.0 GB | 83.3 GB(คร่าวๆ) |
| F16 | 141.1 GB | 156.0 GB(คร่าวๆ) |
ฮาร์ดแวร์ที่รันโมเดลนี้บนการ์ดจอได้
ที่ Q4_K_M และบริบท 8,192 โทเค็น
ที่การตั้งค่านี้ ไม่มีฮาร์ดแวร์ในรายการของเราที่รันโมเดลนี้บนการ์ดจอได้ทั้งหมด
ตรวจสอบกับคอมพิวเตอร์ของคุณโมเดลเดียวกันผ่าน API
ผู้ขายที่ถูกที่สุด: NanoGPT เดือนละ $0.99 ที่การใช้งานเริ่มต้น (200 คำขอต่อวัน)
ดูราคาใน Model Price Mapข้อมูลโมเดลมาจากรายการสาธารณะของ Hugging Face (ชื่อ ขนาด สัญญาอนุญาต) ทุกหน้าโมเดลมีลิงก์ไปยังต้นฉบับ