← Run Locally · โมเดลทั้งหมด

โดย meta-llama

Llama 3.2 1B Instruct

meta-llama/Llama-3.2-1B-Instruct

ตัวเลขทั้งหมดเป็นค่าประมาณ การใช้หน่วยความจำและความเร็วจริงขึ้นอยู่กับไดรเวอร์ การตั้งค่า และโปรแกรมอื่นที่กำลังทำงานอยู่

พารามิเตอร์
1.2B
สัญญาอนุญาต
llama3.2
เผยแพร่เมื่อ
18 ก.ย. 2567

สัญญาอนุญาตเป็นของผู้สร้างโมเดล โปรดตรวจสอบเงื่อนไขก่อนใช้โมเดล

Hugging Face ให้คุณยอมรับเงื่อนไขของผู้สร้างก่อนดาวน์โหลดโมเดลนี้ เราจึงไม่ขายชุดคิตสำหรับโมเดลนี้

ต้นฉบับบน Hugging Face ↗

หน่วยความจำที่ต้องใช้ตามระดับควอนไทซ์

ที่บริบท 8,192 โทเค็น รวม 0.8 GB สำหรับรันไทม์

ควอนไทซ์ไฟล์โมเดลรวม
Q4_K_M0.7 GB1.6 GB(คร่าวๆ)
Q5_K_M0.9 GB1.8 GB(คร่าวๆ)
Q6_K1.0 GB1.9 GB(คร่าวๆ)
Q8_01.3 GB2.2 GB(คร่าวๆ)
F162.5 GB3.5 GB(คร่าวๆ)

ฮาร์ดแวร์ที่รันโมเดลนี้บนการ์ดจอได้

ที่ Q4_K_M และบริบท 8,192 โทเค็น

  • NVIDIA GeForce RTX 3060 (12 GB)
  • NVIDIA GeForce RTX 3070
  • NVIDIA GeForce RTX 3080 (10 GB)
  • NVIDIA GeForce RTX 3090
  • NVIDIA GeForce RTX 4070
  • NVIDIA GeForce RTX 4070 Ti SUPER
  • NVIDIA GeForce RTX 4080 SUPER
  • NVIDIA GeForce RTX 4090
  • NVIDIA GeForce RTX 5060 Ti (16 GB)
  • NVIDIA GeForce RTX 5070
  • NVIDIA GeForce RTX 5070 Ti
  • NVIDIA GeForce RTX 5080
  • NVIDIA GeForce RTX 5090
  • AMD Radeon RX 7600
  • AMD Radeon RX 7700 XT
  • AMD Radeon RX 7800 XT
  • AMD Radeon RX 7900 XT
  • AMD Radeon RX 7900 XTX
  • AMD Radeon RX 9070 XT
  • Apple M1 Pro
  • Apple M1 Max
  • Apple M2
  • Apple M2 Pro
  • Apple M2 Max
  • Apple M3
  • Apple M3 Pro
  • Apple M3 Max (30-core GPU)
  • Apple M3 Max (40-core GPU)
  • Apple M4
  • Apple M4 Pro
  • Apple M4 Max (32-core GPU)
  • Apple M4 Max (40-core GPU)
  • Apple M5
  • AMD Ryzen AI Max+ 395
ตรวจสอบกับคอมพิวเตอร์ของคุณ

โมเดลเดียวกันผ่าน API

ผู้ขายที่ถูกที่สุด: Inference เดือนละ $0.09 ที่การใช้งานเริ่มต้น (200 คำขอต่อวัน)

ดูราคาใน Model Price Map

ข้อมูลโมเดลมาจากรายการสาธารณะของ Hugging Face (ชื่อ ขนาด สัญญาอนุญาต) ทุกหน้าโมเดลมีลิงก์ไปยังต้นฉบับ

มีอะไรใหม่

  • ตอนนี้คุณแชร์ลิงก์ที่เปิดเป็นภาษาที่คุณเลือกได้แล้ว: เมื่อเปลี่ยนภาษา ที่อยู่ของหน้าจะเปลี่ยนตาม