← Run Locally · โมเดลทั้งหมด

โดย meta-llama

Llama 3.3 70B Instruct

meta-llama/Llama-3.3-70B-Instruct

ตัวเลขทั้งหมดเป็นค่าประมาณ การใช้หน่วยความจำและความเร็วจริงขึ้นอยู่กับไดรเวอร์ การตั้งค่า และโปรแกรมอื่นที่กำลังทำงานอยู่

พารามิเตอร์
71B
สัญญาอนุญาต
llama3.3
เผยแพร่เมื่อ
26 พ.ย. 2567

สัญญาอนุญาตเป็นของผู้สร้างโมเดล โปรดตรวจสอบเงื่อนไขก่อนใช้โมเดล

Hugging Face ให้คุณยอมรับเงื่อนไขของผู้สร้างก่อนดาวน์โหลดโมเดลนี้ เราจึงไม่ขายชุดคิตสำหรับโมเดลนี้

ต้นฉบับบน Hugging Face ↗

หน่วยความจำที่ต้องใช้ตามระดับควอนไทซ์

ที่บริบท 8,192 โทเค็น รวม 0.8 GB สำหรับรันไทม์

ควอนไทซ์ไฟล์โมเดลรวม
Q4_K_M42.8 GB47.9 GB(คร่าวๆ)
Q5_K_M50.2 GB56.0 GB(คร่าวๆ)
Q6_K57.9 GB64.4 GB(คร่าวๆ)
Q8_075.0 GB83.3 GB(คร่าวๆ)
F16141.1 GB156.0 GB(คร่าวๆ)

ฮาร์ดแวร์ที่รันโมเดลนี้บนการ์ดจอได้

ที่ Q4_K_M และบริบท 8,192 โทเค็น

ที่การตั้งค่านี้ ไม่มีฮาร์ดแวร์ในรายการของเราที่รันโมเดลนี้บนการ์ดจอได้ทั้งหมด

ตรวจสอบกับคอมพิวเตอร์ของคุณ

โมเดลเดียวกันผ่าน API

ผู้ขายที่ถูกที่สุด: NanoGPT เดือนละ $0.99 ที่การใช้งานเริ่มต้น (200 คำขอต่อวัน)

ดูราคาใน Model Price Map

ข้อมูลโมเดลมาจากรายการสาธารณะของ Hugging Face (ชื่อ ขนาด สัญญาอนุญาต) ทุกหน้าโมเดลมีลิงก์ไปยังต้นฉบับ

มีอะไรใหม่

  • ตอนนี้คุณแชร์ลิงก์ที่เปิดเป็นภาษาที่คุณเลือกได้แล้ว: เมื่อเปลี่ยนภาษา ที่อยู่ของหน้าจะเปลี่ยนตาม