← Run Locally · כל המודלים

מאת meta-llama

Llama 3.3 70B Instruct

meta-llama/Llama-3.3-70B-Instruct

כל הנתונים הם הערכות. צריכת הזיכרון והמהירות בפועל תלויות במנהלי ההתקן, בהגדרות ובתוכנות אחרות שרצות.

פרמטרים
71B
רישיון
llama3.3
תאריך פרסום
26 בנוב׳ 2024

הרישיון הוא של יוצר המודל. יש לעיין בתנאיו לפני השימוש במודל.

Hugging Face מבקשת שתאשרו את תנאי היצרן לפני הורדת המודל הזה. לא נמכרת עבורו ערכה.

המקור ב-Hugging Face ↗

זיכרון נדרש לפי קוונטיזציה

בהקשר של 8,192 טוקנים, כולל 0.8 GB לסביבת ההרצה.

קוונטיזציהקובץ המודלסה"כ
Q4_K_M42.8 GB47.9 GB(גס)
Q5_K_M50.2 GB56.0 GB(גס)
Q6_K57.9 GB64.4 GB(גס)
Q8_075.0 GB83.3 GB(גס)
F16141.1 GB156.0 GB(גס)

חומרה שמריצה אותו על כרטיס המסך

ב-Q4_K_M ובהקשר של 8,192 טוקנים.

אף אחת מהחומרות שאנו מפרטים אינה מריצה אותו במלואו על כרטיס המסך בהגדרה הזו.

בדיקה במחשב שלכם

אותו מודל דרך API

הספק הזול ביותר: NanoGPT, $0.99 לחודש בשימוש ברירת המחדל (200 בקשות ביום).

צפייה במחירים ב-Model Price Map

פרטי המודלים לקוחים מהרשימות הציבוריות של Hugging Face (שמות, גדלים, רישיונות). כל עמוד מודל מקשר למקור.

מה חדש

  • עכשיו אפשר לשתף קישור שנפתח בשפה שבחרתם: החלפת השפה מעדכנת את כתובת הדף.