د meta-llama لخوا
Llama 3.3 70B Instruct
meta-llama/Llama-3.3-70B-Instruct
ټول شمېرې اټکلونه دي. د حافظې اصلي کارول او چټکتیا ستاسو په ډرایورونو، تنظیماتو او نورو چلېدونکو پروګرامونو پورې اړه لري.
- پارامیټرونه
- 71B
- جواز
- llama3.3
- خپور شوی
- Nov 26, 2024
جواز د ماډل جوړونکي دی. ماډل کارولو دمخه یې شرایط وګورئ.
Hugging Face غواړي چې دا ماډل ښکته کولو دمخه د جوړونکي شرایط ومنئ. د دې لپاره کوم کېټ نه پلورل کېږي.
په Hugging Face کې اصلي ↗د کوانټایزیشن له مخې اړینه حافظه
په 8,192 ټوکنو شرایطو کې، د چلېدو چاپېریال لپاره 0.8 GB په ګډون.
| کوانټایزیشن | د ماډل دوتنه | ټول |
|---|---|---|
| Q4_K_M | 42.8 GB | 47.9 GB(اټکلي) |
| Q5_K_M | 50.2 GB | 56.0 GB(اټکلي) |
| Q6_K | 57.9 GB | 64.4 GB(اټکلي) |
| Q8_0 | 75.0 GB | 83.3 GB(اټکلي) |
| F16 | 141.1 GB | 156.0 GB(اټکلي) |
هارډویر چې دا پر ګرافیک کارت چلوي
په Q4_K_M او 8,192 ټوکنو شرایطو کې.
زموږ په لېست کې هیڅ هارډویر دا پدې تنظیم پوره پر ګرافیک کارت نه چلوي.
پر خپل کمپيوټر یې وڅېړئهمدا ماډل د API له لارې
ارزانه پلورونکی: NanoGPT، په اصلي کارونه کې (په ورځ 200 غوښتنې) په میاشت $0.99.
بیې په Model Price Map کې وګورئد ماډلونو توضیحات د Hugging Face له عامو لېستونو را اخیستل شوي (نومونه، اندازې، جوازونه). د ماډل هره پاڼه اصلي مخ ته لینک لري.