meta-llama پاران
Llama 3.3 70B Instruct
meta-llama/Llama-3.3-70B-Instruct
سڀ انگ اندازا آهن. ميموري جو اصل استعمال ۽ رفتار توهان جي ڊرائيورز، سيٽنگن ۽ هلندڙ ٻين پروگرامن تي منحصر آهن.
- پيراميٽر
- 71B
- لائسنس
- llama3.3
- شايع ٿيل
- Nov 26, 2024
لائسنس ماڊل ٺاهيندڙ جو آهي. ماڊل استعمال ڪرڻ کان اڳ ان جا شرط جانچيو.
Hugging Face توهان کان گهرندو آهي ته هي ماڊل ڊائونلوڊ ڪرڻ کان اڳ ٺاهيندڙ جا شرط قبول ڪريو. ان لاءِ ڪابه ڪٽ وڪرو نه ڪئي ويندي آهي.
Hugging Face تي اصل ↗ڪوانٽائيزيشن مطابق گهربل ميموري
8,192 ٽوڪن ڪانٽيڪسٽ تي، جنهن ۾ رن ٽائم لاءِ 0.8 GB شامل آهي.
| ڪوانٽائيزيشن | ماڊل فائل | ڪل |
|---|---|---|
| Q4_K_M | 42.8 GB | 47.9 GB(اندازي مطابق) |
| Q5_K_M | 50.2 GB | 56.0 GB(اندازي مطابق) |
| Q6_K | 57.9 GB | 64.4 GB(اندازي مطابق) |
| Q8_0 | 75.0 GB | 83.3 GB(اندازي مطابق) |
| F16 | 141.1 GB | 156.0 GB(اندازي مطابق) |
هارڊويئر جيڪو ان کي گرافڪس ڪارڊ تي هلائي ٿو
Q4_K_M ۽ 8,192 ٽوڪن ڪانٽيڪسٽ تي.
اسان جي فهرست ڪيل هارڊويئر مان ڪوبه ان کي هن سيٽنگ تي مڪمل طور گرافڪس ڪارڊ تي نٿو هلائي.
پنهنجي ڪمپيوٽر تي جانچيوساڳيو ماڊل API ذريعي
سڀ کان سستو وڪرو ڪندڙ: NanoGPT، ڊفالٽ استعمال (روزانو 200 درخواستون) تي $0.99 مهيني.
Model Price Map تي اگهه ڏسوماڊل جي تفصيل Hugging Face جي عوامي فهرستن (نالا، سائيز، لائسنس) مان ورتا ويا آهن. هر ماڊل صفحو اصل ڏانهن لنڪ ڪري ٿو.