meta-llama द्वारा
Llama 3.3 70B Instruct
meta-llama/Llama-3.3-70B-Instruct
सभी आँकड़े अनुमान हैं। असली मेमोरी उपयोग और गति आपके ड्राइवर, सेटिंग्स और साथ में चल रहे दूसरे प्रोग्रामों पर निर्भर करती है।
- पैरामीटर
- 71B
- लाइसेंस
- llama3.3
- प्रकाशित
- 26 नव॰ 2024
लाइसेंस मॉडल निर्माता का है। मॉडल इस्तेमाल करने से पहले इसकी शर्तें जाँच लें।
इस मॉडल को डाउनलोड करने से पहले Hugging Face आपसे निर्माता की शर्तें स्वीकार करने को कहता है। इसके लिए कोई किट नहीं बेची जाती।
Hugging Face पर मूल पेज ↗क्वांटाइज़ेशन के अनुसार ज़रूरी मेमोरी
8,192 टोकन कॉन्टेक्स्ट पर, रनटाइम के लिए 0.8 GB सहित।
| क्वांटाइज़ेशन | मॉडल फ़ाइल | कुल |
|---|---|---|
| Q4_K_M | 42.8 GB | 47.9 GB(मोटा अनुमान) |
| Q5_K_M | 50.2 GB | 56.0 GB(मोटा अनुमान) |
| Q6_K | 57.9 GB | 64.4 GB(मोटा अनुमान) |
| Q8_0 | 75.0 GB | 83.3 GB(मोटा अनुमान) |
| F16 | 141.1 GB | 156.0 GB(मोटा अनुमान) |
वह हार्डवेयर जो इसे ग्राफ़िक्स कार्ड पर चलाता है
Q4_K_M और 8,192 टोकन कॉन्टेक्स्ट पर।
इस सेटिंग पर हमारी सूची का कोई भी हार्डवेयर इसे पूरी तरह ग्राफ़िक्स कार्ड पर नहीं चलाता।
अपने कंप्यूटर पर जाँचेंAPI के ज़रिए यही मॉडल
सबसे सस्ता विक्रेता: NanoGPT, डिफ़ॉल्ट उपयोग (प्रति दिन 200 अनुरोध) पर $0.99 प्रति माह।
Model Price Map पर कीमतें देखेंमॉडल की जानकारी (नाम, आकार, लाइसेंस) Hugging Face की सार्वजनिक सूचियों से आती है। हर मॉडल पेज पर मूल स्रोत का लिंक है।