← Run Locally · सभी मॉडल

meta-llama द्वारा

Llama 3.3 70B Instruct

meta-llama/Llama-3.3-70B-Instruct

सभी आँकड़े अनुमान हैं। असली मेमोरी उपयोग और गति आपके ड्राइवर, सेटिंग्स और साथ में चल रहे दूसरे प्रोग्रामों पर निर्भर करती है।

पैरामीटर
71B
लाइसेंस
llama3.3
प्रकाशित
26 नव॰ 2024

लाइसेंस मॉडल निर्माता का है। मॉडल इस्तेमाल करने से पहले इसकी शर्तें जाँच लें।

इस मॉडल को डाउनलोड करने से पहले Hugging Face आपसे निर्माता की शर्तें स्वीकार करने को कहता है। इसके लिए कोई किट नहीं बेची जाती।

Hugging Face पर मूल पेज ↗

क्वांटाइज़ेशन के अनुसार ज़रूरी मेमोरी

8,192 टोकन कॉन्टेक्स्ट पर, रनटाइम के लिए 0.8 GB सहित।

क्वांटाइज़ेशनमॉडल फ़ाइलकुल
Q4_K_M42.8 GB47.9 GB(मोटा अनुमान)
Q5_K_M50.2 GB56.0 GB(मोटा अनुमान)
Q6_K57.9 GB64.4 GB(मोटा अनुमान)
Q8_075.0 GB83.3 GB(मोटा अनुमान)
F16141.1 GB156.0 GB(मोटा अनुमान)

वह हार्डवेयर जो इसे ग्राफ़िक्स कार्ड पर चलाता है

Q4_K_M और 8,192 टोकन कॉन्टेक्स्ट पर।

इस सेटिंग पर हमारी सूची का कोई भी हार्डवेयर इसे पूरी तरह ग्राफ़िक्स कार्ड पर नहीं चलाता।

अपने कंप्यूटर पर जाँचें

API के ज़रिए यही मॉडल

सबसे सस्ता विक्रेता: NanoGPT, डिफ़ॉल्ट उपयोग (प्रति दिन 200 अनुरोध) पर $0.99 प्रति माह।

Model Price Map पर कीमतें देखें

मॉडल की जानकारी (नाम, आकार, लाइसेंस) Hugging Face की सार्वजनिक सूचियों से आती है। हर मॉडल पेज पर मूल स्रोत का लिंक है।

नया क्या है

  • अब आप ऐसा लिंक साझा कर सकते हैं जो आपकी चुनी हुई भाषा में खुले: भाषा बदलने पर पेज का पता भी बदल जाता है।