meta-llama द्वारा
Llama 3.3 70B Instruct
meta-llama/Llama-3.3-70B-Instruct
सबै आँकडा अनुमान हुन्। वास्तविक मेमोरी प्रयोग र गति तपाईंका ड्राइभर, सेटिङ र चलिरहेका अन्य प्रोग्रामहरूमा निर्भर हुन्छ।
- प्यारामिटर
- 71B
- इजाजतपत्र
- llama3.3
- प्रकाशित
- Nov 26, 2024
इजाजतपत्र मोडेल निर्माताको हो। मोडेल प्रयोग गर्नुअघि यसका सर्त जाँच्नुहोस्।
यो मोडेल डाउनलोड गर्नुअघि Hugging Face ले तपाईंलाई निर्माताका सर्त स्वीकार गर्न भन्छ। यसका लागि कुनै किट बेचिँदैन।
Hugging Face मा मूल पृष्ठ ↗क्वान्टाइजेसनअनुसार आवश्यक मेमोरी
8,192 टोकन कन्टेक्स्टमा, रनटाइमका लागि 0.8 GB सहित।
| क्वान्टाइजेसन | मोडेल फाइल | जम्मा |
|---|---|---|
| Q4_K_M | 42.8 GB | 47.9 GB(मोटामोटी) |
| Q5_K_M | 50.2 GB | 56.0 GB(मोटामोटी) |
| Q6_K | 57.9 GB | 64.4 GB(मोटामोटी) |
| Q8_0 | 75.0 GB | 83.3 GB(मोटामोटी) |
| F16 | 141.1 GB | 156.0 GB(मोटामोटी) |
ग्राफिक्स कार्डमा यसलाई चलाउने हार्डवेयर
Q4_K_M र 8,192 टोकन कन्टेक्स्टमा।
हामीले सूचीबद्ध गरेका कुनै पनि हार्डवेयरले यो सेटिङमा यसलाई पूर्ण रूपमा ग्राफिक्स कार्डमा चलाउँदैन।
आफ्नो कम्प्युटरमा जाँच्नुहोस्API मार्फत उही मोडेल
सबैभन्दा सस्तो विक्रेता: NanoGPT, सामान्य प्रयोगमा (दैनिक 200 अनुरोध) महिनाको $0.99।
Model Price Map मा मूल्यहरू हेर्नुहोस्मोडेलका विवरण Hugging Face का सार्वजनिक सूचीबाट लिइएका हुन् (नाम, आकार, इजाजतपत्र)। हरेक मोडेल पृष्ठले मूल पृष्ठको लिंक दिन्छ।