← Run Locally · सबै मोडेल

meta-llama द्वारा

Llama 3.3 70B Instruct

meta-llama/Llama-3.3-70B-Instruct

सबै आँकडा अनुमान हुन्। वास्तविक मेमोरी प्रयोग र गति तपाईंका ड्राइभर, सेटिङ र चलिरहेका अन्य प्रोग्रामहरूमा निर्भर हुन्छ।

प्यारामिटर
71B
इजाजतपत्र
llama3.3
प्रकाशित
Nov 26, 2024

इजाजतपत्र मोडेल निर्माताको हो। मोडेल प्रयोग गर्नुअघि यसका सर्त जाँच्नुहोस्।

यो मोडेल डाउनलोड गर्नुअघि Hugging Face ले तपाईंलाई निर्माताका सर्त स्वीकार गर्न भन्छ। यसका लागि कुनै किट बेचिँदैन।

Hugging Face मा मूल पृष्ठ ↗

क्वान्टाइजेसनअनुसार आवश्यक मेमोरी

8,192 टोकन कन्टेक्स्टमा, रनटाइमका लागि 0.8 GB सहित।

क्वान्टाइजेसनमोडेल फाइलजम्मा
Q4_K_M42.8 GB47.9 GB(मोटामोटी)
Q5_K_M50.2 GB56.0 GB(मोटामोटी)
Q6_K57.9 GB64.4 GB(मोटामोटी)
Q8_075.0 GB83.3 GB(मोटामोटी)
F16141.1 GB156.0 GB(मोटामोटी)

ग्राफिक्स कार्डमा यसलाई चलाउने हार्डवेयर

Q4_K_M र 8,192 टोकन कन्टेक्स्टमा।

हामीले सूचीबद्ध गरेका कुनै पनि हार्डवेयरले यो सेटिङमा यसलाई पूर्ण रूपमा ग्राफिक्स कार्डमा चलाउँदैन।

आफ्नो कम्प्युटरमा जाँच्नुहोस्

API मार्फत उही मोडेल

सबैभन्दा सस्तो विक्रेता: NanoGPT, सामान्य प्रयोगमा (दैनिक 200 अनुरोध) महिनाको $0.99।

Model Price Map मा मूल्यहरू हेर्नुहोस्

मोडेलका विवरण Hugging Face का सार्वजनिक सूचीबाट लिइएका हुन् (नाम, आकार, इजाजतपत्र)। हरेक मोडेल पृष्ठले मूल पृष्ठको लिंक दिन्छ।

नयाँ के छ

  • अब तपाईंले रोजेको भाषामा खुल्ने लिङ्क सेयर गर्न सक्नुहुन्छ: भाषा बदल्दा पृष्ठको ठेगाना अद्यावधिक हुन्छ।