openai कडून
gpt oss 120b
openai/gpt-oss-120b
सर्व आकडे अंदाजे आहेत. प्रत्यक्ष मेमरीचा वापर आणि वेग हे आपले ड्रायव्हर, सेटिंग्ज आणि चालू असलेले इतर प्रोग्राम यांवर अवलंबून असतात.
- पॅरामीटर
- 117B
- परवाना
- apache-2.0
- प्रकाशित
- ४ ऑग, २०२५
हा परवाना मॉडेल निर्मात्याचा आहे. मॉडेल वापरण्यापूर्वी त्याच्या अटी तपासा.
Hugging Face वरील मूळ पान ↗क्वांटायझेशननुसार लागणारी मेमरी
८,१९२ टोकन कॉन्टेक्स्टसाठी, रनटाइमसाठीच्या 0.8 GB सह.
| क्वांटायझेशन | मॉडेल फाइल | एकूण |
|---|---|---|
| Q4_K_M | 70.8 GB | 78.7 GB(अंदाजे) |
| Q5_K_M | 83.1 GB | 92.2 GB(अंदाजे) |
| Q6_K | 95.8 GB | 106.2 GB(अंदाजे) |
| Q8_0 | 124.1 GB | 137.3 GB(अंदाजे) |
| F16 | 233.7 GB | 257.8 GB(अंदाजे) |
ते ग्राफिक्स कार्डवर चालवणारे हार्डवेअर
Q4_K_M आणि ८,१९२ टोकन कॉन्टेक्स्टसाठी.
आम्ही यादी केलेल्या हार्डवेअरपैकी कोणतेही या सेटिंगमध्ये ते पूर्णपणे ग्राफिक्स कार्डवर चालवत नाही.
आपल्या संगणकावर तपासातेच मॉडेल API द्वारे
सर्वात स्वस्त विक्रेता: DevPass (LLM Gateway), मानक वापरासाठी (दिवसाला 200 विनंत्या) महिन्याला $0.61.
Model Price Map वर किमती पाहामॉडेलचे तपशील Hugging Face च्या सार्वजनिक यादीतून घेतले आहेत (नावे, आकार, परवाने). प्रत्येक मॉडेल पानावर मूळ पानाचा दुवा आहे.