vum openai
gpt oss 120b
openai/gpt-oss-120b
All Wäerter sinn Schätzungen. De richtege Späicherbedarf an d’Geschwindegkeet hänken vunÄren Treiber,Ären Astellungen an anere Programmer of, déi lafen.
- Parameteren
- 117B
- Lizenz
- apache-2.0
- Verëffentlecht
- Aug 4, 2025
D’Lizenz ass déi vum Modellhiersteller. Kuckt hir Bedingungen no, ier Dir d’Modell notzt.
Original op Hugging Face ↗Späicherbedarf no Quantiséierung
Bei 8,192 Tokens Kontext, abegraff 0,8 GB fir d’Lafzäitémfeld.
| Quantiséierung | Modelldatei | Total |
|---|---|---|
| Q4_K_M | 70.8 GB | 78.7 GB(grob) |
| Q5_K_M | 83.1 GB | 92.2 GB(grob) |
| Q6_K | 95.8 GB | 106.2 GB(grob) |
| Q8_0 | 124.1 GB | 137.3 GB(grob) |
| F16 | 233.7 GB | 257.8 GB(grob) |
Hardware, déi et op der Grafikkaart ausféiert
Bei Q4_K_M a 8,192 Tokens Kontext.
Keng vun der Hardware, déi mir lëschten, féiert et bei dëser Astellung ganz op der Grafikkaart aus.
Op Ärem Computer préiwenDatselwecht Modell iwwer eng API
Gënschtegsten Ubidder: DevPass (LLM Gateway), $0.61 pro Mount bei der Standardnotzung (200 Ufroe pro Dag).
Präisser op der Model Price Map kuckenD’Modelldaten staamen aus den ëffentlechen Androchen op Hugging Face (Nimm, Gréissten, Lizenzen). All Modellsäit verlinkt op d’Original.