openai ಅವರಿಂದ
gpt oss 120b
openai/gpt-oss-120b
ಎಲ್ಲ ಅಂಕಿಅಂಶಗಳು ಅಂದಾಜುಗಳು. ನಿಜವಾದ ಮೆಮೊರಿ ಬಳಕೆ ಮತ್ತು ವೇಗವು ನಿಮ್ಮ ಡ್ರೈವರ್‌ಗಳು, ಸೆಟ್ಟಿಂಗ್‌ಗಳು ಮತ್ತು ಚಾಲನೆಯಲ್ಲಿರುವ ಇತರ ಪ್ರೋಗ್ರಾಂಗಳ ಮೇಲೆ ಅವಲಂಬಿತವಾಗಿರುತ್ತದೆ.
- ಪ್ಯಾರಾಮೀಟರ್‌ಗಳು
- 117B
- ಪರವಾನಗಿ
- apache-2.0
- ಪ್ರಕಟಿಸಲಾಗಿದೆ
- ಆಗ 4,2025
ಈ ಪರವಾನಗಿ ಮಾದರಿಯ ತಯಾರಕರದು. ಮಾದರಿಯನ್ನು ಬಳಸುವ ಮೊದಲು ಅದರ ನಿಯಮಗಳನ್ನು ಪರಿಶೀಲಿಸಿ.
Hugging Face ನಲ್ಲಿ ಮೂಲ ↗ಕ್ವಾಂಟೈಸೇಶನ್ ಪ್ರಕಾರ ಬೇಕಾದ ಮೆಮೊರಿ
8,192 ಟೋಕನ್‌ಗಳ ಸಂದರ್ಭದಲ್ಲಿ, ರನ್‌ಟೈಮ್‌ಗಾಗಿ 0.8 GB ಸೇರಿದಂತೆ.
| ಕ್ವಾಂಟೈಸೇಶನ್ | ಮಾದರಿ ಫೈಲ್ | ಒಟ್ಟು |
|---|---|---|
| Q4_K_M | 70.8 GB | 78.7 GB(ಸ್ಥೂಲ) |
| Q5_K_M | 83.1 GB | 92.2 GB(ಸ್ಥೂಲ) |
| Q6_K | 95.8 GB | 106.2 GB(ಸ್ಥೂಲ) |
| Q8_0 | 124.1 GB | 137.3 GB(ಸ್ಥೂಲ) |
| F16 | 233.7 GB | 257.8 GB(ಸ್ಥೂಲ) |
ಗ್ರಾಫಿಕ್ಸ್ ಕಾರ್ಡ್‌ನಲ್ಲಿ ಇದನ್ನು ಚಲಾಯಿಸುವ ಹಾರ್ಡ್‌ವೇರ್
Q4_K_M ಮತ್ತು 8,192 ಟೋಕನ್‌ಗಳ ಸಂದರ್ಭದಲ್ಲಿ.
ನಾವು ಪಟ್ಟಿ ಮಾಡಿರುವ ಯಾವ ಹಾರ್ಡ್‌ವೇರ್ ಕೂಡ ಈ ಸೆಟ್ಟಿಂಗ್‌ನಲ್ಲಿ ಇದನ್ನು ಸಂಪೂರ್ಣವಾಗಿ ಗ್ರಾಫಿಕ್ಸ್ ಕಾರ್ಡ್‌ನಲ್ಲಿ ಚಲಾಯಿಸುವುದಿಲ್ಲ.
ನಿಮ್ಮ ಕಂಪ್ಯೂಟರ್‌ನಲ್ಲಿ ಪರಿಶೀಲಿಸಿಅದೇ ಮಾದರಿ API ಮೂಲಕ
ಅಗ್ಗದ ಮಾರಾಟಗಾರ: DevPass (LLM Gateway), ಪ್ರಮಾಣಿತ ಬಳಕೆಯಲ್ಲಿ (ದಿನಕ್ಕೆ 200 ವಿನಂತಿಗಳು) ತಿಂಗಳಿಗೆ $0.61.
Model Price Map ನಲ್ಲಿ ಬೆಲೆಗಳನ್ನು ನೋಡಿಮಾದರಿ ವಿವರಗಳು Hugging Face ನ ಸಾರ್ವಜನಿಕ ಪಟ್ಟಿಗಳಿಂದ ಬಂದಿವೆ (ಹೆಸರುಗಳು, ಗಾತ್ರಗಳು, ಪರವಾನಗಿಗಳು). ಪ್ರತಿ ಮಾದರಿ ಪುಟವೂ ಮೂಲಕ್ಕೆ ಲಿಂಕ್ ಮಾಡುತ್ತದೆ.