meta-llama ಅವರಿಂದ
Llama 3.3 70B Instruct
meta-llama/Llama-3.3-70B-Instruct
ಎಲ್ಲ ಅಂಕಿಅಂಶಗಳು ಅಂದಾಜುಗಳು. ನಿಜವಾದ ಮೆಮೊರಿ ಬಳಕೆ ಮತ್ತು ವೇಗವು ನಿಮ್ಮ ಡ್ರೈವರ್‌ಗಳು, ಸೆಟ್ಟಿಂಗ್‌ಗಳು ಮತ್ತು ಚಾಲನೆಯಲ್ಲಿರುವ ಇತರ ಪ್ರೋಗ್ರಾಂಗಳ ಮೇಲೆ ಅವಲಂಬಿತವಾಗಿರುತ್ತದೆ.
- ಪ್ಯಾರಾಮೀಟರ್‌ಗಳು
- 71B
- ಪರವಾನಗಿ
- llama3.3
- ಪ್ರಕಟಿಸಲಾಗಿದೆ
- ನವೆಂ 26,2024
ಈ ಪರವಾನಗಿ ಮಾದರಿಯ ತಯಾರಕರದು. ಮಾದರಿಯನ್ನು ಬಳಸುವ ಮೊದಲು ಅದರ ನಿಯಮಗಳನ್ನು ಪರಿಶೀಲಿಸಿ.
ಈ ಮಾದರಿಯನ್ನು ಡೌನ್‌ಲೋಡ್ ಮಾಡುವ ಮೊದಲು ತಯಾರಕರ ನಿಯಮಗಳನ್ನು ಒಪ್ಪಿಕೊಳ್ಳುವಂತೆ Hugging Face ಕೇಳುತ್ತದೆ. ಇದಕ್ಕಾಗಿ ಯಾವುದೇ ಕಿಟ್ ಅನ್ನು ಮಾರಾಟ ಮಾಡಲಾಗುವುದಿಲ್ಲ.
Hugging Face ನಲ್ಲಿ ಮೂಲ ↗ಕ್ವಾಂಟೈಸೇಶನ್ ಪ್ರಕಾರ ಬೇಕಾದ ಮೆಮೊರಿ
8,192 ಟೋಕನ್‌ಗಳ ಸಂದರ್ಭದಲ್ಲಿ, ರನ್‌ಟೈಮ್‌ಗಾಗಿ 0.8 GB ಸೇರಿದಂತೆ.
| ಕ್ವಾಂಟೈಸೇಶನ್ | ಮಾದರಿ ಫೈಲ್ | ಒಟ್ಟು |
|---|---|---|
| Q4_K_M | 42.8 GB | 47.9 GB(ಸ್ಥೂಲ) |
| Q5_K_M | 50.2 GB | 56.0 GB(ಸ್ಥೂಲ) |
| Q6_K | 57.9 GB | 64.4 GB(ಸ್ಥೂಲ) |
| Q8_0 | 75.0 GB | 83.3 GB(ಸ್ಥೂಲ) |
| F16 | 141.1 GB | 156.0 GB(ಸ್ಥೂಲ) |
ಗ್ರಾಫಿಕ್ಸ್ ಕಾರ್ಡ್‌ನಲ್ಲಿ ಇದನ್ನು ಚಲಾಯಿಸುವ ಹಾರ್ಡ್‌ವೇರ್
Q4_K_M ಮತ್ತು 8,192 ಟೋಕನ್‌ಗಳ ಸಂದರ್ಭದಲ್ಲಿ.
ನಾವು ಪಟ್ಟಿ ಮಾಡಿರುವ ಯಾವ ಹಾರ್ಡ್‌ವೇರ್ ಕೂಡ ಈ ಸೆಟ್ಟಿಂಗ್‌ನಲ್ಲಿ ಇದನ್ನು ಸಂಪೂರ್ಣವಾಗಿ ಗ್ರಾಫಿಕ್ಸ್ ಕಾರ್ಡ್‌ನಲ್ಲಿ ಚಲಾಯಿಸುವುದಿಲ್ಲ.
ನಿಮ್ಮ ಕಂಪ್ಯೂಟರ್‌ನಲ್ಲಿ ಪರಿಶೀಲಿಸಿಅದೇ ಮಾದರಿ API ಮೂಲಕ
ಅಗ್ಗದ ಮಾರಾಟಗಾರ: NanoGPT, ಪ್ರಮಾಣಿತ ಬಳಕೆಯಲ್ಲಿ (ದಿನಕ್ಕೆ 200 ವಿನಂತಿಗಳು) ತಿಂಗಳಿಗೆ $0.99.
Model Price Map ನಲ್ಲಿ ಬೆಲೆಗಳನ್ನು ನೋಡಿಮಾದರಿ ವಿವರಗಳು Hugging Face ನ ಸಾರ್ವಜನಿಕ ಪಟ್ಟಿಗಳಿಂದ ಬಂದಿವೆ (ಹೆಸರುಗಳು, ಗಾತ್ರಗಳು, ಪರವಾನಗಿಗಳು). ಪ್ರತಿ ಮಾದರಿ ಪುಟವೂ ಮೂಲಕ್ಕೆ ಲಿಂಕ್ ಮಾಡುತ್ತದೆ.