meta-llama ಅವರಿಂದ
Llama 3.2 1B Instruct
meta-llama/Llama-3.2-1B-Instruct
ಎಲ್ಲ ಅಂಕಿಅಂಶಗಳು ಅಂದಾಜುಗಳು. ನಿಜವಾದ ಮೆಮೊರಿ ಬಳಕೆ ಮತ್ತು ವೇಗವು ನಿಮ್ಮ ಡ್ರೈವರ್‌ಗಳು, ಸೆಟ್ಟಿಂಗ್‌ಗಳು ಮತ್ತು ಚಾಲನೆಯಲ್ಲಿರುವ ಇತರ ಪ್ರೋಗ್ರಾಂಗಳ ಮೇಲೆ ಅವಲಂಬಿತವಾಗಿರುತ್ತದೆ.
- ಪ್ಯಾರಾಮೀಟರ್‌ಗಳು
- 1.2B
- ಪರವಾನಗಿ
- llama3.2
- ಪ್ರಕಟಿಸಲಾಗಿದೆ
- ಸೆಪ್ಟೆಂ 18,2024
ಈ ಪರವಾನಗಿ ಮಾದರಿಯ ತಯಾರಕರದು. ಮಾದರಿಯನ್ನು ಬಳಸುವ ಮೊದಲು ಅದರ ನಿಯಮಗಳನ್ನು ಪರಿಶೀಲಿಸಿ.
ಈ ಮಾದರಿಯನ್ನು ಡೌನ್‌ಲೋಡ್ ಮಾಡುವ ಮೊದಲು ತಯಾರಕರ ನಿಯಮಗಳನ್ನು ಒಪ್ಪಿಕೊಳ್ಳುವಂತೆ Hugging Face ಕೇಳುತ್ತದೆ. ಇದಕ್ಕಾಗಿ ಯಾವುದೇ ಕಿಟ್ ಅನ್ನು ಮಾರಾಟ ಮಾಡಲಾಗುವುದಿಲ್ಲ.
Hugging Face ನಲ್ಲಿ ಮೂಲ ↗ಕ್ವಾಂಟೈಸೇಶನ್ ಪ್ರಕಾರ ಬೇಕಾದ ಮೆಮೊರಿ
8,192 ಟೋಕನ್‌ಗಳ ಸಂದರ್ಭದಲ್ಲಿ, ರನ್‌ಟೈಮ್‌ಗಾಗಿ 0.8 GB ಸೇರಿದಂತೆ.
| ಕ್ವಾಂಟೈಸೇಶನ್ | ಮಾದರಿ ಫೈಲ್ | ಒಟ್ಟು |
|---|---|---|
| Q4_K_M | 0.7 GB | 1.6 GB(ಸ್ಥೂಲ) |
| Q5_K_M | 0.9 GB | 1.8 GB(ಸ್ಥೂಲ) |
| Q6_K | 1.0 GB | 1.9 GB(ಸ್ಥೂಲ) |
| Q8_0 | 1.3 GB | 2.2 GB(ಸ್ಥೂಲ) |
| F16 | 2.5 GB | 3.5 GB(ಸ್ಥೂಲ) |
ಗ್ರಾಫಿಕ್ಸ್ ಕಾರ್ಡ್‌ನಲ್ಲಿ ಇದನ್ನು ಚಲಾಯಿಸುವ ಹಾರ್ಡ್‌ವೇರ್
Q4_K_M ಮತ್ತು 8,192 ಟೋಕನ್‌ಗಳ ಸಂದರ್ಭದಲ್ಲಿ.
- NVIDIA GeForce RTX 3060 (12 GB)
- NVIDIA GeForce RTX 3070
- NVIDIA GeForce RTX 3080 (10 GB)
- NVIDIA GeForce RTX 3090
- NVIDIA GeForce RTX 4070
- NVIDIA GeForce RTX 4070 Ti SUPER
- NVIDIA GeForce RTX 4080 SUPER
- NVIDIA GeForce RTX 4090
- NVIDIA GeForce RTX 5060 Ti (16 GB)
- NVIDIA GeForce RTX 5070
- NVIDIA GeForce RTX 5070 Ti
- NVIDIA GeForce RTX 5080
- NVIDIA GeForce RTX 5090
- AMD Radeon RX 7600
- AMD Radeon RX 7700 XT
- AMD Radeon RX 7800 XT
- AMD Radeon RX 7900 XT
- AMD Radeon RX 7900 XTX
- AMD Radeon RX 9070 XT
- Apple M1 Pro
- Apple M1 Max
- Apple M2
- Apple M2 Pro
- Apple M2 Max
- Apple M3
- Apple M3 Pro
- Apple M3 Max (30-core GPU)
- Apple M3 Max (40-core GPU)
- Apple M4
- Apple M4 Pro
- Apple M4 Max (32-core GPU)
- Apple M4 Max (40-core GPU)
- Apple M5
- AMD Ryzen AI Max+ 395
ಅದೇ ಮಾದರಿ API ಮೂಲಕ
ಅಗ್ಗದ ಮಾರಾಟಗಾರ: Inference, ಪ್ರಮಾಣಿತ ಬಳಕೆಯಲ್ಲಿ (ದಿನಕ್ಕೆ 200 ವಿನಂತಿಗಳು) ತಿಂಗಳಿಗೆ $0.09.
Model Price Map ನಲ್ಲಿ ಬೆಲೆಗಳನ್ನು ನೋಡಿಮಾದರಿ ವಿವರಗಳು Hugging Face ನ ಸಾರ್ವಜನಿಕ ಪಟ್ಟಿಗಳಿಂದ ಬಂದಿವೆ (ಹೆಸರುಗಳು, ಗಾತ್ರಗಳು, ಪರವಾನಗಿಗಳು). ಪ್ರತಿ ಮಾದರಿ ಪುಟವೂ ಮೂಲಕ್ಕೆ ಲಿಂಕ್ ಮಾಡುತ್ತದೆ.