meta-llama દ્વારા
Llama 3.2 1B Instruct
meta-llama/Llama-3.2-1B-Instruct
બધા આંકડા અંદાજ છે. મેમરીનો વાસ્તવિક ઉપયોગ અને ઝડપ આપના ડ્રાઇવર, સેટિંગ અને ચાલુ અન્ય પ્રોગ્રામ પર આધારિત છે.
- પેરામીટર
- 1.2B
- લાઇસન્સ
- llama3.2
- પ્રકાશિત
- 18 સપ્ટે, 2024
આ લાઇસન્સ મોડેલ નિર્માતાનું છે. મોડેલનો ઉપયોગ કરતાં પહેલાં તેની શરતો તપાસો.
આ મોડેલ ડાઉનલોડ કરતાં પહેલાં Hugging Face આપને નિર્માતાની શરતો સ્વીકારવા કહે છે. તેના માટે કોઈ કિટ વેચાતી નથી.
Hugging Face પર મૂળ ↗ક્વોન્ટાઇઝેશન મુજબ જરૂરી મેમરી
8,192 ટોકનના કોન્ટેક્સ્ટ પર, રનટાઇમ માટેના 0.8 GB સહિત.
| ક્વોન્ટાઇઝેશન | મોડેલ ફાઇલ | કુલ |
|---|---|---|
| Q4_K_M | 0.7 GB | 1.6 GB(અંદાજે) |
| Q5_K_M | 0.9 GB | 1.8 GB(અંદાજે) |
| Q6_K | 1.0 GB | 1.9 GB(અંદાજે) |
| Q8_0 | 1.3 GB | 2.2 GB(અંદાજે) |
| F16 | 2.5 GB | 3.5 GB(અંદાજે) |
ગ્રાફિક્સ કાર્ડ પર તેને ચલાવતું હાર્ડવેર
Q4_K_M અને 8,192 ટોકનના કોન્ટેક્સ્ટ પર.
- NVIDIA GeForce RTX 3060 (12 GB)
- NVIDIA GeForce RTX 3070
- NVIDIA GeForce RTX 3080 (10 GB)
- NVIDIA GeForce RTX 3090
- NVIDIA GeForce RTX 4070
- NVIDIA GeForce RTX 4070 Ti SUPER
- NVIDIA GeForce RTX 4080 SUPER
- NVIDIA GeForce RTX 4090
- NVIDIA GeForce RTX 5060 Ti (16 GB)
- NVIDIA GeForce RTX 5070
- NVIDIA GeForce RTX 5070 Ti
- NVIDIA GeForce RTX 5080
- NVIDIA GeForce RTX 5090
- AMD Radeon RX 7600
- AMD Radeon RX 7700 XT
- AMD Radeon RX 7800 XT
- AMD Radeon RX 7900 XT
- AMD Radeon RX 7900 XTX
- AMD Radeon RX 9070 XT
- Apple M1 Pro
- Apple M1 Max
- Apple M2
- Apple M2 Pro
- Apple M2 Max
- Apple M3
- Apple M3 Pro
- Apple M3 Max (30-core GPU)
- Apple M3 Max (40-core GPU)
- Apple M4
- Apple M4 Pro
- Apple M4 Max (32-core GPU)
- Apple M4 Max (40-core GPU)
- Apple M5
- AMD Ryzen AI Max+ 395
API દ્વારા એ જ મોડેલ
સૌથી સસ્તો વિક્રેતા: Inference, સામાન્ય ઉપયોગ (દિવસની 200 વિનંતીઓ) પર મહિને $0.09.
Model Price Map પર ભાવ જુઓમોડેલની વિગતો Hugging Faceની જાહેર યાદીઓમાંથી લેવામાં આવી છે (નામ, કદ, લાઇસન્સ). દરેક મોડેલ પેજ મૂળ પેજ સાથે લિંક થયેલું છે.