← Run Locally · എല്ലാ മോഡലുകളും
meta-llama നിർമിച്ചത്
Llama 3.2 1B Instruct
meta-llama/Llama-3.2-1B-Instruct
എല്ലാ കണക്കുകളും ഏകദേശ മൂല്യങ്ങളാണ്. യഥാർഥ മെമ്മറി ഉപയോഗവും വേഗതയും നിങ്ങളുടെ ഡ്രൈവറുകൾ, സെറ്റിംഗ്സ്, പ്രവർത്തിക്കുന്ന മറ്റ് പ്രോഗ്രാമുകൾ എന്നിവയെ ആശ്രയിച്ചിരിക്കും.
- പാരാമീറ്ററുകൾ
- 1.2B
- ലൈസൻസ്
- llama3.2
- പ്രസിദ്ധീകരിച്ചത്
- 2024 സെപ്റ്റം 18
ഈ ലൈസൻസ് മോഡൽ നിർമാതാവിന്റേതാണ്. മോഡൽ ഉപയോഗിക്കുന്നതിനു മുൻപ് അതിന്റെ വ്യവസ്ഥകൾ പരിശോധിക്കുക.
ഈ മോഡൽ ഡൗൺലോഡ് ചെയ്യുന്നതിനു മുൻപ് നിർമാതാവിന്റെ വ്യവസ്ഥകൾ അംഗീകരിക്കാൻ Hugging Face ആവശ്യപ്പെടുന്നു. ഇതിനായി കിറ്റ് വിൽക്കുന്നില്ല.
Hugging Face-ലെ യഥാർഥ പേജ് ↗ക്വാണ്ടൈസേഷൻ അനുസരിച്ച് ആവശ്യമായ മെമ്മറി
8,192 ടോക്കൺ കോൺടെക്സ്റ്റിൽ, റൺടൈമിനുള്ള 0.8 GB ഉൾപ്പെടെ.
| ക്വാണ്ടൈസേഷൻ | മോഡൽ ഫയൽ | ആകെ |
|---|---|---|
| Q4_K_M | 0.7 GB | 1.6 GB(ഏകദേശം) |
| Q5_K_M | 0.9 GB | 1.8 GB(ഏകദേശം) |
| Q6_K | 1.0 GB | 1.9 GB(ഏകദേശം) |
| Q8_0 | 1.3 GB | 2.2 GB(ഏകദേശം) |
| F16 | 2.5 GB | 3.5 GB(ഏകദേശം) |
ഗ്രാഫിക്സ് കാർഡിൽ ഇത് പ്രവർത്തിപ്പിക്കുന്ന ഹാർഡ്‌വെയർ
Q4_K_M, 8,192 ടോക്കൺ കോൺടെക്സ്റ്റ് എന്നിവയിൽ.
- NVIDIA GeForce RTX 3060 (12 GB)
- NVIDIA GeForce RTX 3070
- NVIDIA GeForce RTX 3080 (10 GB)
- NVIDIA GeForce RTX 3090
- NVIDIA GeForce RTX 4070
- NVIDIA GeForce RTX 4070 Ti SUPER
- NVIDIA GeForce RTX 4080 SUPER
- NVIDIA GeForce RTX 4090
- NVIDIA GeForce RTX 5060 Ti (16 GB)
- NVIDIA GeForce RTX 5070
- NVIDIA GeForce RTX 5070 Ti
- NVIDIA GeForce RTX 5080
- NVIDIA GeForce RTX 5090
- AMD Radeon RX 7600
- AMD Radeon RX 7700 XT
- AMD Radeon RX 7800 XT
- AMD Radeon RX 7900 XT
- AMD Radeon RX 7900 XTX
- AMD Radeon RX 9070 XT
- Apple M1 Pro
- Apple M1 Max
- Apple M2
- Apple M2 Pro
- Apple M2 Max
- Apple M3
- Apple M3 Pro
- Apple M3 Max (30-core GPU)
- Apple M3 Max (40-core GPU)
- Apple M4
- Apple M4 Pro
- Apple M4 Max (32-core GPU)
- Apple M4 Max (40-core GPU)
- Apple M5
- AMD Ryzen AI Max+ 395
ഇതേ മോഡൽ ഒരു API വഴി
ഏറ്റവും വിലകുറഞ്ഞ ദാതാവ്: Inference, സ്ഥിരം ഉപയോഗത്തിൽ (ദിവസം 200 അഭ്യർഥനകൾ) മാസം $0.09.
Model Price Map-ൽ വിലകൾ കാണുകമോഡൽ വിവരങ്ങൾ Hugging Face-ന്റെ പൊതു ലിസ്റ്റിംഗുകളിൽ നിന്നുള്ളതാണ് (പേരുകൾ, വലുപ്പങ്ങൾ, ലൈസൻസുകൾ). ഓരോ മോഡൽ പേജും യഥാർഥ പേജിലേക്ക് ലിങ്ക് ചെയ്യുന്നു.