← Run Locally · എല്ലാ മോഡലുകളും
meta-llama നിർമിച്ചത്
Llama 3.3 70B Instruct
meta-llama/Llama-3.3-70B-Instruct
എല്ലാ കണക്കുകളും ഏകദേശ മൂല്യങ്ങളാണ്. യഥാർഥ മെമ്മറി ഉപയോഗവും വേഗതയും നിങ്ങളുടെ ഡ്രൈവറുകൾ, സെറ്റിംഗ്സ്, പ്രവർത്തിക്കുന്ന മറ്റ് പ്രോഗ്രാമുകൾ എന്നിവയെ ആശ്രയിച്ചിരിക്കും.
- പാരാമീറ്ററുകൾ
- 71B
- ലൈസൻസ്
- llama3.3
- പ്രസിദ്ധീകരിച്ചത്
- 2024 നവം 26
ഈ ലൈസൻസ് മോഡൽ നിർമാതാവിന്റേതാണ്. മോഡൽ ഉപയോഗിക്കുന്നതിനു മുൻപ് അതിന്റെ വ്യവസ്ഥകൾ പരിശോധിക്കുക.
ഈ മോഡൽ ഡൗൺലോഡ് ചെയ്യുന്നതിനു മുൻപ് നിർമാതാവിന്റെ വ്യവസ്ഥകൾ അംഗീകരിക്കാൻ Hugging Face ആവശ്യപ്പെടുന്നു. ഇതിനായി കിറ്റ് വിൽക്കുന്നില്ല.
Hugging Face-ലെ യഥാർഥ പേജ് ↗ക്വാണ്ടൈസേഷൻ അനുസരിച്ച് ആവശ്യമായ മെമ്മറി
8,192 ടോക്കൺ കോൺടെക്സ്റ്റിൽ, റൺടൈമിനുള്ള 0.8 GB ഉൾപ്പെടെ.
| ക്വാണ്ടൈസേഷൻ | മോഡൽ ഫയൽ | ആകെ |
|---|---|---|
| Q4_K_M | 42.8 GB | 47.9 GB(ഏകദേശം) |
| Q5_K_M | 50.2 GB | 56.0 GB(ഏകദേശം) |
| Q6_K | 57.9 GB | 64.4 GB(ഏകദേശം) |
| Q8_0 | 75.0 GB | 83.3 GB(ഏകദേശം) |
| F16 | 141.1 GB | 156.0 GB(ഏകദേശം) |
ഗ്രാഫിക്സ് കാർഡിൽ ഇത് പ്രവർത്തിപ്പിക്കുന്ന ഹാർഡ്‌വെയർ
Q4_K_M, 8,192 ടോക്കൺ കോൺടെക്സ്റ്റ് എന്നിവയിൽ.
ഞങ്ങൾ പട്ടികപ്പെടുത്തിയ ഹാർഡ്‌വെയറുകളിൽ ഒന്നും ഈ സെറ്റിംഗിൽ ഇത് പൂർണമായും ഗ്രാഫിക്സ് കാർഡിൽ പ്രവർത്തിപ്പിക്കുന്നില്ല.
നിങ്ങളുടെ കമ്പ്യൂട്ടറിൽ പരിശോധിക്കുകഇതേ മോഡൽ ഒരു API വഴി
ഏറ്റവും വിലകുറഞ്ഞ ദാതാവ്: NanoGPT, സ്ഥിരം ഉപയോഗത്തിൽ (ദിവസം 200 അഭ്യർഥനകൾ) മാസം $0.99.
Model Price Map-ൽ വിലകൾ കാണുകമോഡൽ വിവരങ്ങൾ Hugging Face-ന്റെ പൊതു ലിസ്റ്റിംഗുകളിൽ നിന്നുള്ളതാണ് (പേരുകൾ, വലുപ്പങ്ങൾ, ലൈസൻസുകൾ). ഓരോ മോഡൽ പേജും യഥാർഥ പേജിലേക്ക് ലിങ്ക് ചെയ്യുന്നു.