nke meta-llama
Llama 3.3 70B Instruct
meta-llama/Llama-3.3-70B-Instruct
Ọnụọgụgụ niile bụ atụmatụ. Ojiji ebe nchekwa n'ezie na ọsọ na-adabere na draịva gị, ntọala gị na mmemme ndị ọzọ na-agba.
- Paramita
- 71B
- Ikikere
- llama3.3
- E bipụtara
- Nov 26, 2024
Ikikere ahụ bụ nke onye mepụtara ụdị ahụ. Lelee ọnọdụ ya tupu ị jiri ụdị ahụ.
Hugging Face chọrọ ka ị nabata ọnọdụ onye mepụtara ya tupu ị budata ụdị a. A naghị ere kit maka ya.
Nke mbụ na Hugging Face ↗Ebe nchekwa achọrọ site na quantization
Na token 8,192 nke ọnọdụ okwu, gụnyere 0.8 GB maka gburugburu ịgba ọsọ.
| Quantization | Faịlụ ụdị | Ngụkọta |
|---|---|---|
| Q4_K_M | 42.8 GB | 47.9 GB(ihe dị ka) |
| Q5_K_M | 50.2 GB | 56.0 GB(ihe dị ka) |
| Q6_K | 57.9 GB | 64.4 GB(ihe dị ka) |
| Q8_0 | 75.0 GB | 83.3 GB(ihe dị ka) |
| F16 | 141.1 GB | 156.0 GB(ihe dị ka) |
Ngwa ngwa na-agba ya na kaadị eserese
Na Q4_K_M na token 8,192 nke ọnọdụ okwu.
Ọ nweghị ngwa ngwa anyị depụtara na-agba ya kpamkpam na kaadị eserese n'ntọala a.
Lelee ya na kọmputa gịOtu ụdị ahụ site na API
Onye na-ere ya n'ọnụ ahịa kacha ala: NanoGPT, $0.99 n'otu ọnwa n'ojiji ndabara (arịrịọ 200 n'ụbọchị).
Lee ọnụ ahịa ndị ahụ na Model Price MapNkọwa ụdị sitere n'ndepụta ọha nke Hugging Face (aha, nha, ikikere). Ibe ụdị ọ bụla nwere njikọ gaa na ihe mbụ.