Tootja: meta-llama
Llama 3.3 70B Instruct
meta-llama/Llama-3.3-70B-Instruct
Kõik arvud on hinnangulised. Tegelik mälukasutus ja kiirus sõltuvad sinu draiveritest, seadetest ja teistest töötavatest programmidest.
- Parameetrid
- 71B
- Litsents
- llama3.3
- Avaldatud
- 26. nov 2024
Litsents kuulub mudeli tootjale. Kontrolli selle tingimusi enne mudeli kasutamist.
Hugging Face palub sul enne selle mudeli allalaadimist tootja tingimused heaks kiita. Selle jaoks komplekti ei müüda.
Originaal Hugging Face’is ↗Vajalik mälu kvantimise järgi
8192 tokeni konteksti korral, sh 0,8 GB käituskeskkonna jaoks.
| Kvantimine | Mudelifail | Kokku |
|---|---|---|
| Q4_K_M | 42.8 GB | 47.9 GB(ligikaudne) |
| Q5_K_M | 50.2 GB | 56.0 GB(ligikaudne) |
| Q6_K | 57.9 GB | 64.4 GB(ligikaudne) |
| Q8_0 | 75.0 GB | 83.3 GB(ligikaudne) |
| F16 | 141.1 GB | 156.0 GB(ligikaudne) |
Riistvara, mis käitab seda graafikakaardil
Kvantimisel Q4_K_M ja 8192 tokeni konteksti korral.
Ükski meie loendis olev riistvara ei käita seda selle seadega täielikult graafikakaardil.
Kontrolli oma arvutisSama mudel API kaudu
Odavaim müüja: NanoGPT, $0.99 kuus vaikekasutuse korral (200 päringut päevas).
Vaata hindu lehel Model Price MapMudelite andmed pärinevad Hugging Face’i avalikest kirjetest (nimed, suurused, litsentsid). Iga mudeli leht viitab originaalile.