meta-llama tarapyndan
Llama 3.3 70B Instruct
meta-llama/Llama-3.3-70B-Instruct
Ähli görkezijiler çaklamadyr. Ýadyň hakyky ulanylyşy we tizlik drýwerleriňize, sazlamalaryňyza we işleýän beýleki programmalara baglydyr.
- Parametrler
- 71B
- Ygtyýarnama
- llama3.3
- Çap edilen sene
- Nov 26, 2024
Ygtyýarnama model öndürijisine degişlidir. Modeli ulanmazyňyzdan ozal onuň şertlerini barlaň.
Hugging Face bu modeli ýükläp almazyňyzdan öň öndürijiniň şertlerini kabul etmegiňizi talap edýär. Bu model üçin toplum satylmaýar.
Hugging Face-de asyl nusga ↗Kwantizasiýa görä zerur ýat
8,192 token kontekstde, çalşyk wagtynyň 0,8 GB-ny goşmak bilen.
| Kwantizasiýa | Model faýly | Jemi |
|---|---|---|
| Q4_K_M | 42.8 GB | 47.9 GB(takmynan) |
| Q5_K_M | 50.2 GB | 56.0 GB(takmynan) |
| Q6_K | 57.9 GB | 64.4 GB(takmynan) |
| Q8_0 | 75.0 GB | 83.3 GB(takmynan) |
| F16 | 141.1 GB | 156.0 GB(takmynan) |
Ony grafika kartasynda işledýän enjamlar
Q4_K_M we 8,192 token kontekstde.
Biziň sanawymyzdaky enjamlaryň hiç biri muny bu sazlamada doly grafika kartasynda işletmeýär.
Kompýuteriňizde barlaňŞol bir model API arkaly
Iň arzan satyjy: NanoGPT, adaty ulanyşda aýda $0.99 (günde 200 haýyş).
Bahalary Model Price Map-da görüňModel maglumatlary Hugging Face-iň köpçülige açyk sanawlaryndan alynýar (atlar, ölçegler, ygtyýarnamalar). Her model sahypasy asyl nusga baglanyşyk berýär.