ji aliyê meta-llama
Llama 3.3 70B Instruct
meta-llama/Llama-3.3-70B-Instruct
Hemû hejmar texmîn in. Bikaranîna rastîn a bîranînê û leza wê bi ajokerên we, mîheng û bernameyên din ên ku dixebitin ve girêdayî ne.
- Parametre
- 71B
- Lîsans
- llama3.3
- Hate weşandin
- Nov 26, 2024
Lîsans a çêkerê modelê ye. Beriya ku hûn modelê bi kar bînin mercên wê kontrol bikin.
Hugging Face dixwaze ku beriya daxistina vî modelê hûn mercên çêkerê bipejirînin. Ji bo wê kit nayê firotin.
Orîjînal li Hugging Face ↗Bîranîna pêwîst li gorî quantization
Di 8,192 token ên contextê de, bi 0,8 GB ji bo hawîrdora xebatê re.
| Quantization | Pela modelê | Giştî |
|---|---|---|
| Q4_K_M | 42.8 GB | 47.9 GB(texmînî) |
| Q5_K_M | 50.2 GB | 56.0 GB(texmînî) |
| Q6_K | 57.9 GB | 64.4 GB(texmînî) |
| Q8_0 | 75.0 GB | 83.3 GB(texmînî) |
| F16 | 141.1 GB | 156.0 GB(texmînî) |
Hardware ku wê li ser qerta grafîkê dixebitîne
Di Q4_K_M û 8,192 token ên contextê de.
Tu hardware ya ku em lîste dikin wê di vê mîhengê de bi temamî li ser qerta grafîkê naxebitîne.
Li ser komputera xwe kontrol bikinHeman model bi riya API
Firoşkarê herî erzan: NanoGPT, $0.99 di mehê de bi bikaranîna bingehîn (200 daxwaz di rojê de).
Bihayan li ser Model Price Map bibîninHûrgiliyên modelan ji lîsteyên gelemperî yên Hugging Face tên (nav, mezinahî, lîsans). Her rûpelek modelê bi ya orîjînal ve girêdayî ye.