gikan sa meta-llama
Llama 3.3 70B Instruct
meta-llama/Llama-3.3-70B-Instruct
Ang tanang numero maoy banabana. Ang tinuod nga gamit sa memorya ug ang gikusgon nagdepende sa imong mga driver, mga setting, ug uban pang mga programa nga nagdagan.
- Mga parameter
- 71B
- Lisensya
- llama3.3
- Gipatik
- Nov 26, 2024
Ang lisensya iya sa maker sa model. Basaha ang mga termino niini sa dili pa nimo gamiton ang model.
Gipangayo sa Hugging Face nga dawaton nimo ang mga termino sa maker sa dili pa nimo i-download kini nga model. Walay kit nga ibaligya alang niini.
Orihinal sa Hugging Face ↗Memorya nga gikinahanglan matag quantization
Sa 8,192 ka token nga konteksto, lakip ang 0.8 GB alang sa runtime.
| Quantization | File sa model | Kinatibuk-an |
|---|---|---|
| Q4_K_M | 42.8 GB | 47.9 GB(banabana) |
| Q5_K_M | 50.2 GB | 56.0 GB(banabana) |
| Q6_K | 57.9 GB | 64.4 GB(banabana) |
| Q8_0 | 75.0 GB | 83.3 GB(banabana) |
| F16 | 141.1 GB | 156.0 GB(banabana) |
Hardware nga mopadagan niini sa graphics card
Sa Q4_K_M ug 8,192 ka token nga konteksto.
Walay hardware nga among gilista nga mopadagan niini sa hingpit sa graphics card niini nga setting.
Susiha kini sa imong kompyuterParehong model pinaagi sa API
Pinakabarato nga nagbaligya: NanoGPT, $0.99 kada bulan sa default nga paggamit (200 ka hangyo kada adlaw).
Tan-awa ang mga presyo sa Model Price MapAng mga detalye sa model gikan sa publikong mga lista sa Hugging Face (mga ngalan, gidak-on, lisensya). Ang matag pahina sa model adunay link ngadto sa orihinal.