gan meta-llama
Llama 3.3 70B Instruct
meta-llama/Llama-3.3-70B-Instruct
Amcangyfrifon yw'r holl ffigurau. Mae'r defnydd gwirioneddol o gof a'r cyflymder yn dibynnu ar eich gyrwyr, eich gosodiadau a'r rhaglenni eraill sy'n rhedeg.
- Paramedrau
- 71B
- Trwydded
- llama3.3
- Cyhoeddwyd
- Nov 26, 2024
Trwydded gwneuthurwr y model yw hon. Gwiriwch ei thelerau cyn defnyddio'r model.
Mae Hugging Face yn gofyn i chi dderbyn telerau'r gwneuthurwr cyn lawrlwytho'r model hwn. Ni werthir pecyn ar ei gyfer.
Y gwreiddiol ar Hugging Face ↗Cof sydd ei angen yn ôl cwantoli
Gyda 8,192 tocyn o gyd-destun, gan gynnwys 0.8 GB ar gyfer yr amgylchedd rhedeg.
| Cwantoli | Ffeil y model | Cyfanswm |
|---|---|---|
| Q4_K_M | 42.8 GB | 47.9 GB(bras) |
| Q5_K_M | 50.2 GB | 56.0 GB(bras) |
| Q6_K | 57.9 GB | 64.4 GB(bras) |
| Q8_0 | 75.0 GB | 83.3 GB(bras) |
| F16 | 141.1 GB | 156.0 GB(bras) |
Caledwedd sy'n ei redeg ar y cerdyn graffeg
Gyda Q4_K_M a 8,192 tocyn o gyd-destun.
Nid oes unrhyw galedwedd a restrir gennym yn ei redeg yn gyfan gwbl ar y cerdyn graffeg gyda'r gosodiad hwn.
Gwirio ar eich cyfrifiadurYr un model drwy API
Y gwerthwr rhataf: NanoGPT, $0.99 y mis gyda'r defnydd rhagosodedig (200 cais y dydd).
Gweld y prisiau ar y Model Price MapDaw manylion y modelau o restrau cyhoeddus Hugging Face (enwau, meintiau, trwyddedau). Mae pob tudalen model yn cysylltu â'r gwreiddiol.