na meta-llama
Llama 3.3 70B Instruct
meta-llama/Llama-3.3-70B-Instruct
Takwimu zote ni makadirio. Matumizi halisi ya kumbukumbu na kasi hutegemea madereva yako, mipangilio yako na programu nyingine zinazoendeshwa.
- Vigezo
- 71B
- Leseni
- llama3.3
- Ilichapishwa
- 26 Nov 2024
Leseni ni ya mtengenezaji wa muundo. Soma masharti yake kabla ya kutumia muundo huu.
Hugging Face hukuomba ukubali masharti ya mtengenezaji kabla ya kupakua muundo huu. Hakuna kifurushi kinachouzwa kwa ajili yake.
Chanzo asili kwenye Hugging Face ↗Kumbukumbu inayohitajika kulingana na ukwantishaji
Kwa muktadha wa tokeni 8,192, ikijumuisha GB 0.8 kwa mazingira ya uendeshaji.
| Ukwantishaji | Faili ya muundo | Jumla |
|---|---|---|
| Q4_K_M | GB 42.8 | GB 47.9(kisia) |
| Q5_K_M | GB 50.2 | GB 56.0(kisia) |
| Q6_K | GB 57.9 | GB 64.4(kisia) |
| Q8_0 | GB 75.0 | GB 83.3(kisia) |
| F16 | GB 141.1 | GB 156.0(kisia) |
Vifaa vinavyouendesha kwenye kadi ya picha
Kwa Q4_K_M na muktadha wa tokeni 8,192.
Hakuna kifaa kati ya tunavyoorodhesha kinachouendesha kikamilifu kwenye kadi ya picha kwa mpangilio huu.
Uhakiki kwenye kompyuta yakoMuundo huohuo kupitia API
Muuzaji wa bei nafuu zaidi: NanoGPT, $0.99 kwa mwezi kwa matumizi ya kawaida (maombi 200 kwa siku).
Tazama bei kwenye Model Price MapMaelezo ya miundo yanatoka kwenye orodha za umma za Hugging Face (majina, ukubwa, leseni). Kila ukurasa wa muundo una kiungo cha chanzo asili.