tekijä: meta-llama
Llama 3.3 70B Instruct
meta-llama/Llama-3.3-70B-Instruct
Kaikki luvut ovat arvioita. Todellinen muistinkäyttö ja nopeus riippuvat ajureista, asetuksista ja muista käynnissä olevista ohjelmista.
- Parametrit
- 71B
- Lisenssi
- llama3.3
- Julkaistu
- 26.11.2024
Lisenssi on mallin valmistajan. Tarkista sen ehdot, ennen kuin käytät mallia.
Hugging Face edellyttää, että hyväksyt valmistajan ehdot ennen tämän mallin lataamista. Tälle mallille ei myydä pakettia.
Alkuperäinen Hugging Facessa ↗Tarvittava muisti kvantisoinnin mukaan
Kontekstin pituudella 8 192 tokenia, mukaan lukien 0,8 GB suoritusympäristölle.
| Kvantisointi | Mallitiedosto | Yhteensä |
|---|---|---|
| Q4_K_M | 42.8 GB | 47.9 GB(karkea) |
| Q5_K_M | 50.2 GB | 56.0 GB(karkea) |
| Q6_K | 57.9 GB | 64.4 GB(karkea) |
| Q8_0 | 75.0 GB | 83.3 GB(karkea) |
| F16 | 141.1 GB | 156.0 GB(karkea) |
Laitteisto, joka suorittaa mallin näytönohjaimella
Kvantisoinnilla Q4_K_M ja kontekstin pituudella 8 192 tokenia.
Mikään listaamamme laitteisto ei suorita mallia kokonaan näytönohjaimella tällä asetuksella.
Tarkista omalla tietokoneellasiSama malli API:n kautta
Edullisin tarjoaja: NanoGPT, $0.99 kuukaudessa oletuskäytöllä (200 pyyntöä päivässä).
Katso hinnat Model Price MapistaMallien tiedot (nimet, koot, lisenssit) tulevat Hugging Facen julkisista luetteloista. Jokaiselta mallisivulta on linkki alkuperäiseen.