← Run Locally · Бардык моделдер
meta-llama тарабынан
Llama 3.3 70B Instruct
meta-llama/Llama-3.3-70B-Instruct
Бардык көрсөткүчтөр – болжолдуу. Эстутумдун чыныгы колдонулушу жана ылдамдык драйверлериңизге, жөндөөлөрүңүзгө жана иштеп жаткан башка программаларга жараша болот.
- Параметрлер
- 71B
- Лицензия
- llama3.3
- Жарыяланган
- Nov 26, 2024
Лицензия – модель жаратуучунуку. Моделди колдонуудан мурун анын шарттарын текшериңиз.
Hugging Face бул моделди жүктөп алуудан мурун өндүрүүчүнүн шарттарын кабыл алууңузду талап кылат. Ал үчүн кит сатылбайт.
Hugging Face'теги түпнуска ↗Квантташтыруу боюнча керектүү эстутум
8,192 токен контекстте, иштөө чөйрөсү үчүн 0,8 GB кошулган.
| Квантташтыруу | Модель файлы | Жалпысы |
|---|---|---|
| Q4_K_M | 42.8 GB | 47.9 GB(болжол) |
| Q5_K_M | 50.2 GB | 56.0 GB(болжол) |
| Q6_K | 57.9 GB | 64.4 GB(болжол) |
| Q8_0 | 75.0 GB | 83.3 GB(болжол) |
| F16 | 141.1 GB | 156.0 GB(болжол) |
Аны графикалык картада иштеткен жабдуу
Q4_K_M жана 8,192 токен контекстте.
Биз тизмеге киргизген жабдуулардын бири да аны бул жөндөөдө толугу менен графикалык картада иштетпейт.
Компьютериңизден текшериңизУшул эле модель API аркылуу
Эң арзан сатуучу: NanoGPT, демейки колдонууда (күнүнө 200 суроо-талап) айына $0.99.
Model Price Map'тен бааларды караңызМодель маалыматтары Hugging Face'тин жалпыга ачык тизмелеринен алынат (аталыштар, өлчөмдөр, лицензиялар). Ар бир модель беттеринде түпнускага шилтеме бар.