← Run Locally · Барлык модельләр
meta-llama тарафыннан
Llama 3.3 70B Instruct
meta-llama/Llama-3.3-70B-Instruct
Бөтен күрсәткечләр — фаразлы бәяләмә. Хәтернең чын куллануы һәм тизлек драйверларыгыздан, көйләүләрегездән һәм эшләп торган башка программалардан тора.
- Параметрлар
- 71B
- Лицензия
- llama3.3
- Чыгарылган
- Nov 26, 2024
Лицензия — модель җитештерүчесенеке. Модельне кулланганчы аның шартларын тикшерегез.
Hugging Face бу модельне йөкләп алганчы Сездән җитештерүче шартларын кабул итүне сорый. Моның өчен җыелма сатылмый.
Hugging Face’тагы оригиналы ↗Квантлау буенча кирәкле хәтер
8,192 токен контекстта, шул исәптән эш мохите өчен 0,8 GB.
| Квантлау | Модель файлы | Барлыгы |
|---|---|---|
| Q4_K_M | 42.8 GB | 47.9 GB(якынча) |
| Q5_K_M | 50.2 GB | 56.0 GB(якынча) |
| Q6_K | 57.9 GB | 64.4 GB(якынча) |
| Q8_0 | 75.0 GB | 83.3 GB(якынча) |
| F16 | 141.1 GB | 156.0 GB(якынча) |
Аны видеокартада эшләтүче җиһаз
Q4_K_M һәм 8,192 токен контекстта.
Без исемлеккә кергән җиһазларның бернинде дә аны бу көйләүдә тулысынча видеокартада эшләтми.
Үз компьютерыгызда тикшерегезШул ук модель API аша
Иң arzan сатучы: NanoGPT, ай саен $0.99, гадәти куллану вакытында (көненә 200 сорау).
Бәяләрне Model Price Map’та карагызМодель мәгълүматлары Hugging Face’ның ачык исемлекләреннән алынды (исемнәр, зурлыклар, лицензияләр). Һәр модель бите оригиналга сылтама бирә.