← Run Locally · Բոլոր մոդելները
meta-llama-ից
Llama 3.3 70B Instruct
meta-llama/Llama-3.3-70B-Instruct
Բոլոր թվերը գնահատականներ են։ Հիշողության իրական օգտագործումը և արագությունը կախված են Ձեր դրայվերներից, կարգավորումներից և աշխատող այլ ծրագրերից։
- Պարամետրեր
- 71B
- Արտոնագիր
- llama3.3
- Հրապարակվել է
- Nov 26, 2024
Արտոնագիրը մոդելի արտադրողինն է։ Մոդելն օգտագործելուց առաջ ստուգեք դրա պայմանները։
Hugging Face-ը խնդրում է ընդունել արտադրողի պայմանները, նախքան այս մոդելը ներբեռնելը։ Դրա համար հավաքածու չի վաճառվում։
Բնօրինակը Hugging Face-ում ↗Պահանջվող հիշողությունը ըստ քվանտացման
8,192 տոկեն կոնտեքստի դեպքում՝ ներառյալ գործարկման միջավայրի 0,8 GB-ը։
| Քվանտացում | Մոդելի ֆայլ | Ընդամենը |
|---|---|---|
| Q4_K_M | 42.8 GB | 47.9 GB(մոտավոր) |
| Q5_K_M | 50.2 GB | 56.0 GB(մոտավոր) |
| Q6_K | 57.9 GB | 64.4 GB(մոտավոր) |
| Q8_0 | 75.0 GB | 83.3 GB(մոտավոր) |
| F16 | 141.1 GB | 156.0 GB(մոտավոր) |
Սարքավորում, որը այն աշխատեցնում է վիդեոքարտի վրա
Q4_K_M-ի և 8,192 տոկեն կոնտեքստի դեպքում։
Մեր նշած սարքավորումներից ոչ մեկը այս կարգավորմամբ այն ամբողջությամբ չի աշխատեցնում վիդեոքարտի վրա։
Ստուգել Ձեր համակարգչումՆույն մոդելը API-ի միջոցով
Ամենաէժան վաճառողը՝ NanoGPT, $0.99 ամսական՝ լռելյայն օգտագործման դեպքում (օրական 200 հարցում)։
Տեսնել գները Model Price Map-ումՄոդելների տվյալները վերցված են Hugging Face-ի հանրային ցանկերից (անվանումներ, չափեր, արտոնագրեր)։ Յուրաքանչյուր մոդելի էջ հղում ունի բնօրինակին։