meta-llama-ийн
Llama 3.3 70B Instruct
meta-llama/Llama-3.3-70B-Instruct
Бүх тоо баримт нь тооцоолол юм. Санах ойн бодит хэрэглээ болон хурд нь таны драйверууд, тохиргоо, мөн ажиллаж буй бусад программаас хамаарна.
- Параметр
- 71B
- Лиценз
- llama3.3
- Нийтэлсэн
- Nov 26, 2024
Лиценз нь загвар үйлдвэрлэгчийнх болно. Загварыг ашиглахаасаа өмнө нөхцөлийг нь шалгана уу.
Hugging Face нь энэ загварыг татахаас өмнө үйлдвэрлэгчийн нөхцөлийг зөвшөөрөхийг шаарддаг. Үүнд зориулсан иж бүрдэл зарагдахгүй.
Hugging Face дээрх эх хувь ↗Квантчилалаар шаардагдах санах ой
8,192 токен контекстэд, ажиллах орчинд зориулсан 0,8 GB-ийг оруулаад.
| Квантчилал | Загварын файл | Нийт |
|---|---|---|
| Q4_K_M | 42.8 GB | 47.9 GB(ойролцоо) |
| Q5_K_M | 50.2 GB | 56.0 GB(ойролцоо) |
| Q6_K | 57.9 GB | 64.4 GB(ойролцоо) |
| Q8_0 | 75.0 GB | 83.3 GB(ойролцоо) |
| F16 | 141.1 GB | 156.0 GB(ойролцоо) |
Үүнийг видеокарт дээр ажиллуулдаг төхөөрөмж
Q4_K_M болон 8,192 токен контекстэд.
Бидний жагсаасан төхөөрөмжүүдийн аль нь ч энэ тохиргоонд үүнийг бүхэлд нь видеокарт дээр ажиллуулдаггүй.
Өөрийн компьютер дээр шалгахИжил загвар API-аар
Хамгийн хямд борлуулагч: NanoGPT, үндсэн хэрэглээнд (өдөрт 200 хүсэлт) сард $0.99.
Model Price Map дээрх үнийг харахЗагварын мэдээлэл (нэр, хэмжээ, лиценз) Hugging Face-ийн нийтийн жагсаалтаас авсан болно. Загвар бүрийн хуудас эх сурвалж руу холбогдоно.