← Run Locally · Barcha modellar
muallif: meta-llama
Llama 3.3 70B Instruct
meta-llama/Llama-3.3-70B-Instruct
Barcha ko‘rsatkichlar taxminiy. Xotiradan haqiqiy foydalanish va tezlik drayverlaringizga, sozlamalaringizga va ishlayotgan boshqa dasturlarga bog‘liq.
- Parametrlar
- 71B
- Litsenziya
- llama3.3
- E’lon qilingan
- Nov 26, 2024
Litsenziya model ishlab chiqaruvchisiga tegishli. Modeldan foydalanishdan oldin uning shartlarini tekshiring.
Hugging Face bu modelni yuklab olishdan oldin ishlab chiqaruvchi shartlarini qabul qilishingizni so‘raydi. Bu model uchun to‘plam sotilmaydi.
Hugging Face’dagi asl manba ↗Kvantlash bo‘yicha kerakli xotira
8,192 token kontekstda, ishga tushirish muhiti uchun 0,8 GB hisobga olingan.
| Kvantlash | Model fayli | Jami |
|---|---|---|
| Q4_K_M | 42.8 GB | 47.9 GB(taxminiy) |
| Q5_K_M | 50.2 GB | 56.0 GB(taxminiy) |
| Q6_K | 57.9 GB | 64.4 GB(taxminiy) |
| Q8_0 | 75.0 GB | 83.3 GB(taxminiy) |
| F16 | 141.1 GB | 156.0 GB(taxminiy) |
Uni videokartada ishga tushiradigan uskunalar
Q4_K_M va 8,192 token kontekstda.
Biz ko‘rsatgan uskunalarning hech biri uni bu sozlamada to‘liq videokartada ishga tushira olmaydi.
Kompyuteringizda tekshirib ko‘rishXuddi shu model API orqali
Eng arzon sotuvchi: NanoGPT, standart foydalanishda (kuniga 200 so‘rov) oyiga $0.99.
Narxlarni Model Price Map’da ko‘ringModel ma’lumotlari Hugging Face’ning ommaviy ro‘yxatlaridan olinadi (nomlar, o‘lchamlar, litsenziyalar). Har bir model sahifasi asl manbaga havola qiladi.