Üretici: meta-llama
Llama 3.3 70B Instruct
meta-llama/Llama-3.3-70B-Instruct
Tüm rakamlar tahminidir. Gerçek bellek kullanımı ve hız; sürücülerinize, ayarlarınıza ve çalışan diğer programlara bağlıdır.
- Parametreler
- 71B
- Lisans
- llama3.3
- Yayımlanma
- 26 Kas 2024
Lisans model üreticisine aittir. Modeli kullanmadan önce koşullarını kontrol edin.
Hugging Face, bu modeli indirmeden önce üreticinin koşullarını kabul etmenizi istiyor. Bu model için kit satılmaz.
Hugging Face’teki orijinali ↗Nicelemeye göre gereken bellek
8.192 token bağlamda, çalışma ortamı için 0,8 GB dahil.
| Niceleme | Model dosyası | Toplam |
|---|---|---|
| Q4_K_M | 42.8 GB | 47.9 GB(kaba) |
| Q5_K_M | 50.2 GB | 56.0 GB(kaba) |
| Q6_K | 57.9 GB | 64.4 GB(kaba) |
| Q8_0 | 75.0 GB | 83.3 GB(kaba) |
| F16 | 141.1 GB | 156.0 GB(kaba) |
Modeli ekran kartında çalıştıran donanımlar
Q4_K_M ve 8.192 token bağlamda.
Listelediğimiz donanımların hiçbiri bu ayarda modeli tamamen ekran kartında çalıştıramıyor.
Kendi bilgisayarınızda kontrol edinAynı model API üzerinden
En ucuz satıcı: NanoGPT, varsayılan kullanımda (günde 200 istek) aylık $0.99.
Fiyatları Model Price Map’te görünModel bilgileri Hugging Face’in herkese açık kayıtlarından gelir (adlar, boyutlar, lisanslar). Her model sayfası orijinaline bağlantı verir.