← Run Locally · அனைத்து மாடல்கள்
meta-llama உருவாக்கியது
Llama 3.2 1B Instruct
meta-llama/Llama-3.2-1B-Instruct
அனைத்து மதிப்புகளும் மதிப்பீடுகளே. உண்மையான நினைவகப் பயன்பாடும் வேகமும் உங்கள் டிரைவர்கள், அமைப்புகள் மற்றும் இயங்கும் பிற நிரல்களைப் பொறுத்தது.
- அளவுருக்கள்
- 1.2B
- உரிமம்
- llama3.2
- வெளியிடப்பட்டது
- 18 செப்., 2024
இது மாடல் உற்பத்தியாளரின் உரிமம். மாடலைப் பயன்படுத்தும் முன் அதன் விதிமுறைகளைச் சரிபாருங்கள்.
இந்த மாடலைப் பதிவிறக்கும் முன் உற்பத்தியாளரின் விதிமுறைகளை ஏற்குமாறு Hugging Face கேட்கிறது. இதற்கு கிட் விற்கப்படுவதில்லை.
Hugging Face-இல் உள்ள அசல் ↗குவாண்டைசேஷன் வாரியாகத் தேவையான நினைவகம்
8,192 டோக்கன்கள் சூழலில், இயக்கச்சூழலுக்கான 0.8 GB உட்பட.
| குவாண்டைசேஷன் | மாடல் கோப்பு | மொத்தம் |
|---|---|---|
| Q4_K_M | 0.7 GB | 1.6 GB(தோராயம்) |
| Q5_K_M | 0.9 GB | 1.8 GB(தோராயம்) |
| Q6_K | 1.0 GB | 1.9 GB(தோராயம்) |
| Q8_0 | 1.3 GB | 2.2 GB(தோராயம்) |
| F16 | 2.5 GB | 3.5 GB(தோராயம்) |
கிராபிக்ஸ் கார்டில் இதை இயக்கும் வன்பொருள்
Q4_K_M மற்றும் 8,192 டோக்கன்கள் சூழலில்.
- NVIDIA GeForce RTX 3060 (12 GB)
- NVIDIA GeForce RTX 3070
- NVIDIA GeForce RTX 3080 (10 GB)
- NVIDIA GeForce RTX 3090
- NVIDIA GeForce RTX 4070
- NVIDIA GeForce RTX 4070 Ti SUPER
- NVIDIA GeForce RTX 4080 SUPER
- NVIDIA GeForce RTX 4090
- NVIDIA GeForce RTX 5060 Ti (16 GB)
- NVIDIA GeForce RTX 5070
- NVIDIA GeForce RTX 5070 Ti
- NVIDIA GeForce RTX 5080
- NVIDIA GeForce RTX 5090
- AMD Radeon RX 7600
- AMD Radeon RX 7700 XT
- AMD Radeon RX 7800 XT
- AMD Radeon RX 7900 XT
- AMD Radeon RX 7900 XTX
- AMD Radeon RX 9070 XT
- Apple M1 Pro
- Apple M1 Max
- Apple M2
- Apple M2 Pro
- Apple M2 Max
- Apple M3
- Apple M3 Pro
- Apple M3 Max (30-core GPU)
- Apple M3 Max (40-core GPU)
- Apple M4
- Apple M4 Pro
- Apple M4 Max (32-core GPU)
- Apple M4 Max (40-core GPU)
- Apple M5
- AMD Ryzen AI Max+ 395
அதே மாடல் API வழியாக
மலிவான விற்பனையாளர்: Inference, இயல்புப் பயன்பாட்டில் (ஒரு நாளைக்கு 200 கோரிக்கைகள்) மாதத்திற்கு $0.09.
Model Price Map-இல் விலைகளைப் பாருங்கள்மாடல் விவரங்கள் Hugging Face-இன் பொதுப் பட்டியல்களிலிருந்து (பெயர்கள், அளவுகள், உரிமங்கள்) பெறப்படுகின்றன. ஒவ்வொரு மாடல் பக்கமும் அசலுக்கான இணைப்பைக் கொண்டுள்ளது.