← Run Locally · அனைத்து மாடல்கள்
meta-llama உருவாக்கியது
Llama 3.3 70B Instruct
meta-llama/Llama-3.3-70B-Instruct
அனைத்து மதிப்புகளும் மதிப்பீடுகளே. உண்மையான நினைவகப் பயன்பாடும் வேகமும் உங்கள் டிரைவர்கள், அமைப்புகள் மற்றும் இயங்கும் பிற நிரல்களைப் பொறுத்தது.
- அளவுருக்கள்
- 71B
- உரிமம்
- llama3.3
- வெளியிடப்பட்டது
- 26 நவ., 2024
இது மாடல் உற்பத்தியாளரின் உரிமம். மாடலைப் பயன்படுத்தும் முன் அதன் விதிமுறைகளைச் சரிபாருங்கள்.
இந்த மாடலைப் பதிவிறக்கும் முன் உற்பத்தியாளரின் விதிமுறைகளை ஏற்குமாறு Hugging Face கேட்கிறது. இதற்கு கிட் விற்கப்படுவதில்லை.
Hugging Face-இல் உள்ள அசல் ↗குவாண்டைசேஷன் வாரியாகத் தேவையான நினைவகம்
8,192 டோக்கன்கள் சூழலில், இயக்கச்சூழலுக்கான 0.8 GB உட்பட.
| குவாண்டைசேஷன் | மாடல் கோப்பு | மொத்தம் |
|---|---|---|
| Q4_K_M | 42.8 GB | 47.9 GB(தோராயம்) |
| Q5_K_M | 50.2 GB | 56.0 GB(தோராயம்) |
| Q6_K | 57.9 GB | 64.4 GB(தோராயம்) |
| Q8_0 | 75.0 GB | 83.3 GB(தோராயம்) |
| F16 | 141.1 GB | 156.0 GB(தோராயம்) |
கிராபிக்ஸ் கார்டில் இதை இயக்கும் வன்பொருள்
Q4_K_M மற்றும் 8,192 டோக்கன்கள் சூழலில்.
நாங்கள் பட்டியலிடும் வன்பொருளில் எதுவும் இந்த அமைப்பில் இதை முழுமையாகக் கிராபிக்ஸ் கார்டில் இயக்காது.
உங்கள் கணினியில் சரிபாருங்கள்அதே மாடல் API வழியாக
மலிவான விற்பனையாளர்: NanoGPT, இயல்புப் பயன்பாட்டில் (ஒரு நாளைக்கு 200 கோரிக்கைகள்) மாதத்திற்கு $0.99.
Model Price Map-இல் விலைகளைப் பாருங்கள்மாடல் விவரங்கள் Hugging Face-இன் பொதுப் பட்டியல்களிலிருந்து (பெயர்கள், அளவுகள், உரிமங்கள்) பெறப்படுகின்றன. ஒவ்வொரு மாடல் பக்கமும் அசலுக்கான இணைப்பைக் கொண்டுள்ளது.