meta-llama විසින්
Llama 3.2 1B Instruct
meta-llama/Llama-3.2-1B-Instruct
සියලු අගයන් ඇස්තමේන්තු වේ. සත්ය මතක භාවිතය සහ වේගය ඔබේ ඩ්රයිවර්, සැකසුම් සහ ක්රියාත්මක වන වෙනත් වැඩසටහන් මත රඳා පවතී.
- පරාමිති
- 1.2B
- බලපත්රය
- llama3.2
- ප්රකාශිත දිනය
- Sep 18, 2024
බලපත්රය මාදිලි නිෂ්පාදකයාගේය. මාදිලිය භාවිතා කිරීමට පෙර එහි කොන්දේසි පරීක්ෂා කරන්න.
මෙම මාදිලිය බාගත කිරීමට පෙර නිෂ්පාදකයාගේ කොන්දේසි පිළිගන්නා ලෙස Hugging Face ඔබෙන් ඉල්ලයි. ඒ සඳහා කට්ටලයක් විකුණනු නොලැබේ.
Hugging Face හි මුල් පිටුව ↗ක්වන්ටීකරණය අනුව අවශ්ය මතකය
සන්දර්භ ටෝකන 8,192 දී, ධාවන පරිසරය සඳහා 0.8 GB ද ඇතුළුව.
| ක්වන්ටීකරණය | මාදිලි ගොනුව | මුළු ප්රමාණය |
|---|---|---|
| Q4_K_M | 0.7 GB | 1.6 GB(ආසන්න) |
| Q5_K_M | 0.9 GB | 1.8 GB(ආසන්න) |
| Q6_K | 1.0 GB | 1.9 GB(ආසන්න) |
| Q8_0 | 1.3 GB | 2.2 GB(ආසන්න) |
| F16 | 2.5 GB | 3.5 GB(ආසන්න) |
එය ග්රැෆික්ස් කාඩ්පතෙන් ක්රියාත්මක කරන දෘඩාංග
Q4_K_M සහ සන්දර්භ ටෝකන 8,192 දී.
- NVIDIA GeForce RTX 3060 (12 GB)
- NVIDIA GeForce RTX 3070
- NVIDIA GeForce RTX 3080 (10 GB)
- NVIDIA GeForce RTX 3090
- NVIDIA GeForce RTX 4070
- NVIDIA GeForce RTX 4070 Ti SUPER
- NVIDIA GeForce RTX 4080 SUPER
- NVIDIA GeForce RTX 4090
- NVIDIA GeForce RTX 5060 Ti (16 GB)
- NVIDIA GeForce RTX 5070
- NVIDIA GeForce RTX 5070 Ti
- NVIDIA GeForce RTX 5080
- NVIDIA GeForce RTX 5090
- AMD Radeon RX 7600
- AMD Radeon RX 7700 XT
- AMD Radeon RX 7800 XT
- AMD Radeon RX 7900 XT
- AMD Radeon RX 7900 XTX
- AMD Radeon RX 9070 XT
- Apple M1 Pro
- Apple M1 Max
- Apple M2
- Apple M2 Pro
- Apple M2 Max
- Apple M3
- Apple M3 Pro
- Apple M3 Max (30-core GPU)
- Apple M3 Max (40-core GPU)
- Apple M4
- Apple M4 Pro
- Apple M4 Max (32-core GPU)
- Apple M4 Max (40-core GPU)
- Apple M5
- AMD Ryzen AI Max+ 395
එම මාදිලියම API එකක් හරහා
අඩුම මිල විකුණුම්කරු: Inference, සාමාන්ය භාවිතයේදී (දිනකට ඉල්ලීම් 200ක්) මාසයකට $0.09.
Model Price Map හි මිල ගණන් බලන්නමාදිලි විස්තර ලැබෙන්නේ Hugging Face හි පොදු ලැයිස්තුගත කිරීම්වලිනි (නම්, ප්රමාණ, බලපත්ර). සෑම මාදිලි පිටුවක්ම මුල් පිටුවට සම්බන්ධ වේ.