meta-llama විසින්
Llama 3.3 70B Instruct
meta-llama/Llama-3.3-70B-Instruct
සියලු අගයන් ඇස්තමේන්තු වේ. සත්‍ය මතක භාවිතය සහ වේගය ඔබේ ඩ්‍රයිවර්, සැකසුම් සහ ක්‍රියාත්මක වන වෙනත් වැඩසටහන් මත රඳා පවතී.
- පරාමිති
- 71B
- බලපත්‍රය
- llama3.3
- ප්‍රකාශිත දිනය
- Nov 26, 2024
බලපත්‍රය මාදිලි නිෂ්පාදකයාගේය. මාදිලිය භාවිතා කිරීමට පෙර එහි කොන්දේසි පරීක්ෂා කරන්න.
මෙම මාදිලිය බාගත කිරීමට පෙර නිෂ්පාදකයාගේ කොන්දේසි පිළිගන්නා ලෙස Hugging Face ඔබෙන් ඉල්ලයි. ඒ සඳහා කට්ටලයක් විකුණනු නොලැබේ.
Hugging Face හි මුල් පිටුව ↗ක්වන්ටීකරණය අනුව අවශ්‍ය මතකය
සන්දර්භ ටෝකන 8,192 දී, ධාවන පරිසරය සඳහා 0.8 GB ද ඇතුළුව.
| ක්වන්ටීකරණය | මාදිලි ගොනුව | මුළු ප්‍රමාණය |
|---|---|---|
| Q4_K_M | 42.8 GB | 47.9 GB(ආසන්න) |
| Q5_K_M | 50.2 GB | 56.0 GB(ආසන්න) |
| Q6_K | 57.9 GB | 64.4 GB(ආසන්න) |
| Q8_0 | 75.0 GB | 83.3 GB(ආසන්න) |
| F16 | 141.1 GB | 156.0 GB(ආසන්න) |
එය ග්‍රැෆික්ස් කාඩ්පතෙන් ක්‍රියාත්මක කරන දෘඩාංග
Q4_K_M සහ සන්දර්භ ටෝකන 8,192 දී.
අප ලැයිස්තුගත කළ දෘඩාංග අතරින් කිසිවක් මෙම සැකසුමේදී එය සම්පූර්ණයෙන්ම ග්‍රැෆික්ස් කාඩ්පතෙන් ක්‍රියාත්මක නොකරයි.
ඔබේ පරිගණකයේ පරීක්ෂා කරන්නඑම මාදිලියම API එකක් හරහා
අඩුම මිල විකුණුම්කරු: NanoGPT, සාමාන්‍ය භාවිතයේදී (දිනකට ඉල්ලීම් 200ක්) මාසයකට $0.99.
Model Price Map හි මිල ගණන් බලන්නමාදිලි විස්තර ලැබෙන්නේ Hugging Face හි පොදු ලැයිස්තුගත කිරීම්වලිනි (නම්, ප්‍රමාණ, බලපත්‍ර). සෑම මාදිලි පිටුවක්ම මුල් පිටුවට සම්බන්ධ වේ.