ដោយ meta-llama
Llama 3.3 70B Instruct
meta-llama/Llama-3.3-70B-Instruct
តួលេខទាំងអស់ជាការប៉ាន់ស្មាន។ ការប្រើអង្គចងចាំ និងល្បឿនពិតប្រាកដ អាស្រ័យលើកម្មវិធីបញ្ជា (driver) ការកំណត់ និងកម្មវិធីផ្សេងទៀតដែលកំពុងដំណើរការរបស់អ្នក។
- ប៉ារ៉ាម៉ែត្រ
- 71B
- អាជ្ញាប័ណ្ណ
- llama3.3
- បានបោះពុម្ពផ្សាយ
- Nov 26, 2024
អាជ្ញាប័ណ្ណនេះជារបស់អ្នកផលិតម៉ូដែល។ សូមពិនិត្យលក្ខខណ្ឌរបស់វា មុនពេលប្រើម៉ូដែល។
Hugging Face តម្រូវឱ្យអ្នកយល់ព្រមលក្ខខណ្ឌរបស់អ្នកផលិត មុនពេលទាញយកម៉ូដែលនេះ។ មិនមានកញ្ចប់លក់សម្រាប់វាទេ។
ប្រភពដើមនៅលើ Hugging Face ↗អង្គចងចាំដែលត្រូវការតាម quantization
នៅបរិបទ 8,192 token រួមទាំង 0.8 GB សម្រាប់ runtime។
| Quantization | ឯកសារម៉ូដែល | សរុប |
|---|---|---|
| Q4_K_M | 42.8 GB | 47.9 GB(ប្រហាក់ប្រហែល) |
| Q5_K_M | 50.2 GB | 56.0 GB(ប្រហាក់ប្រហែល) |
| Q6_K | 57.9 GB | 64.4 GB(ប្រហាក់ប្រហែល) |
| Q8_0 | 75.0 GB | 83.3 GB(ប្រហាក់ប្រហែល) |
| F16 | 141.1 GB | 156.0 GB(ប្រហាក់ប្រហែល) |
ផ្នែករឹងដែលដំណើរការវាលើកាតក្រាហ្វិក
នៅ Q4_K_M និងបរិបទ 8,192 token។
គ្មានផ្នែករឹងណាក្នុងបញ្ជីរបស់យើង ដំណើរការវាទាំងស្រុងលើកាតក្រាហ្វិកនៅការកំណត់នេះទេ។
ពិនិត្យវានៅលើកុំព្យូទ័ររបស់អ្នកម៉ូដែលដូចគ្នាតាមរយៈ API
អ្នកលក់ថោកបំផុត៖ NanoGPT, $0.99 ក្នុងមួយខែ តាមការប្រើប្រាស់លំនាំដើម (200 សំណើក្នុងមួយថ្ងៃ)។
មើលតម្លៃនៅលើ Model Price Mapព័ត៌មានលម្អិតអំពីម៉ូដែល (ឈ្មោះ ទំហំ អាជ្ញាប័ណ្ណ) មកពីបញ្ជីសាធារណៈរបស់ Hugging Face។ ទំព័រម៉ូដែលនីមួយៗមានតំណទៅកាន់ប្រភពដើម។