← Run Locally · ម៉ូដែលទាំងអស់

ដោយ meta-llama

Llama 3.3 70B Instruct

meta-llama/Llama-3.3-70B-Instruct

តួលេខទាំងអស់ជាការប៉ាន់ស្មាន។ ការប្រើអង្គចងចាំ និងល្បឿនពិតប្រាកដ អាស្រ័យលើកម្មវិធីបញ្ជា (driver) ការកំណត់ និងកម្មវិធីផ្សេងទៀតដែលកំពុងដំណើរការរបស់អ្នក។

ប៉ារ៉ាម៉ែត្រ
71B
អាជ្ញាប័ណ្ណ
llama3.3
បានបោះពុម្ពផ្សាយ
Nov 26, 2024

អាជ្ញាប័ណ្ណនេះជារបស់អ្នកផលិតម៉ូដែល។ សូមពិនិត្យលក្ខខណ្ឌរបស់វា មុនពេលប្រើម៉ូដែល។

Hugging Face តម្រូវឱ្យអ្នកយល់ព្រមលក្ខខណ្ឌរបស់អ្នកផលិត មុនពេលទាញយកម៉ូដែលនេះ។ មិនមានកញ្ចប់លក់សម្រាប់វាទេ។

ប្រភពដើមនៅលើ Hugging Face ↗

អង្គចងចាំដែលត្រូវការតាម quantization

នៅបរិបទ 8,192 token រួមទាំង 0.8 GB សម្រាប់ runtime។

Quantizationឯកសារម៉ូដែលសរុប
Q4_K_M42.8 GB47.9 GB(ប្រហាក់ប្រហែល)
Q5_K_M50.2 GB56.0 GB(ប្រហាក់ប្រហែល)
Q6_K57.9 GB64.4 GB(ប្រហាក់ប្រហែល)
Q8_075.0 GB83.3 GB(ប្រហាក់ប្រហែល)
F16141.1 GB156.0 GB(ប្រហាក់ប្រហែល)

ផ្នែករឹងដែលដំណើរការវាលើកាតក្រាហ្វិក

នៅ Q4_K_M និងបរិបទ 8,192 token។

គ្មានផ្នែករឹងណាក្នុងបញ្ជីរបស់យើង ដំណើរការវាទាំងស្រុងលើកាតក្រាហ្វិកនៅការកំណត់នេះទេ។

ពិនិត្យវានៅលើកុំព្យូទ័ររបស់អ្នក

ម៉ូដែលដូចគ្នាតាមរយៈ API

អ្នកលក់ថោកបំផុត៖ NanoGPT, $0.99 ក្នុងមួយខែ តាមការប្រើប្រាស់លំនាំដើម (200 សំណើក្នុងមួយថ្ងៃ)។

មើលតម្លៃនៅលើ Model Price Map

ព័ត៌មានលម្អិតអំពីម៉ូដែល (ឈ្មោះ ទំហំ អាជ្ញាប័ណ្ណ) មកពីបញ្ជីសាធារណៈរបស់ Hugging Face។ ទំព័រម៉ូដែលនីមួយៗមានតំណទៅកាន់ប្រភពដើម។

អ្វីដែលថ្មី

  • ឥឡូវនេះ អ្នកអាចចែករំលែកតំណដែលបើកជាភាសាដែលអ្នកបានជ្រើសរើស៖ ពេលប្តូរភាសា អាសយដ្ឋានទំព័រក៏ប្តូរតាមដែរ។