meta-llama-এর তৈরি
Llama 3.3 70B Instruct
meta-llama/Llama-3.3-70B-Instruct
সব সংখ্যাই আনুমানিক। প্রকৃত মেমরি ব্যবহার ও গতি আপনার ড্রাইভার, সেটিংস এবং চালু থাকা অন্যান্য প্রোগ্রামের ওপর নির্ভর করে।
- প্যারামিটার
- 71B
- লাইসেন্স
- llama3.3
- প্রকাশিত
- ২৬ নভে, ২০২৪
লাইসেন্সটি মডেল নির্মাতার। মডেল ব্যবহারের আগে এর শর্তগুলো দেখে নিন।
এই মডেল ডাউনলোডের আগে Hugging Face আপনাকে নির্মাতার শর্ত মেনে নিতে বলে। এর জন্য কোনো কিট বিক্রি করা হয় না।
Hugging Face-এ মূল পেজ ↗কোয়ান্টাইজেশন অনুযায়ী প্রয়োজনীয় মেমরি
৮,১৯২ টোকেন কনটেক্সটে, রানটাইমের জন্য 0.8 GB সহ।
| কোয়ান্টাইজেশন | মডেল ফাইল | মোট |
|---|---|---|
| Q4_K_M | 42.8 GB | 47.9 GB(মোটামুটি) |
| Q5_K_M | 50.2 GB | 56.0 GB(মোটামুটি) |
| Q6_K | 57.9 GB | 64.4 GB(মোটামুটি) |
| Q8_0 | 75.0 GB | 83.3 GB(মোটামুটি) |
| F16 | 141.1 GB | 156.0 GB(মোটামুটি) |
যে হার্ডওয়্যারে এটি গ্রাফিক্স কার্ডে চলে
Q4_K_M এবং ৮,১৯২ টোকেন কনটেক্সটে।
আমাদের তালিকাভুক্ত কোনো হার্ডওয়্যারই এই সেটিংয়ে এটি পুরোপুরি গ্রাফিক্স কার্ডে চালাতে পারে না।
আপনার কম্পিউটারে যাচাই করুনএকই মডেল এপিআইয়ের মাধ্যমে
সবচেয়ে সস্তা বিক্রেতা: NanoGPT, ডিফল্ট ব্যবহারে (প্রতিদিন 200টি অনুরোধ) প্রতি মাসে $0.99।
Model Price Map-এ দাম দেখুনমডেলের তথ্য (নাম, আকার, লাইসেন্স) Hugging Face-এর পাবলিক তালিকা থেকে নেওয়া। প্রতিটি মডেল পেজে মূল পেজের লিংক আছে।