← Run Locally · সব মডেল

meta-llama-এর তৈরি

Llama 3.3 70B Instruct

meta-llama/Llama-3.3-70B-Instruct

সব সংখ্যাই আনুমানিক। প্রকৃত মেমরি ব্যবহার ও গতি আপনার ড্রাইভার, সেটিংস এবং চালু থাকা অন্যান্য প্রোগ্রামের ওপর নির্ভর করে।

প্যারামিটার
71B
লাইসেন্স
llama3.3
প্রকাশিত
২৬ নভে, ২০২৪

লাইসেন্সটি মডেল নির্মাতার। মডেল ব্যবহারের আগে এর শর্তগুলো দেখে নিন।

এই মডেল ডাউনলোডের আগে Hugging Face আপনাকে নির্মাতার শর্ত মেনে নিতে বলে। এর জন্য কোনো কিট বিক্রি করা হয় না।

Hugging Face-এ মূল পেজ ↗

কোয়ান্টাইজেশন অনুযায়ী প্রয়োজনীয় মেমরি

৮,১৯২ টোকেন কনটেক্সটে, রানটাইমের জন্য 0.8 GB সহ।

কোয়ান্টাইজেশনমডেল ফাইলমোট
Q4_K_M42.8 GB47.9 GB(মোটামুটি)
Q5_K_M50.2 GB56.0 GB(মোটামুটি)
Q6_K57.9 GB64.4 GB(মোটামুটি)
Q8_075.0 GB83.3 GB(মোটামুটি)
F16141.1 GB156.0 GB(মোটামুটি)

যে হার্ডওয়্যারে এটি গ্রাফিক্স কার্ডে চলে

Q4_K_M এবং ৮,১৯২ টোকেন কনটেক্সটে।

আমাদের তালিকাভুক্ত কোনো হার্ডওয়্যারই এই সেটিংয়ে এটি পুরোপুরি গ্রাফিক্স কার্ডে চালাতে পারে না।

আপনার কম্পিউটারে যাচাই করুন

একই মডেল এপিআইয়ের মাধ্যমে

সবচেয়ে সস্তা বিক্রেতা: NanoGPT, ডিফল্ট ব্যবহারে (প্রতিদিন 200টি অনুরোধ) প্রতি মাসে $0.99।

Model Price Map-এ দাম দেখুন

মডেলের তথ্য (নাম, আকার, লাইসেন্স) Hugging Face-এর পাবলিক তালিকা থেকে নেওয়া। প্রতিটি মডেল পেজে মূল পেজের লিংক আছে।

নতুন কী

  • এখন আপনি এমন লিংক শেয়ার করতে পারেন যা আপনার বেছে নেওয়া ভাষায় খোলে: ভাষা বদলালে পেজের ঠিকানাও বদলে যায়।