← Run Locally · সকলো মডেল

meta-llama ৰ দ্বাৰা

Llama 3.3 70B Instruct

meta-llama/Llama-3.3-70B-Instruct

সকলো সংখ্যা আনুমানিক। মেম'ৰিৰ প্ৰকৃত ব্যৱহাৰ আৰু গতি আপোনাৰ ড্ৰাইভাৰ, ছেটিং আৰু চলি থকা অন্য প্ৰগ্ৰামৰ ওপৰত নিৰ্ভৰ কৰে।

পেৰামিটাৰ
71B
অনুজ্ঞাপত্ৰ
llama3.3
প্ৰকাশৰ তাৰিখ
Nov 26, 2024

অনুজ্ঞাপত্ৰটো মডেল নিৰ্মাতাৰ। মডেলটো ব্যৱহাৰ কৰাৰ আগতে ইয়াৰ চৰ্তবোৰ পৰীক্ষা কৰক।

এই মডেলটো ডাউনলোড কৰাৰ আগতে Hugging Face এ আপোনাক নিৰ্মাতাৰ চৰ্ত গ্ৰহণ কৰিবলৈ কয়। ইয়াৰ বাবে কোনো কিট বিক্ৰী কৰা নহয়।

Hugging Face ত মূল ↗

কোৱান্টাইজেচন অনুসৰি প্ৰয়োজনীয় মেম'ৰি

8,192 টোকেনৰ কনটেক্সটত, ৰানটাইমৰ বাবে 0.8 GB সহ।

কোৱান্টাইজেচনমডেল ফাইলমুঠ
Q4_K_M42.8 GB47.9 GB(মোটামুটি)
Q5_K_M50.2 GB56.0 GB(মোটামুটি)
Q6_K57.9 GB64.4 GB(মোটামুটি)
Q8_075.0 GB83.3 GB(মোটামুটি)
F16141.1 GB156.0 GB(মোটামুটি)

গ্ৰাফিক্স কাৰ্ডত ইয়াক চলাব পৰা হাৰ্ডৱেৰ

Q4_K_M আৰু 8,192 টোকেনৰ কনটেক্সটত।

আমি তালিকাভুক্ত কৰা কোনো হাৰ্ডৱেৰেই এই ছেটিঙত ইয়াক সম্পূৰ্ণৰূপে গ্ৰাফিক্স কাৰ্ডত চলাব নোৱাৰে।

আপোনাৰ কম্পিউটাৰত পৰীক্ষা কৰক

API ৰ জৰিয়তে একেটা মডেল

আটাইতকৈ সস্তা বিক্ৰেতা: NanoGPT, ডিফল'ট ব্যৱহাৰত (দিনত 200 টা অনুৰোধ) এমাহত $0.99।

Model Price Map ত মূল্যবোৰ চাওক

মডেলৰ তথ্য Hugging Face ৰ সৰ্বসাধাৰণ তালিকাৰ পৰা লোৱা (নাম, আকাৰ, অনুজ্ঞাপত্ৰ)। প্ৰতিটো মডেল পৃষ্ঠাই মূলটোলৈ লিংক দিয়ে।

নতুন কি আছে

  • এতিয়া আপুনি এনে এটা লিংক শ্বেয়াৰ কৰিব পাৰে যিটো আপুনি বাছনি কৰা ভাষাত খোল খায়: ভাষা সলনি কৰিলে পৃষ্ঠাৰ ঠিকনা আপডেট হয়।