meta-llama ଦ୍ୱାରା
Llama 3.3 70B Instruct
meta-llama/Llama-3.3-70B-Instruct
ସମସ୍ତ ଅଙ୍କ ଅନୁମାନ ମାତ୍ର। ପ୍ରକୃତ ମେମୋରୀ ବ୍ୟବହାର ଓ ଗତି ଆପଣଙ୍କ ଡ୍ରାଇଭର, ସେଟିଂସ ଏବଂ ଚାଲୁଥିବା ଅନ୍ୟ ପ୍ରୋଗ୍ରାମ ଉପରେ ନିର୍ଭର କରେ।
- ପାରାମିଟର
- 71B
- ଲାଇସେନ୍ସ
- llama3.3
- ପ୍ରକାଶିତ
- Nov 26, 2024
ଲାଇସେନ୍ସ ମଡେଲ ନିର୍ମାତାଙ୍କର। ମଡେଲ ବ୍ୟବହାର କରିବା ପୂର୍ବରୁ ଏହାର ସର୍ତ୍ତ ଯାଞ୍ଚ କରନ୍ତୁ।
ଏହି ମଡେଲ ଡାଉନଲୋଡ କରିବା ପୂର୍ବରୁ Hugging Face ଆପଣଙ୍କୁ ନିର୍ମାତାଙ୍କ ସର୍ତ୍ତ ଗ୍ରହଣ କରିବାକୁ କହେ। ଏଥିପାଇଁ କୌଣସି କିଟ ବିକ୍ରି ହୁଏ ନାହିଁ।
Hugging Face ରେ ମୂଳ ପୃଷ୍ଠା ↗କ୍ୱାଣ୍ଟାଇଜେସନ ଅନୁସାରେ ଦରକାରୀ ମେମୋରୀ
8,192 ଟୋକେନ କନଟେକ୍ସଟରେ, ରନଟାଇମ ପାଇଁ 0.8 GB ସମେତ।
| କ୍ୱାଣ୍ଟାଇଜେସନ | ମଡେଲ ଫାଇଲ | ମୋଟ |
|---|---|---|
| Q4_K_M | 42.8 GB | 47.9 GB(ମୋଟାମୋଟି) |
| Q5_K_M | 50.2 GB | 56.0 GB(ମୋଟାମୋଟି) |
| Q6_K | 57.9 GB | 64.4 GB(ମୋଟାମୋଟି) |
| Q8_0 | 75.0 GB | 83.3 GB(ମୋଟାମୋଟି) |
| F16 | 141.1 GB | 156.0 GB(ମୋଟାମୋଟି) |
ଗ୍ରାଫିକ୍ସ କାର୍ଡରେ ଏହାକୁ ଚଲାଉଥିବା ହାର୍ଡୱେୟାର
Q4_K_M ଓ 8,192 ଟୋକେନ କନଟେକ୍ସଟରେ।
ଆମେ ତାଲିକାଭୁକ୍ତ କରିଥିବା କୌଣସି ହାର୍ଡୱେୟାର ଏହି ସେଟିଂରେ ଏହାକୁ ସମ୍ପୂର୍ଣ୍ଣ ଭାବେ ଗ୍ରାଫିକ୍ସ କାର୍ଡରେ ଚଲାଏ ନାହିଁ।
ଆପଣଙ୍କ କମ୍ପ୍ୟୁଟରରେ ଯାଞ୍ଚ କରନ୍ତୁଏକ API ମାଧ୍ୟମରେ ସେହି ମଡେଲ
ସବୁଠାରୁ ସସ୍ତା ବିକ୍ରେତା: NanoGPT, ଡିଫଲ୍ଟ ବ୍ୟବହାରରେ (ଦିନକୁ 200 ଅନୁରୋଧ) ମାସକୁ $0.99।
Model Price Map ରେ ମୂଲ୍ୟ ଦେଖନ୍ତୁମଡେଲ ବିବରଣୀ Hugging Face ର ସାର୍ବଜନୀନ ତାଲିକାରୁ ଆସିଛି (ନାମ, ଆକାର, ଲାଇସେନ୍ସ)। ପ୍ରତ୍ୟେକ ମଡେଲ ପୃଷ୍ଠା ମୂଳ ପୃଷ୍ଠାକୁ ଲିଙ୍କ କରେ।