በmeta-llama

Llama 3.3 70B Instruct

meta-llama/Llama-3.3-70B-Instruct

ሁሉም አሃዞች ግምቶች ናቸው። እውነተኛው የሜሞሪ አጠቃቀም እና ፍጥነት በድራይቨሮችዎ፣ በቅንብሮችዎ እና በሚሠሩ ሌሎች ፕሮግራሞች ላይ ይመሠረታል።

ፈቃዱ የሞዴሉ አምራች ነው። ሞዴሉን ከመጠቀምዎ በፊት ውሉን ይመልከቱ።

Hugging Face ይህን ሞዴል ከማውረድዎ በፊት የአምራቹን ውል እንዲቀበሉ ይጠይቃል። ለዚህ ሞዴል ኪት አይሸጥም።

በኳንታይዜሽን የሚያስፈልግ ሜሞሪ

በ8,192 ቶከኖች ኮንቴክስት፣ ለሩንታይም የሚያስፈልገውን 0.8 GB ጨምሮ።

በQ4_K_M እና በ8,192 ቶከኖች ኮንቴክስት።

ከምንዘረዝራቸው ሃርድዌሮች ውስጥ በዚህ ቅንብር ሙሉ በሙሉ በግራፊክስ ካርዱ ላይ የሚያሄደው የለም።

በጣም ርካሽ ሻጭ፦ NanoGPT፣ በነባሪ አጠቃቀም (በቀን 200 ጥያቄዎች) በወር $0.99።

የሞዴል ዝርዝሮች የተወሰዱት ከHugging Face የሕዝብ ዝርዝሮች ነው (ስሞች፣ መጠኖች፣ ፈቃዶች)። እያንዳንዱ የሞዴል ገጽ ወደ ዋናው ይመራል።