ავტორი: meta-llama
Llama 3.3 70B Instruct
meta-llama/Llama-3.3-70B-Instruct
ყველა მაჩვენებელი სავარაუდოა. მეხსიერების რეალური მოხმარება და სიჩქარე დამოკიდებულია თქვენს დრაივერებზე, პარამეტრებზე და სხვა გაშვებულ პროგრამებზე.
- პარამეტრები
- 71B
- ლიცენზია
- llama3.3
- გამოქვეყნდა
- Nov 26, 2024
ლიცენზია მოდელის მწარმოებლისაა. მოდელის გამოყენებამდე გადაამოწმეთ მისი პირობები.
Hugging Face მოითხოვს, რომ ამ მოდელის ჩამოტვირთვამდე მიიღოთ მწარმოებლის პირობები. ამ მოდელისთვის კომპლექტი არ იყიდება.
ორიგინალი Hugging Face-ზე ↗საჭირო მეხსიერება კვანტიზაციის მიხედვით
8,192 ტოკენის კონტექსტისას, გაშვების გარემოსთვის განკუთვნილი 0,8 GB-ის ჩათვლით.
| კვანტიზაცია | მოდელის ფაილი | სულ |
|---|---|---|
| Q4_K_M | 42.8 GB | 47.9 GB(მიახლოებით) |
| Q5_K_M | 50.2 GB | 56.0 GB(მიახლოებით) |
| Q6_K | 57.9 GB | 64.4 GB(მიახლოებით) |
| Q8_0 | 75.0 GB | 83.3 GB(მიახლოებით) |
| F16 | 141.1 GB | 156.0 GB(მიახლოებით) |
აპარატურა, რომელიც მას გრაფიკულ ბარათზე უშვებს
Q4_K_M-ისას და 8,192 ტოკენის კონტექსტისას.
ჩვენ მიერ ჩამოთვლილი არც ერთი აპარატურა ამ პარამეტრებით მას სრულად გრაფიკულ ბარათზე არ უშვებს.
გადაამოწმეთ თქვენს კომპიუტერზეიგივე მოდელი API-ის საშუალებით
ყველაზე იაფი გამყიდველი: NanoGPT, $0.99 თვეში ნაგულისხმევი გამოყენებისას (200 მოთხოვნა დღეში).
ფასების ნახვა Model Price Map-ზემოდელების მონაცემები აღებულია Hugging Face-ის საჯარო ჩანაწერებიდან (სახელები, ზომები, ლიცენზიები). თითოეული მოდელის გვერდი ორიგინალს უკავშირდება.