← Run Locally · Όλα τα μοντέλα
από meta-llama
Llama 3.3 70B Instruct
meta-llama/Llama-3.3-70B-Instruct
Όλες οι τιμές είναι εκτιμήσεις. Η πραγματική χρήση μνήμης και η ταχύτητα εξαρτώνται από τους οδηγούς (drivers) σας, τις ρυθμίσεις σας και τα άλλα προγράμματα που εκτελούνται.
- Παράμετροι
- 71B
- Άδεια
- llama3.3
- Δημοσιεύθηκε
- 26 Νοε 2024
Η άδεια είναι αυτή του κατασκευαστή του μοντέλου. Ελέγξτε τους όρους της πριν χρησιμοποιήσετε το μοντέλο.
Το Hugging Face ζητά να αποδεχτείτε τους όρους του κατασκευαστή πριν κατεβάσετε αυτό το μοντέλο. Για αυτό δεν πωλείται κιτ.
Πρωτότυπο στο Hugging Face ↗Απαιτούμενη μνήμη ανά κβάντιση
Με περιβάλλον 8.192 tokens, συμπεριλαμβανομένων 0,8 GB για το περιβάλλον εκτέλεσης.
| Κβάντιση | Αρχείο μοντέλου | Σύνολο |
|---|---|---|
| Q4_K_M | 42.8 GB | 47.9 GB(κατά προσέγγιση) |
| Q5_K_M | 50.2 GB | 56.0 GB(κατά προσέγγιση) |
| Q6_K | 57.9 GB | 64.4 GB(κατά προσέγγιση) |
| Q8_0 | 75.0 GB | 83.3 GB(κατά προσέγγιση) |
| F16 | 141.1 GB | 156.0 GB(κατά προσέγγιση) |
Υλικό που το εκτελεί στην κάρτα γραφικών
Με Q4_K_M και περιβάλλον 8.192 tokens.
Κανένα από τα υλικά που συμπεριλαμβάνουμε δεν το εκτελεί πλήρως στην κάρτα γραφικών με αυτή τη ρύθμιση.
Ελέγξτε το στον υπολογιστή σαςΤο ίδιο μοντέλο μέσω API
Φθηνότερος πάροχος: NanoGPT, $0.99 τον μήνα με την προεπιλεγμένη χρήση (200 αιτήματα την ημέρα).
Δείτε τις τιμές στο Model Price MapΤα στοιχεία των μοντέλων προέρχονται από τις δημόσιες καταχωρίσεις του Hugging Face (ονόματα, μεγέθη, άδειες). Κάθε σελίδα μοντέλου παραπέμπει στο πρωτότυπο.