meta-llama ਵੱਲੋਂ
Llama 3.3 70B Instruct
meta-llama/Llama-3.3-70B-Instruct
ਸਾਰੇ ਅੰਕੜੇ ਅੰਦਾਜ਼ੇ ਹਨ। ਮੈਮਰੀ ਦੀ ਅਸਲ ਵਰਤੋਂ ਅਤੇ ਗਤੀ ਤੁਹਾਡੇ ਡਰਾਈਵਰਾਂ, ਸੈਟਿੰਗਾਂ ਅਤੇ ਚੱਲ ਰਹੇ ਹੋਰ ਪ੍ਰੋਗਰਾਮਾਂ ਉੱਤੇ ਨਿਰਭਰ ਕਰਦੀ ਹੈ।
- ਪੈਰਾਮੀਟਰ
- 71B
- ਲਾਇਸੰਸ
- llama3.3
- ਪ੍ਰਕਾਸ਼ਿਤ
- Nov 26, 2024
ਲਾਇਸੰਸ ਮਾਡਲ ਦੇ ਨਿਰਮਾਤਾ ਦਾ ਹੈ। ਮਾਡਲ ਵਰਤਣ ਤੋਂ ਪਹਿਲਾਂ ਇਸ ਦੀਆਂ ਸ਼ਰਤਾਂ ਵੇਖ ਲਓ।
Hugging Face ਚਾਹੁੰਦਾ ਹੈ ਕਿ ਇਹ ਮਾਡਲ ਡਾਊਨਲੋਡ ਕਰਨ ਤੋਂ ਪਹਿਲਾਂ ਤੁਸੀਂ ਨਿਰਮਾਤਾ ਦੀਆਂ ਸ਼ਰਤਾਂ ਮੰਨੋ। ਇਸ ਲਈ ਕੋਈ ਕਿੱਟ ਨਹੀਂ ਵੇਚੀ ਜਾਂਦੀ।
Hugging Face ਉੱਤੇ ਮੂਲ ↗ਕੁਆਂਟਾਈਜ਼ੇਸ਼ਨ ਅਨੁਸਾਰ ਲੋੜੀਂਦੀ ਮੈਮਰੀ
8,192 ਟੋਕਨ ਦੇ ਸੰਦਰਭ ਉੱਤੇ, ਰਨਟਾਈਮ ਲਈ 0.8 GB ਸਮੇਤ।
| ਕੁਆਂਟਾਈਜ਼ੇਸ਼ਨ | ਮਾਡਲ ਫਾਈਲ | ਕੁੱਲ |
|---|---|---|
| Q4_K_M | 42.8 GB | 47.9 GB(ਮੋਟਾ ਅੰਦਾਜ਼ਾ) |
| Q5_K_M | 50.2 GB | 56.0 GB(ਮੋਟਾ ਅੰਦਾਜ਼ਾ) |
| Q6_K | 57.9 GB | 64.4 GB(ਮੋਟਾ ਅੰਦਾਜ਼ਾ) |
| Q8_0 | 75.0 GB | 83.3 GB(ਮੋਟਾ ਅੰਦਾਜ਼ਾ) |
| F16 | 141.1 GB | 156.0 GB(ਮੋਟਾ ਅੰਦਾਜ਼ਾ) |
ਹਾਰਡਵੇਅਰ ਜੋ ਇਸ ਨੂੰ ਗ੍ਰਾਫਿਕਸ ਕਾਰਡ ਉੱਤੇ ਚਲਾਉਂਦਾ ਹੈ
Q4_K_M ਅਤੇ 8,192 ਟੋਕਨ ਦੇ ਸੰਦਰਭ ਉੱਤੇ।
ਸਾਡੇ ਵੱਲੋਂ ਸੂਚੀਬੱਧ ਕੋਈ ਵੀ ਹਾਰਡਵੇਅਰ ਇਸ ਸੈਟਿੰਗ ਉੱਤੇ ਇਸ ਨੂੰ ਪੂਰੀ ਤਰ੍ਹਾਂ ਗ੍ਰਾਫਿਕਸ ਕਾਰਡ ਉੱਤੇ ਨਹੀਂ ਚਲਾਉਂਦਾ।
ਇਸ ਨੂੰ ਆਪਣੇ ਕੰਪਿਊਟਰ ਉੱਤੇ ਜਾਂਚੋਉਹੀ ਮਾਡਲ API ਰਾਹੀਂ
ਸਭ ਤੋਂ ਸਸਤਾ ਵਿਕਰੇਤਾ: NanoGPT, ਮੂਲ ਵਰਤੋਂ (ਪ੍ਰਤੀ ਦਿਨ 200 ਬੇਨਤੀਆਂ) ਉੱਤੇ ਪ੍ਰਤੀ ਮਹੀਨਾ $0.99।
Model Price Map ਉੱਤੇ ਕੀਮਤਾਂ ਵੇਖੋਮਾਡਲ ਦੇ ਵੇਰਵੇ Hugging Face ਦੀਆਂ ਜਨਤਕ ਸੂਚੀਆਂ (ਨਾਮ, ਆਕਾਰ, ਲਾਇਸੰਸ) ਤੋਂ ਲਏ ਗਏ ਹਨ। ਹਰ ਮਾਡਲ ਪੰਨਾ ਮੂਲ ਪੰਨੇ ਨਾਲ ਜੋੜਦਾ ਹੈ।