← Run Locally · ໂມເດວທັງໝົດ

ໂດຍ meta-llama

Llama 3.2 1B Instruct

meta-llama/Llama-3.2-1B-Instruct

ຕົວເລກທັງໝົດເປັນການຄາດຄະເນ. ການໃຊ້ໜ່ວຍຄວາມຈຳ ແລະ ຄວາມໄວຕົວຈິງຂຶ້ນກັບໄດເວີ, ການຕັ້ງຄ່າ ແລະ ໂປຣແກຣມອື່ນທີ່ກຳລັງເຮັດວຽກຢູ່.

ພາຣາມິເຕີ
1.2B
ໃບອະນຸຍາດ
llama3.2
ເຜີຍແຜ່ເມື່ອ
Sep 18, 2024

ໃບອະນຸຍາດເປັນຂອງຜູ້ຜະລິດໂມເດວ. ກະລຸນາກວດເງື່ອນໄຂຂອງມັນກ່ອນທີ່ທ່ານຈະໃຊ້ໂມເດວ.

Hugging Face ກຳນົດໃຫ້ທ່ານຍອມຮັບເງື່ອນໄຂຂອງຜູ້ຜະລິດກ່ອນດາວໂຫລດໂມເດວນີ້. ຈຶ່ງບໍ່ມີການຂາຍ kit ສຳລັບໂມເດວນີ້.

ຕົ້ນສະບັບໃນ Hugging Face ↗

ໜ່ວຍຄວາມຈຳທີ່ຕ້ອງການຕາມ quantization

ທີ່ບໍລິບົດ 8,192 token, ລວມ 0.8 GB ສຳລັບສະພາບແວດລ້ອມຣັນໄທມ໌.

Quantizationໄຟລ໌ໂມເດວລວມ
Q4_K_M0.7 GB1.6 GB(ໂດຍປະມານ)
Q5_K_M0.9 GB1.8 GB(ໂດຍປະມານ)
Q6_K1.0 GB1.9 GB(ໂດຍປະມານ)
Q8_01.3 GB2.2 GB(ໂດຍປະມານ)
F162.5 GB3.5 GB(ໂດຍປະມານ)

ຮາດແວທີ່ຣັນມັນໃນກາດຈໍໄດ້

ທີ່ Q4_K_M ແລະ ບໍລິບົດ 8,192 token.

  • NVIDIA GeForce RTX 3060 (12 GB)
  • NVIDIA GeForce RTX 3070
  • NVIDIA GeForce RTX 3080 (10 GB)
  • NVIDIA GeForce RTX 3090
  • NVIDIA GeForce RTX 4070
  • NVIDIA GeForce RTX 4070 Ti SUPER
  • NVIDIA GeForce RTX 4080 SUPER
  • NVIDIA GeForce RTX 4090
  • NVIDIA GeForce RTX 5060 Ti (16 GB)
  • NVIDIA GeForce RTX 5070
  • NVIDIA GeForce RTX 5070 Ti
  • NVIDIA GeForce RTX 5080
  • NVIDIA GeForce RTX 5090
  • AMD Radeon RX 7600
  • AMD Radeon RX 7700 XT
  • AMD Radeon RX 7800 XT
  • AMD Radeon RX 7900 XT
  • AMD Radeon RX 7900 XTX
  • AMD Radeon RX 9070 XT
  • Apple M1 Pro
  • Apple M1 Max
  • Apple M2
  • Apple M2 Pro
  • Apple M2 Max
  • Apple M3
  • Apple M3 Pro
  • Apple M3 Max (30-core GPU)
  • Apple M3 Max (40-core GPU)
  • Apple M4
  • Apple M4 Pro
  • Apple M4 Max (32-core GPU)
  • Apple M4 Max (40-core GPU)
  • Apple M5
  • AMD Ryzen AI Max+ 395
ກວດເບິ່ງໃນຄອມພິວເຕີຂອງທ່ານ

ໂມເດວດຽວກັນຜ່ານ API

ຜູ້ຂາຍທີ່ລາຄາຖືກທີ່ສຸດ: Inference, $0.09 ຕໍ່ເດືອນ ເມື່ອໃຊ້ງານຕາມຄ່າເລີ່ມຕົ້ນ (200 ຄຳຮ້ອງຕໍ່ມື້).

ເບິ່ງລາຄາໃນ Model Price Map

ລາຍລະອຽດໂມເດວມາຈາກລາຍການສາທາລະນະຂອງ Hugging Face (ຊື່, ຂະໜາດ, ໃບອະນຸຍາດ). ທຸກໜ້າໂມເດວມີລິ້ງໄປຫາຕົ້ນສະບັບ.

ມີຫຍັງໃໝ່

  • ຕອນນີ້ທ່ານສາມາດແບ່ງປັນລິ້ງທີ່ເປີດເປັນພາສາທີ່ທ່ານເລືອກໄດ້: ການປ່ຽນພາສາຈະອັບເດດທີ່ຢູ່ຂອງໜ້າ.