只需要几分钟,Hugging Face 用户就可以直接在 DigitalOcean GPU Droplet(使用 NVIDIA H100)上部署最流行的模型
目前支持的模型:
- meta-llama/Meta-Llama-3.1-8B-Instruct
- meta-llama/Meta-Llama-3.1-70B-Instruct
- meta-llama/Meta-Llama-3.1-405B-Instruct-FP8
- Qwen/Qwen2.5-7B-Instruct
- google/gemma-2-9b-it
- google/gemma-2-27b-it
- mistralai/Mixtral-8x7B-Instruct-v0.1
- mistralai/Mistral-7B-Instruct-v0.3
- mistralai/Mixtral-8x22B-Instruct-v0.1
- NousResearch/Hermes-3-Llama-3.1-8B
- NousResearch/Hermes-3-Llama-3.1-70B
- NousResearch/Hermes-3-Llama-3.1-405B
- NousResearch/Nous-Hermes-2-Mixtral-8x7B-DPO
价格
以 Llama 3.1-8B-Instruct 为例,使用 8 块 H100,显存640G,内存1920GB,价格为 $23.92/小时。
邀请注册:
https://www.digitalocean.com/products/ai-ml/1-click-models?refcode=973bc576ffef
注册、绑卡后赠送200美金试用券,60天有效期。也可以用来购买 VPS 等其他产品