support image input in api #3971 #4061

Former-commit-id: c70aaf763ef22fb83ce3635e8ffd5ec4c89c1cb0
This commit is contained in:
hiyouga
2024-06-06 02:29:55 +08:00
parent 35379c7c0e
commit 639a7f6796
4 changed files with 49 additions and 8 deletions

View File

@@ -454,6 +454,9 @@ docker compose -f ./docker-compose.yml up -d
CUDA_VISIBLE_DEVICES=0,1 API_PORT=8000 llamafactory-cli api examples/inference/llama3_vllm.yaml
```
> [!TIP]
> API 文档请查阅 https://platform.openai.com/docs/api-reference/chat/create。
### 从魔搭社区下载
如果您在 Hugging Face 模型和数据集的下载中遇到了问题,可以通过下述方法使用魔搭社区。