更新 README.md
This commit is contained in:
@@ -7,7 +7,3 @@
|
|||||||
2. 将 `code_generator.py` 覆盖到镜像中的 `/opt/conda/lib/python3.10/site-packages/triton/compiler/code_generator.py`
|
2. 将 `code_generator.py` 覆盖到镜像中的 `/opt/conda/lib/python3.10/site-packages/triton/compiler/code_generator.py`
|
||||||
|
|
||||||
镜像成功编译以后,可以参照标准 vllm 使用方式。
|
镜像成功编译以后,可以参照标准 vllm 使用方式。
|
||||||
|
|
||||||
注意,目前该版本暂时分为两个分支(即将合并为一个分支)
|
|
||||||
- main 分支:支持 gpt-oss-20b-BF16 版本,https://huggingface.co/unsloth/gpt-oss-20b-BF16
|
|
||||||
- feat/gpt-oss 分支:支持原版 gpt-oss-20b 模型,https://huggingface.co/openai/gpt-oss-20b
|
|
||||||
Reference in New Issue
Block a user