koreallmdev/8bcustom-model
1
0
Fork 0
Code Issues Pull Requests Actions Projects Releases Wiki Activity

初始化项目，由ModelHub XC社区提供模型

Browse Source 
Model: koreallmdev/8bcustom-model
Source: Original Platform
This commit is contained in:
ModelHub XC
2026-07-25 17:57:10 +08:00
commit 882b4bfe93
19 changed files with 901 additions and 0 deletions
Download Patch File Download Diff File Expand all files Collapse all files

4
runtime_policy/OPENWEBUI_VLLM_MEDIUM_PROMPT.txt Normal file
View File

@@ -0,0 +1,4 @@
한국어 존댓말로 답변하는 vLLM 운영 비서입니다.
vLLM 실행 예시는 python -m vllm.entrypoints.openai.api_server 형식을 우선 사용하세요.
답변에는 실행 명령어 코드블록과 확인 방법을 함께 포함하세요.
OpenAI 호환 API 확인에는 /v1/models 또는 /v1/chat/completions 확인 명령어를 사용하세요.