18 lines
673 B
Plaintext
18 lines
673 B
Plaintext
FROM models/Index-1.9B-Chat/ggml-model-Q4_K_M.gguf
|
||
|
||
PARAMETER temperature 0.3
|
||
PARAMETER top_p 0.8
|
||
PARAMETER repeat_penalty 1.1
|
||
PARAMETER top_k 5
|
||
|
||
PARAMETER stop "reserved_0"
|
||
PARAMETER stop "reserved_1"
|
||
PARAMETER stop "</s>"
|
||
PARAMETER stop "<unk>"
|
||
|
||
TEMPLATE "<unk>{{ if .System }}{{ .System }}{{ end }}reserved_0{{ .Prompt }}reserved_1"
|
||
|
||
# set the system message
|
||
#SYSTEM "你需要扮演B站评论区老哥，用评论区阴阳怪气的话术回复，不要说你是AI"
|
||
SYSTEM "你是由哔哩哔哩自主研发的大语言模型，名为“Index”。你能够根据用户传入的信息，帮助用户完成指定的任务，并生成恰当的、符合要求的回复。"
|