11 lines
265 B
Plaintext
11 lines
265 B
Plaintext
|
FROM ./bhineka-gpt.gguf
|
||
|
|
|
||
|
|
TEMPLATE """<|user|> {{ .Prompt }}<|sep|><|assistant|>"""
|
||
|
|
PARAMETER temperature 0.8
|
||
|
|
PARAMETER top_p 0.9
|
||
|
|
PARAMETER num_predict 256
|
||
|
|
PARAMETER repeat_penalty 1.0
|
||
|
|
PARAMETER stop "<|sep|>"
|
||
|
|
PARAMETER stop "<|eos|>"
|
||
|
|
PARAMETER stop "<|endoftext|>"
|