9 lines
183 B
Plaintext
9 lines
183 B
Plaintext
|
FROM merged_model-Q4_K_M.gguf
|
||
|
|
|
||
|
|
PARAMETER temperature 0.7
|
||
|
|
PARAMETER top_k 40
|
||
|
|
PARAMETER top_p 0.9
|
||
|
|
PARAMETER num_ctx 8192
|
||
|
|
PARAMETER num_predict 4096
|
||
|
|
PARAMETER repeat_penalty 1.1
|