9 lines
253 B
Plaintext
9 lines
253 B
Plaintext
|
FROM ./Phi-3-mini-4k-instruct-fp16.gguf
|
||
|
|
TEMPLATE """<s>{{ if .Prompt }}<|user|>
|
||
|
|
{{ .Prompt }}<|end|>
|
||
|
|
{{ end }}<|assistant|>
|
||
|
|
{{ .Response }}<|end|>"""
|
||
|
|
PARAMETER stop <|endoftext|>
|
||
|
|
PARAMETER stop <|assistant|>
|
||
|
|
PARAMETER stop <|end|>
|
||
|
|
PARAMETER num_ctx 4096
|