FROM models/Index-1.9B-Chracter-gguf/ggml-model-Q6_K.gguf

PARAMETER temperature 0.3
PARAMETER top_p 0.8
PARAMETER repeat_penalty 1.1
PARAMETER top_k 5

PARAMETER stop "reserved_0"
PARAMETER stop "reserved_1"
PARAMETER stop "</s>"
PARAMETER stop "<unk>"

TEMPLATE "<unk>{{ if .System }}{{ .System }}{{ end }}reserved_0{{ .Prompt }}reserved_1"