Files
shiva-alpha-base-surgery-v2/tokenizer_config.json

86 lines
1014 B
JSON
Raw Normal View History

{
"backend": "custom",
"bos_token": "<s>",
"eos_token": "</s>",
"extra_special_tokens": [
"<s>",
"</s>",
"<pad>",
"",
"୧",
"",
"୩",
"୪",
"୫",
"୬",
"୭",
"୮",
"୯",
"",
"१",
"२",
"३",
"४",
"५",
"६",
"७",
"८",
"९",
"0",
"1",
"2",
"3",
"4",
"5",
"6",
"7",
"8",
"9",
"+",
"@",
"=",
"$",
"%",
"#",
"*",
"&",
"~",
"`",
"©",
"®",
"¥",
"§",
"₹",
"€",
"£",
"°",
"±",
"×",
"÷",
".",
",",
":",
";",
"!",
"?",
"'",
"\"",
"(",
")",
"-",
"[",
"]",
"{",
"}",
"—",
"",
"…"
],
"is_local": false,
"local_files_only": false,
"model_max_length": 1000000000000000019884624838656,
"pad_token": "</s>",
"tokenizer_class": "TokenizersBackend",
"unk_token": "<unk>"
}