--- language: fa license: mit pipeline_tag: text2text-generation --- # BasePersianTextFormalizer This model is fine-tuned to generate formal text from informal text based on the input provided. It has been fine-tuned on [Mohavere Dataset] (Takalli vahideh, Kalantari, Fateme, Shamsfard, Mehrnoush, Developing an Informal-Formal Persian Corpus, 2022.) using the pretrained model [parsT5-base](https://huggingface.co/Ahmad/parsT5-base). ## Usage ```python from transformers import AutoModelForSeq2SeqLM, MT5Tokenizer model = T5ForConditionalGeneration.from_pretrained('PardisSzah/BasePersianTextFormalizer') tokenizer = AutoTokenizer.from_pretrained('PardisSzah/BasePersianTextFormalizer') from transformers import (T5ForConditionalGeneration, AutoTokenizer, pipeline) import torch pipe = pipeline(task='text2text-generation', model=model, tokenizer=tokenizer) def test_model(text): device = torch.device('cuda' if torch.cuda.is_available() else 'cpu') model.to(device) inputs = tokenizer.encode("informal: " + text, return_tensors='pt', max_length=128, truncation=True, padding='max_length') inputs = inputs.to(device) outputs = model.generate(inputs, max_length=128, num_beams=4) print("Output:", tokenizer.decode(outputs[0], skip_special_tokens=True)) text = "به یکی از دوستام میگم که چرا اینکار رو میکنی چرا به فکرت نباید برسه " print("Original:", text) test_model(text) # output: به یکی از دوستانم می گویم که چرا اینکار را می کنی چرا به فکرت نباید برسد text = "اسم من پردیسه و خوشحالم که از این مدل خوشتون اومده " print("Original:", text) test_model(text) # output: اسم من پردیس است و خوشحالم که از این مدل خوشتان آمده است ```