jaygala24 commited on
Commit
fcccabf
1 Parent(s): 17e95ba

Update README.md

Browse files
Files changed (1) hide show
  1. README.md +2 -2
README.md CHANGED
@@ -101,9 +101,9 @@ def inference(input_prompts, model, tokenizer):
101
 
102
  model_name = "ai4bharat/Airavata"
103
 
104
- tokenizer = AutoTokenizer.from_pretrained(model_name, padding_side="left", token=hf_token)
105
  tokenizer.pad_token = tokenizer.eos_token
106
- model = AutoModelForCausalLM.from_pretrained(model_name, token=hf_token).to(device)
107
 
108
  input_prompts = [
109
  "मैं अपने समय प्रबंधन कौशल को कैसे सुधार सकता हूँ? मुझे पांच बिंदु बताएं।",
 
101
 
102
  model_name = "ai4bharat/Airavata"
103
 
104
+ tokenizer = AutoTokenizer.from_pretrained(model_name, padding_side="left")
105
  tokenizer.pad_token = tokenizer.eos_token
106
+ model = AutoModelForCausalLM.from_pretrained(model_name, torch_dtype=torch.bfloat16).to(device)
107
 
108
  input_prompts = [
109
  "मैं अपने समय प्रबंधन कौशल को कैसे सुधार सकता हूँ? मुझे पांच बिंदु बताएं।",