Updated app.py

app.py

@@ -30,7 +30,7 @@ model = AutoModelForCausalLM.from_pretrained(
 print(f"Model loaded in {model.device}")
 # Generamos el pipeline de generación de texto
 pipe = pipeline("text-generation", model=model, tokenizer=tokenizer)
-# Definimos el eos token
+# Definimos el eos token para el modelo
 eos_token = tokenizer("<|im_end|>",add_special_tokens=False)["input_ids"][0]
 
 def generate_inference(instruction, input):