Update app.py

app.py

@@ -48,7 +48,7 @@ stopping_criteria = ListOfTokensStoppingCriteria(tokenizer, stop_tokens)
 # Añade tu criterio de parada a una StoppingCriteriaList
 stopping_criteria_list = StoppingCriteriaList([stopping_criteria])
 
-def generate_text(prompt, context, max_length=2100):
+def generate_text(prompt, context, model, tokenizer, max_length=2100):
   prompt=prompt.replace("\n", "").replace("¿","").replace("?","")
   input_text = f'''<bos><start_of_turn>system\n{context}?<end_of_turn><start_of_turn>user\n{prompt}<end_of_turn><start_of_turn>model\n'''
   inputs = tokenizer.encode(input_text, return_tensors="pt", add_special_tokens=False).to("cuda:0")
@@ -62,28 +62,28 @@ def generate_text(prompt, context, max_length=2100):
   outputs = model.generate(generation_config=generation_config, input_ids=inputs, stopping_criteria=stopping_criteria_list,)
   return tokenizer.decode(outputs[0], skip_special_tokens=False) #True
 
-def mostrar_respuesta(pregunta, contexto):
+def mostrar_respuesta(pregunta, contexto, model, tokenizer):
     try:
-      res= generate_text(pregunta, contexto, max_length=700)
+      res= generate_text(pregunta, contexto, model, tokenizer, max_length=700)
       return str(res)
     except Exception as e:
       return str(e)
 
 # Ejemplos de preguntas
 mis_ejemplos = [
-    ["¿Dime el valor nutricional de la tortilla de patatas?", "Cocinero español"],
-    ["¿Dime el valor nutricional del ceviche?", "Cocinero peruano"],
-    ["¿Dime el valor nutricional de los frijoles?", "Cocinero de México"],
+    ["¿Dime el nivel de calorías de la tortilla de patatas?", "Cocinero español"],
+    ["¿Dime el nivel de grasas del ceviche?", "Cocinero peruano"],
+    ["¿Dime la cantidad de fibra de los frijoles?", "Cocinero de México"],
     ["¿Dime el valor nutricional de la tortilla de patatas?", "Cocinero español"],
     
 ]
 
 iface = gr.Interface(
     fn=mostrar_respuesta,
-    inputs=[gr.Textbox(label="Pregunta"), gr.Textbox(label="Contexto", value="You are a helpful AI assistant. Eres un experto cocinero hispanoamericano."),],
-    outputs=[gr.Textbox(label="Respuesta", lines=2),],
+    inputs=[gr.Textbox(label="Pregunta"), gr.Textbox(label="Contexto", value="Eres un agente experto en nutrición y cocina."),],
+    outputs=[gr.Textbox(label="Respuesta", lines=6),],
     title="ComeBien",
-    description="Introduce tu pregunta sobre recetas de cocina.",
+    description="Introduce tu pregunta sobre nutrición y recetas de cocina.",
     examples=mis_ejemplos,
 )