Update app.py

app.py

@@ -3,6 +3,7 @@ from ctransformers import AutoModelForCausalLM
 from transformers import AutoTokenizer, pipeline
 import torch
 import re
+import random
 
 # Initialize the model
 model = AutoModelForCausalLM.from_pretrained("Detsutut/Igea-1B-instruct-v0.2-GGUF", model_file="unsloth.Q4_K_M.gguf", model_type="mistral", hf=True)
@@ -15,6 +16,16 @@ gen_pipeline = pipeline(
     tokenizer=tokenizer
 )
 
+system_med_msgs = ["Sei un assistente medico virtuale. Offri supporto per la gestione delle richieste mediche e fornisci informazioni mediche.",
+                   "Sei un assistente medico virtuale. Offri supporto per questioni mediche.",
+                   "Sei un assistente virtuale sanitario. Offri supporto e informazioni su problemi di salute.",
+                   "Sei un assistente virtuale per la salute. Fornisci supporto per richieste riguardanti la salute.",
+                   "Sei un assistente digitale per la salute. Fornisci supporto su questioni mediche e sanitarie.",
+                   "Sei un assistente virtuale per informazioni sanitarie. Fornisci supporto su problemi di salute e benessere.",
+                   "Sei un assistente digitale per la gestione delle questioni sanitarie. Rispondi a richieste mediche e fornisci informazioni sanitarie.",
+                   "Sei un assistente sanitario digitale. Rispondi a richieste di natura medica e fornisci informazioni sanitarie.",
+                   "Sei un assistente sanitario virtuale. Aiuti a rispondere a richieste mediche e fornisci informazioni sanitarie."]
+
 alpaca_instruct_prompt = """{}
 
 ### Istruzione:
@@ -29,7 +40,7 @@ def generate_text(input_text, max_new_tokens=100, temperature=1, system_prompt="
     if len(system_prompt)>0:
         system_str = system_prompt
     else:
-        system_str = "Di seguito è riportata un'istruzione che descrive un compito. Scrivi una risposta che completi in modo appropriato la richiesta."
+        system_str = random.choice(system_med_msgs)
     
     prompt = alpaca_instruct_prompt.format(system_str, input_text,"")