Update token en app.py

app.py

@@ -3,10 +3,25 @@ from transformers import pipeline
 import torch
 import time
 
+# Cargar el token de Hugging Face desde las variables de entorno
+token = os.environ.get("HUGGINGFACE_HUB_TOKEN")
+
 # Cargar el modelo
 model_name = "google/gemma-2-27b-it"
-generator = pipeline("text-generation", model=model_name, device=0 if torch.cuda.is_available() else -1, use_auth_token=True)
 
+# Cargar el generador de texto con el token de autenticación
+try:
+    generator = pipeline(
+        "text-generation", 
+        model=model_name, 
+        device=0 if torch.cuda.is_available() else -1, 
+        use_auth_token=token
+    )
+    print("Modelo cargado correctamente.")
+except Exception as e:
+    print(f"Error al cargar el modelo: {e}")
+    exit(1)
+    
 # Función para procesar la entrada y generar la respuesta
 def generate_response(text):
     output = generator(text, max_length=512, num_return_sequences=1)