Update app.py

app.py

@@ -57,14 +57,17 @@ def respond(
     for chunk in response.iter_content(chunk_size=None):
         if chunk:
             chunk_data = chunk.decode('utf-8')
-            response_json = json.loads(chunk_data)
-            # content 영역만 출력
-            if "choices" in response_json:
-                content = response_json["choices"][0]["message"]["content"]
-                response_text = content
-                # 마지막 대화에 모델의 응답을 추가하여 메모리에 저장
-                memory[-1] = (message, response_text)
-                yield content
+            try:
+                response_json = json.loads(chunk_data)
+                # content 영역만 출력
+                if "choices" in response_json:
+                    content = response_json["choices"][0]["message"]["content"]
+                    response_text = content
+                    # 마지막 대화에 모델의 응답을 추가하여 메모리에 저장
+                    memory[-1] = (message, response_text)
+                    yield content
+            except json.JSONDecodeError:
+                continue  # 유효하지 않은 JSON이 있을 경우 무시하고 다음 청크로 넘어감
 
 theme = "Nymbo/Nymbo_Theme"
 
@@ -81,4 +84,4 @@ demo = gr.ChatInterface(
 )
 
 if __name__ == "__main__":
-    demo.queue().launch(max_threads=20)  # max_threads를 launch() 메서드에 설정
+    demo.queue().launch(max_threads=20)