Update app.py

app.py

@@ -2,11 +2,9 @@ import gradio as gr
 import requests
 import os
 
-# 환경 변수에서 Hugging Face API 토큰을 가져옵니다.
 ACCESS_TOKEN = os.getenv("HF_TOKEN")
 
 def respond(message, max_tokens=512, temperature=0.7, top_p=0.95):
-    # 메시지를 구성
     data = {
         "model": "command-r-plus:104b-fp16",
         "prompt": message,
@@ -14,14 +12,17 @@ def respond(message, max_tokens=512, temperature=0.7, top_p=0.95):
         "temperature": temperature,
         "top_p": top_p
     }
-
-    # 외부 API로 요청을 보냄
+    
     response = requests.post("http://hugpu.ai:7877/api/generate", json=data)
-    generated_text = response.json().get('generated_text', '')  # API 응답에서 텍스트 추출
-
-    return generated_text  # 생성된 텍스트 반환
+    
+    try:
+        generated_text = response.json().get('generated_text', '')
+    except json.JSONDecodeError as e:
+        print("Failed to decode JSON from response:", response.text)
+        generated_text = "An error occurred while processing your request."
+    
+    return generated_text
 
-# Gradio 인터페이스 설정
 demo = gr.Interface(
     fn=respond,
     inputs=[