Update app.py

app.py

@@ -30,6 +30,7 @@ def load_parquet(filename: str) -> str:
     except Exception as e:
         return f"파일을 읽는 중 오류가 발생했습니다: {str(e)}"
 
+
 def respond(
     message: str,
     history: List[Dict[str, str]],
@@ -53,7 +54,7 @@ def respond(
     else:
         system_prefix = system_message or "너는 AI 조언자 역할이다."
 
-    # 메시지 생성 (API 요구 사항에 맞게 수정)
+    # 메시지 생성
     prompt = system_prefix + "\n\n"
     for chat in history:
         if chat['role'] == 'user':
@@ -73,9 +74,8 @@ def respond(
             top_p=top_p,
         )
         for msg in stream:
-            token = msg.get('generated_text', '')
-            if token:
-                response += token
+            if msg:
+                response += msg
                 yield response
     except Exception as e:
         error_message = f"추론 중 오류가 발생했습니다: {str(e)}\n{traceback.format_exc()}"