Update app.py

app.py

@@ -16,8 +16,32 @@ import torch
 from tqdm import trange
 import torch.nn.functional as F
 client = OpenAI(
-    api_key='sk-proj-RzzAiW2c6iPtPOuACspxT3BlbkFJxuwC04BRyCcEnNKjcC6Z'
+    api_key='sk-proj-Yzjez2g6rfAiVPpb3cfJT3BlbkFJRLU4ZQpMhyLJDf0XksF4'
 )
+ 
+def generate_response(article_text, lang ):
+    messages=[
+                 {"role": "system", "content": "You are an expert in summarizing text in two languages: English and Vietnamese"},
+             {"role": "user", "content": f"summarize the following text professionally and return the summary according to the input language:\n{article_text}\nSummary:"}
+            ]
+    if lang == 'vi':
+        messages=[
+                 {"role": "system", "content": "Bạn là chuyên gia tóm tắt văn bản bằng hai ngôn ngữ: tiếng Anh và tiếng Việt"},
+             {"role": "user", "content": f"hãy tóm tắt văn bản sau đây một cách chuyên nghiệp và trả về bản tóm tắt theo ngôn ngữ đầu vào:\n{article_text}\nBản Tóm tắt:"}
+            ]
+    response = client.chat.completions.create(
+            model='ft:gpt-3.5-turbo-0125:personal::9eZjpJwa' ,
+            messages=messages,
+           max_tokens=150,         # Tăng lên để có thêm không gian cho tóm tắt
+    temperature=0.3,        # Giảm xuống để tạo ra nội dung tập trung hơn
+    top_p=0.95,             # Tăng nhẹ để mở rộng phạm vi từ vựng
+    frequency_penalty=0.5,  # Tăng lên để khuyến khích đa dạng từ ngữ
+    presence_penalty=0.5    # Tăng lên để khuyến khích đề cập đến các chủ đề mới
+        )
+
+        # Extract and return the generated summary
+    summary = response.choices[0].message.content.strip()
+    return summary
 def cleaning_input(input_text):
     from html import unescape
     text = str(input_text)
@@ -361,7 +385,7 @@ def summary(text, lang):
     print(f"Number of chunks: {len(chunks)}")
 
     for t in chunks:
-        generated_summary = gene(t, lang)
+        generated_summary = generate_response(t, lang)
         rs += generated_summary + " "
     text = ""
     for t in chunks: