DeepSeek 提示詞工程：如何避免關鍵上下文資訊被意外截斷

在利用大型語言模型（LLM）處理複雜任務時，提示詞（Prompt）的設計是成功的關鍵。然而，當處理大量資訊或長篇對話時，我們經常面臨一個挑戰：模型的「上下文視窗」（Context Window）限制。這可能導致重要資訊被意外截斷，進而影響 DeepSeek 模型理解、生成和回應的準確性。本指南將深入探討如何運用 DeepSeek API 進行提示詞工程，有效避免關鍵上下文資訊遺失。

了解 DeepSeek 的上下文視窗限制

每個大型語言模型都有其處理輸入資訊的上限，這就是所謂的「上下文視窗」或「token 限制」。DeepSeek 模型如 DeepSeek-V2、DeepSeek-Chat 等，雖然擁有相對寬闊的上下文視窗，但面對極端冗長的文本或多輪對話歷史時，仍有可能超出限制。一旦超出，模型會自動截斷最早的內容，這往往會導致關鍵資訊遺失，使模型無法完整理解當前請求。

理解這一限制至關重要：

• Token 計算：一個 token 通常代表一個單詞、標點符號或中文字符的片段。英文文本中，一個單詞約等於 1.3 個 token；中文文本的 token 轉換率會因編碼方式而異，但大致上一個中文字符接近一個 token。
• 截斷影響：資訊截斷會導致模型「失憶」，無法依據完整上下文產生連貫且準確的回應，尤其是在文件分析、長篇寫作輔助或複雜程式碼理解等場景。

預防性策略：結構化你的提示詞

為了在 DeepSeek API 中有效管理上下文，第一步是從源頭優化提示詞結構。

1. 優先級排序與精煉內容

將最重要的資訊放在提示詞的開頭，確保即使發生截斷，核心內容也能被模型優先處理。同時，審視並移除不必要的冗餘、重複或低相關性的內容。

操作步驟：

1. 區分核心與輔助資訊：識別哪些是解決問題必須的，哪些是提供背景但非絕對關鍵的。
2. 前置關鍵資訊：將步驟、目標、約束條件等核心指令放在提示詞的最前面。
3. 精簡表達：使用簡潔明瞭的語言，避免長句和複雜的修飾。例如，使用條列式清單、表格或關鍵字提取，而非大段描述。

範例：

不良提示詞（冗長且關鍵資訊分散）： 「我正在進行一份關於再生能源投資的報告，需要你幫我分析過去五年全球太陽能產業的增長趨勢。我還想知道主要市場的政策支持，以及潛在的投資風險和機遇。此外，請包含一些關於未來十年技術發展的預測，並提供數據來源的連結，如果可能的話。請特別關注東南亞市場，因為我對那裡的潛力很感興趣。我希望報告能夠涵蓋財務數據和環境影響評估。」

優化後提示詞（關鍵資訊前置與精煉）： 「請分析全球太陽能產業過去五年增長趨勢，並聚焦東南亞市場。 核心分析點：

1. 主要市場政策支持。
2. 潛在投資風險與機遇。
3. 未來十年技術發展預測。 要求： 報告需涵蓋財務數據與環境影響評估。請提供數據來源。」

2. 分段與迭代查詢（Chunking & Iterative Queries）

對於極長的文檔或數據集，一次性提交可能會超出上下文視窗。此時，將內容分段並進行迭代查詢是一種高效的策略。

操作步驟：

1. 內容切分：根據邏輯結構（例如章節、段落、程式碼塊），將長文本切分成較小的片段（Chunks）。
2. 批次處理：每次向 DeepSeek API 提交一個或幾個片段，並提出具體問題。
3. 結果整合：將模型對各片段的回應整合起來，作為下一次查詢的輸入或最終的答案。

代碼示例 (Python - 概念性):

import deepseek
import tiktoken # 建議使用 tiktoken 估算 token 數量

# 假設這是你的 DeepSeek API 客戶端
client = deepseek.Deepseek(api_key="YOUR_API_KEY") 

def get_text_chunks(text, max_tokens_per_chunk):
    """
    將文本切分成指定最大 token 數的片段
    （這裡簡化處理，實際應用中需考慮標點、語義完整性）
    """
    encoding = tiktoken.encoding_for_model("deepseek-v2") # 根據你的模型調整
    tokens = encoding.encode(text)
    chunks = []
    current_chunk_tokens = []
    
    for token in tokens:
        current_chunk_tokens.append(token)
        if len(current_chunk_tokens) >= max_tokens_per_chunk:
            chunks.append(encoding.decode(current_chunk_tokens))
            current_chunk_tokens = []
    if current_chunk_tokens:
        chunks.append(encoding.decode(current_chunk_tokens))
    return chunks

def analyze_document_iteratively(document_text, query_template, model_name="deepseek-v2"):
    max_chunk_tokens = 3000 # 每個片段建議的最大 token 數，需考慮模型限制及問題本身
    chunks = get_text_chunks(document_text, max_chunk_tokens)
    
    results = []
    for i, chunk in enumerate(chunks):
        print(f"正在分析第 {i+1}/{len(chunks)} 個片段...")
        prompt = f"以下是文件的一部分：\n---\n{chunk}\n---\n{query_template}"
        
        try:
            response = client.chat.completions.create(
                model=model_name,
                messages=[{"role": "user", "content": prompt}]
            )
            results.append(response.choices[0].message.content)
        except Exception as e:
            print(f"處理片段時發生錯誤: {e}")
            
    return results

# 範例使用
long_document = "這裡是一份非常冗長的文件內容，可能包含數萬字的報告、書籍章節等..."
user_query = "請從以上內容中提取所有關於『市場增長潛力』的關鍵句，並列出相關的數據點。"

# 執行迭代分析
extracted_info = analyze_document_iteratively(long_document, user_query)

# 將所有片段的結果進行進一步整合或總結
final_summary_prompt = "以下是從不同文件片段中提取的資訊，請綜合這些資訊，提供一份關於市場增長潛力的最終總結：\n" + "\n".join(extracted_info)

# 再次提交給 DeepSeek 進行最終總結
# final_response = client.chat.completions.create(
#     model="deepseek-v2",
#     messages=[{"role": "user", "content": final_summary_prompt}]
# )
# print(final_response.choices[0].message.content)

3. 使用摘要或關鍵字提取

在提交完整的長文本之前，可以先讓模型對其進行摘要，或者提取關鍵字和實體。然後，將這些精簡後的資訊與你的主要問題一同提交，以節省 token。

操作步驟：

1. 前置摘要/提取：設計一個專門的提示詞，指示 DeepSeek 對原始長文本進行摘要或關鍵字提取。
2. 整合摘要：將 DeepSeek 返回的摘要或關鍵字列表，與你的主要任務提示詞結合。
3. 二次查詢：將整合後的精簡提示詞提交給 DeepSeek，進行最終分析。

善用 DeepSeek API 的功能

DeepSeek API 設計允許開發者靈活地管理對話和上下文，充分利用這些功能是避免截斷的關鍵。

1. 系統訊息（System Message）的應用

系統訊息是用於設定模型角色、行為和處理指引的關鍵元素。它在整個對話中具有更高的優先級和持久性，不會輕易被後續的用戶訊息所稀釋或截斷（除非對話本身非常長）。

應用策略：

• 設定固定角色：例如：「你是一位專業的金融分析師，專精於亞洲市場。」
• 提供通用背景：包含貫穿整個會話的重要規則、背景知識或術語定義，例如：「所有數據均基於 2023 年 Q4 財報。」
• 指令與約束：給予模型長期有效的行為指令，如：「所有回應必須以繁體中文書寫，並簡潔明瞭。」

將這些穩定、不易變動的上下文資訊放入 system 角色，可以減少每次 user 訊息的 token 負擔。

2. 訊息歷史管理（Message History Management）

對於多輪對話，對話歷史會迅速累積 token。有效的歷史管理是防止截斷的關鍵。

策略：

• 滑動窗口（Sliding Window）：只保留最近的 N 條對話訊息，或者在 token 總數達到預設閾值時，移除最舊的訊息。
• 對話總結（Summarization of Past Turns）：當對話歷史過長時，讓模型對之前的多輪對話進行摘要，然後用這個摘要來替換舊的對話歷史，作為長期記憶。

代碼示例 (Python - 滑動窗口):

import deepseek
import tiktoken

client = deepseek.Deepseek(api_key="YOUR_API_KEY")
model_name = "deepseek-v2"
encoding = tiktoken.encoding_for_model(model_name)
MAX_CONTEXT_TOKENS = 80000 # 假設 DeepSeek-V2 的上下文視窗為 80K tokens
RESERVED_FOR_RESPONSE = 2000 # 預留給模型回答的 tokens
MAX_PROMPT_TOKENS = MAX_CONTEXT_TOKENS - RESERVED_FOR_RESPONSE

# 對話歷史列表
conversation_history = [
    {"role": "system", "content": "你是一位專業的技術支援顧問，請用香港繁體中文回應。"}
]

def get_token_count(messages):
    """計算訊息列表的總 token 數"""
    total_tokens = 0
    for message in messages:
        # 每條訊息通常有額外的 token 開銷（如 role, content 標籤）
        # 這裡簡化計算，實際可更精確
        total_tokens += len(encoding.encode(message["content"])) + 4 # 估計每條訊息的額外開銷
    return total_tokens

def add_message_and_trim(messages, new_message):
    """
    添加新訊息並修剪舊訊息，以適應上下文視窗
    注意：system 訊息通常不會被修剪
    """
    messages.append(new_message)
    
    # 確保 system message 始終在最前面
    system_message = None
    if messages[0]["role"] == "system":
        system_message = messages[0]
        messages = messages[1:] # 暫時移除 system message
        
    while get_token_count(messages) > MAX_PROMPT_TOKENS:
        if not messages: # 如果只剩下 system message 或空了，則停止
            break
        # 移除最舊的用戶/助手訊息
        messages.pop(0) 
        
    if system_message: # 重新將 system message 加回
        messages.insert(0, system_message)
        
    return messages

# 模擬對話
user_input_1 = "你好，我遇到 DeepSeek API 的問題。"
conversation_history = add_message_and_trim(conversation_history, {"role": "user", "content": user_input_1})

# ... 進行 API 呼叫並獲取 DeepSeek 的回應 ...
# 例如 response_from_deepseek = client.chat.completions.create(...)
# assistant_response_1 = response_from_deepseek.choices[0].message.content
assistant_response_1 = "你好！請問您遇到了什麼具體問題呢？"
conversation_history = add_message_and_trim(conversation_history, {"role": "assistant", "content": assistant_response_1})

user_input_2 = "我的 API 請求總是返回『context window exceeded』的錯誤，我該怎麼辦？我嘗試傳入一個 100 頁的 PDF 文件，讓它幫我總結。"
conversation_history = add_message_and_trim(conversation_history, {"role": "user", "content": user_input_2})

# 再次呼叫 API
# response_from_deepseek_2 = client.chat.completions.create(
#     model=model_name,
#     messages=conversation_history
# )
# print(response_from_deepseek_2.choices[0].message.content)

3. Token 計算與監控

在實際開發中，動態計算提示詞的 token 數量並實時監控 API 返回的 token 使用量是不可或缺的。這有助於你在觸及限制前進行調整。

工具與方法：

• tiktoken 庫：OpenAI 官方提供的開源庫，可以準確計算基於不同模型的 token 數量。DeepSeek 模型通常與 OpenAI 的 tokenization 方案兼容，或者提供其特定的 tokenization 工具。
• API 返回數據：DeepSeek API 在每次響應中會包含 token 使用量（usage 物件），包括 prompt_tokens、completion_tokens 和 total_tokens。

代碼示例 (Python - Token 估算):

import tiktoken

# 選擇與你的 DeepSeek 模型最接近的編碼（或使用 DeepSeek 官方推薦的編碼）
# 例如，DeepSeek-V2 可能與 cl100k_base 類似，或有自己的 encoding
encoding = tiktoken.encoding_for_model("deepseek-v2") # 假設 deepseek-v2 使用此編碼

def estimate_tokens(text):
    return len(encoding.encode(text))

prompt_text = "請詳細解釋 DeepSeek 提示詞工程中的上下文管理最佳實踐。"
print(f"提示詞預計 token 數: {estimate_tokens(prompt_text)}")

# 示例：DeepSeek API 響應中的 usage 資訊
api_response_usage = {
    "prompt_tokens": 50,
    "completion_tokens": 120,
    "total_tokens": 170
}
print(f"API 返回的 prompt tokens: {api_response_usage['prompt_tokens']}")
print(f"API 返回的 completion tokens: {api_response_usage['completion_tokens']}")
print(f"API 返回的總 tokens: {api_response_usage['total_tokens']}")

實踐案例：長篇文件分析

假設我們需要分析一份數萬字的公司年報，以找出關鍵的財務數據、風險因素和未來戰略。

情境分析與步驟：

1. 問題拆解：將「分析年報」這個大任務分解為小問題，例如：
   • 提取過去三年主要財務指標。
   • 識別年報中提及的所有主要風險。
   • 總結公司在研發方面的投入和成果。
   • 歸納管理層對未來市場的展望。
2. 文件預處理與分段：
   • 將年報轉換為純文本格式。
   • 利用程式將文本按章節或固定字數（例如 2000-3000 字）切分。確保切分點盡量不破壞語義完整性。
3. 迭代查詢與數據提取：
   • 針對每個文本片段，向 DeepSeek 發送特定的提取指令。例如：「從以下內容中提取所有關於『財務指標』的數據點。」
   • 將 DeepSeek 返回的結構化數據（例如 JSON 格式）儲存起來。
4. 結果整合與二次分析：
   • 將所有片段中提取到的數據整合到一個數據結構中。
   • 針對整合後的數據，再次向 DeepSeek 發送更宏觀的查詢，例如：「綜合以上所有財務指標，請分析公司過去三年的財務健康狀況。」
   • 利用滑動窗口或摘要技術管理每次查詢的對話歷史。
5. Token 監控與調整：
   • 在每個階段，都使用 tiktoken 估算提示詞 token 數，並檢查 DeepSeek API 返回的 usage 資訊。
   • 若發現提示詞接近上限，則進一步精簡表達或優化分段策略。

總結與最佳實踐

避免 DeepSeek 提示詞中的關鍵上下文資訊被意外截斷，核心在於預防性設計和積極管理。

最佳實踐要點：

• 資訊優先級：將核心內容放在提示詞的最前面。
• 精簡與結構化：使用簡潔語言、條列式、表格，減少冗餘。
• 分而治之：對於長篇文本，採用分段處理和迭代查詢，並逐步整合結果。
• 善用系統訊息：將通用、持久的上下文放入 system 角色。
• 智慧化對話管理：實施滑動窗口或對話總結來管理歷史訊息。
• 持續監控：利用 token 計算工具和 API 返回的 usage 數據，實時掌握上下文長度。

通過這些策略的結合應用，開發者可以更有效地利用 DeepSeek 模型處理複雜和長篇任務，確保模型始終擁有足夠的上下文來提供準確、相關且高品質的回應。在香港的商業環境中，這對於處理詳細的法律文件、金融報告或客戶服務記錄尤其重要，能顯著提升工作效率和資訊處理的精準度。