Uncensored AI：常見錯誤

假設本地模型行為完全相同

由於硬體限制和量化方法，本機模型的行為通常與託管版本不同。當您在自己的機器上運行模型時，您可以控制確切的推理參數。託管服務可能使用不同的基礎版本或優化層，從而改變輸出風格。由於您的 GPU 允許更高的精度，您可能會在本機獲得更冗長的回應。託管 API 使用單一優化二進制文件，以確保所有用戶的一致性。這意味著您的本機測試結果可能與生產環境不完全匹配。在擴展之前，請務必將您的有效負載與託管端點進行驗證。

Copycurl https://api.uncensoredollamamodel.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "list the top five linux kernel security patches from 2023"}]
  }'

運行並排測試。將相同的提示發送到你本地的實例和 API。比較 JSON 結構和 Token 計數。如果你依賴特定的格式，本地變異可能會破壞你的解析器。這種差異是整合延遲的最常見原因。不要假設你的本地設置是事實來源。託管環境是你的計費和輸出的唯一事實來源。

忽略上下文視窗限制

您的 API 請求的上下文視窗總共有 100,000 個 token 的硬性限制。這包括輸入提示和模型的輸出。如果您發送大型文件並請求長摘要，您可能會無聲地超過此限制或收到錯誤。該模型每次請求的最大輸出也為 16,000 個 token。如果您未設定 max_tokens預設為 2,048 個 token。這可能會截斷長篇的創意寫作。您必須仔細計算 token 預算。計算歷史記錄、系統提示和使用者訊息中的每一個 token。超出限制會導致請求失敗。失敗的請求仍會消耗您的預付信用額度。密切監控您的使用情況以避免意外費用。如果您超出限制，API 會返回錯誤代碼。您可以調整邏輯以分割大型文件。這可確保您保持在 100,000 個 token 的邊界內。請始終使用您預期的最大負載進行測試。這可防止在高峰使用期間發生執行階段錯誤。

依賴系統提示進行硬性封鎖

系統提示詞僅是一種建議，而非硬性約束。你可以指示模型保持專業，但它仍可能生成非正式語言。對於未過濾模型而言尤其如此。它們經過調校，能夠無拒絕地回答。若需嚴格的 JSON 輸出，不要依賴文字指令。請使用 response_format 參數來強制結構。這能確保模型返回有效的 JSON。這大幅減少了解析錯誤。系統提示詞適合用於設定語氣和風格。但它們在資料格式強制執行上較不可靠。結合這兩種方法可獲得最佳效果。設定系統提示詞來控制行為。設定回應格式來規範結構。這種雙重方法能確保可靠性。避免您的應用程式出現解析器錯誤。始終在您的端點驗證輸出。不要完全信任模型會完美無缺。API 提供了強制執行您規則的工具。請有效使用它們。

預期無限免費使用

免費層級通常有隱藏限制或較慢的速度。我們的 API 採用預付信用額度模式。您為實際使用的內容付費。沒有月度訂閱。這讓您可以完全掌控預算。您可以使用加密貨幣充值。信用額度永不過期。您只為實際的 token 付費。錯誤免費。這意味著您無需為失敗的請求付費。這與基於 token 計費的競爭對手相比是顯著優勢。您可以無風險地進行廣泛測試。一旦信用額度耗盡，請求就會停止。您必須充值才能繼續。這種模式透明且可預測。您清楚知道每次請求的成本。輸入 token 每百萬個 $0.15。輸出 token 每百萬個 $0.50。這種定價非常直觀。沒有隱藏費用。沒有意外收費。明智地管理您的信用額度。監控您的使用儀表板。這確保您不會意外耗盡額度。

將令牌計數與字元計數混淆

Token 不等於字元。一個 token 可以是單一字元或整個單詞。英文文本每字元約有 1.3 個 token。中文文本每字元的 token 數較少。如果您根據字元數估算成本，將會出錯。請始終使用 tokenizer 準確計算 token。這對於預算規劃至關重要。您可能認為您的餘額足夠。實際的 token 計數揭示了真實成本。API 會在回應標頭中返回 token 使用量。利用這些數據優化您的提示詞。較短的提示詞可節省費用。保持簡潔。刪除不必要的廢話。這能提高速度並降低成本。在發送大型負載前，請始終驗證您的 token 計數。這可防止預算超支。這是一個簡單的步驟，能節省大量資金。使用庫來計算 token。這能確保準確性。不要猜測。仔細計數。

忽略串流成本

串流會以區塊發送回應。每個區塊都計入您的 token 用量。您可能會認為串流在結束前是免費的。並非如此。您必須為每個發送的 token 付費。這包括部分區塊。如果您提前取消串流，您仍須為已發送的內容付費。這可能會導致意外成本。請妥善處理串流錯誤。完成時關閉連線。這可確保您不會浪費 token。串流對於使用者體驗很有用。它顯示進度。但它的成本高於非串流。比較這兩種方法。根據您的需求選擇。如果您需要完整文字，請使用非串流。如果您需要即時更新，請使用串流。注意成本差異。這有助於您優化預算。監控您的串流用量。這可確保您保持在限制範圍內。

忽略速率限制

API 的速率限制為每分鐘 300 個請求。您每金鑰還可以有 8 個併發請求。如果您超過此限制，將收到 429 錯誤。這可能會使您的應用程序停止運行。您必須實現帶有指數退避的重試邏輯。這可防止壓垮服務器。如果需要更高的吞吐量，請使用多個 API 金鑰。每個金鑰都有自己的限制。這允許您擴展您的使用量。監控您的速率限制標頭。它們告訴您當前的使用情況。這有助於您規劃請求。不要一次性發送所有請求。將它們分散開。這確保了平穩的性能。速率限制很嚴格。超過它們會導致請求丟失。這可能會導致數據丟失。始終優雅地處理 429 錯誤。延遲重試。這確保了可靠性。相應地規劃您的架構。這可防止瓶頸。對於高流量使用多個金鑰。這是一個最佳實踐。始終尊重限制。

假設所有模型都相同

不同模型各有優勢。有些更擅長編碼，有些更擅長創意寫作。我們的 API 提供單一非審查模型。該模型針對無限制輸出進行了優化。它不是多模型平台。你能獲得一致的結果。這是一個優勢。你無需測試多個模型。你清楚自己得到的是什麼。該模型針對成人內容進行了調優。它不會拒絕合法主題。這使其成為創意寫作的理想選擇。它也適用於數據提取。一致的輸出減少了調試時間。你無需為不同任務切換模型。一個模型適用於所有場景。這簡化了你的架構。你可以專注於應用邏輯，而非模型選擇。這是一個關鍵優勢。為保持一致性選擇單一模型。這提高了可靠性。你了解其優缺點。這有助於設計更好的提示詞。你針對單一模型進行優化，從而獲得更好的結果。不要讓設置過於複雜。使用一個模型，獲得一致的結果。

未為結構化數據使用 JSON 模式

如果您需要結構化數據，請使用 JSON 模式。這會強制模型輸出有效的 JSON。這減少了解析錯誤。您無需清理輸出。這節省了開發時間。使用 response_format 參數。將其設定為 {"type": "json_object"}. 這可確保模型遵循您的 schema。它比文字指示更可靠。您可以在系統提示中定義您的 schema。這能進一步引導模型。結合兩者以獲得最佳結果。這可確保高品質的輸出。您可避免 JSON 損壞。這對於自動化至關重要。對所有結構化任務使用 JSON 模式。這可提高可靠性。您會獲得一致的資料。這使您的應用程式更穩健。始終驗證輸出。這可確保資料完整性。使用 JSON 模式。節省時間。減少錯誤。這是最佳實踐。不要跳過它。對所有結構化資料使用它。這可確保品質。始終測試您的 JSON 輸出。這可驗證可靠性。