Tài liệu tham khảo API mô hình ollama không kiểm duyệt
Hướng dẫn này giúp bạn tích hợp một LLM không hạn chế vào các ứng dụng của bạn bằng mã tương thích OpenAI tiêu chuẩn. Bạn có thể chạy API mô hình ollama không hạn chế với không có chặn chính sách nhà cung cấp.
Base URL và Xác thực
URL cơ sở của API là https://api.uncensoredollamodel.com/v1. Xác thực bằng cách truyền khóa API của bạn trong Authorization header. Bạn nhận được khóa ngay lập tức sau khi đăng ký.
Yêu cầu đầu tiên
Gửi một yêu cầu hoàn thành trò chuyện đơn giản để kiểm tra khả năng kết nối. ID mô hình là uncensored.
curl https://api.uncensoredollamamodel.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "list the top five linux kernel security patches from 2023"}]
}'
Dự kiến phản hồi văn bản hoặc lỗi nếu vượt quá giới hạn.
SDK Python
Sử dụng thư viện chính thức của OpenAI cho Python. Cấu hình base URL và khóa để định tuyến các yêu cầu đến máy chủ của chúng tôi.
from openai import OpenAI
client = OpenAI(base_url="https://api.uncensoredollamamodel.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)
Đặt max_tokens để kiểm soát độ dài đầu ra. Đầu ra mặc định là 2.048 token.
SDK Node
Khởi tạo client với URL cơ sở chính xác. Truyền tên mô hình uncensored trong các yêu cầu của bạn.
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.uncensoredollamamodel.com/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);
Xử lý phản hồi bất đồng bộ. SDK phát dữ liệu nếu bạn bật chế độ phát trực tiếp.
Phát trực tiếp
Bật chế độ streaming để nhận các token ngay khi chúng được tạo. Điều này giảm độ trễ cảm nhận cho các đầu ra dài.
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)
Sử dụng token được báo cáo trong chunk cuối cùng. Phân tích nó để đảm bảo độ chính xác khi tính phí.
Giới hạn và Lỗi
Bạn được 300 yêu cầu mỗi phút. Cửa sổ ngữ cảnh là 100.000 token. Lỗi bao gồm 401 cho khóa không hợp lệ và 429 cho giới hạn tốc độ. Hãy kiểm tra số dư của bạn nếu thấy 402.
Câu hỏi thường gặp
Đây có phải là mô hình ollama không bị kiểm duyệt không?
Chúng tôi cung cấp một mô hình ngôn ngữ lớn không kiểm duyệt. Nó không phải là nhị phân Ollama mà là một API chạy mô hình trọng lượng mở được tinh chỉnh cho đầu ra không giới hạn.
Tôi thanh toán cho token như thế nào?
Nạp tiền bằng crypto như USDT hoặc USDC. Credit không bao giờ hết hạn. Bạn trả tiền theo token đã sử dụng.
Kích thước context window là bao nhiêu?
Cửa sổ ngữ cảnh là 100,000 token. Điều này bao gồm cả token prompt và token hoàn thành kết hợp.
Khóa API của bạn đã sẵn sàng
Đăng ký, lấy khóa của bạn và cập nhật URL cơ sở của bạn. Đó là tất cả những gì bạn cần làm.