Dokumentasi API model ollama tanpa sensor
Panduan ini membantu anda mengintegrasikan LLM tanpa sensor ke dalam aplikasi anda menggunakan kod sepadan OpenAI standard. Anda boleh menjalankan API model ollama tanpa sensor tanpa sekatan polisi vendor.
URL Asas dan Pengesahan
URL asas API ialah https://api.uncensoredollamodel.com/v1. Sahkan dengan menghantar kunci API anda dalam Authorization header. Anda mendapat kunci serta-merta selepas pendaftaran.
Permintaan Pertama
Hantar penyelesaian chat mudah untuk menguji sambungan. ID model ialah uncensored.
curl https://api.uncensoredollamamodel.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "list the top five linux kernel security patches from 2023"}]
}'
Jangka respons teks atau ralat jika had dicapai.
SDK Python
Gunakan perpustakaan rasmi OpenAI untuk Python. Konfigurasikan URL asas dan kunci untuk mengarahkan permintaan ke pelayan kami.
from openai import OpenAI
client = OpenAI(base_url="https://api.uncensoredollamamodel.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)
Tetapkan max_tokens untuk mengawal panjang output. Output lalai ialah 2,048 token.
SDK Node
Mulakan klien dengan URL asas yang betul. Luluskan nama model uncensored dalam permintaan anda.
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.uncensoredollamamodel.com/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);
Tangani respons secara tak serentak. SDK menimbulkkan data jika anda mengaktifkan mod penstriman.
Aliran
Aktifkan penstriman untuk menerima token sejajar dengan penjanaan. Ini mengurangkan latensi yang dirasakan untuk output panjang.
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)
Penggunaan token dilaporkan dalam segmen akhir. Kuraikannya untuk ketepatan bil.
Had dan Ralat
Anda mendapat 300 permintaan setiap minit. Tetingkap konteks ialah 100,000 token. Ralat termasuk 401 untuk kunci tidak sah dan 429 untuk had kadar. Semak baki anda jika anda melihat 402.
Soalan lazim
Adakah ini model ollama tanpa sensor?
Kami menyediakan satu model bahasa besar tanpa sensor. Ia bukan binari Ollama tetapi API yang menjalankan model berat terbuka yang disesuaikan untuk output tanpa had.
Bagaimana cara membayar untuk token?
Isi semula dengan crypto seperti USDT atau USDC. Kredit tidak luput. Anda membayar setiap token yang digunakan.
Apakah saiz tetingkap konteks?
Tingkap konteks ialah 100,000 token. Ini termasuk token prompt dan penyelesaian digabungkan.
Kunci API anda sedia
Daftar, dapatkan kunci anda, dan kemas kini URL asas anda. Itu sahaja yang perlu anda lakukan.