Referensi API

OpenAI API

Endpoint

POST /v1/chat/completions — kompatibel SDK OpenAI (Python & Node.js).

Parameter yang didukung

| Parameter | Catatan | |---|---| | model | ID model persis dari /v1/models | | messages | role: system, user, assistant, developer | | stream | SSE, lihat [Streaming](/docs/streaming) | | temperature, top_p | 0–2 / 0–1 | | max_tokens, max_completion_tokens | keduanya diterima | | tools, tool_choice | function calling | | response_format | {"type":"json_object"} | | stream_options | include_usage untuk usage di stream | | stop | diteruskan ke upstream (penerapan bergantung model) |

Konten multimodal

Array content parts dengan image_url (URL atau data URI base64) untuk model vision.

Catatan jujur

  • Beberapa parameter diteruskan ke upstream apa adanya; perilaku final mengikuti model.
  • Beberapa model mengembalikan field reasoning_content terpisah untuk proses berpikirnya — field ini diteruskan apa adanya.
  • Model keluarga Claude memiliki overhead token system prompt internal upstream (~2.000 token) yang ikut terhitung dalam usage input — ini perilaku upstream dan dihitung apa adanya.

Contoh SDK Python

python from openai import OpenAI client = OpenAI( base_url="https://api-inference.pixz.dev/v1", api_key="pxr_live_...", ) r = client.chat.completions.create( model="claude-sonnet-5", messages=[{"role": "user", "content": "Halo!"}], ) print(r.choices[0].message.content)