API in Anthropic-stijl

Voor clients die de Messages API van Anthropic spreken. Basisadres: https://dev.typno.ai; het eindpunt is POST https://dev.typno.ai/v1/messages.

Meld je aan met x-api-key: tpk-... of Authorization: Bearer tpk-.... De header anthropic-version mag mee, maar hoeft niet.

curl https://dev.typno.ai/v1/messages \
  -H "x-api-key: $TYPNO_API_KEY" \
  -H "anthropic-version: 2023-06-01" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "mistral4-119b",
    "max_tokens": 1024,
    "messages": [{"role": "user", "content": "Hello!"}]
  }'

from anthropic import Anthropic

client = Anthropic(base_url="https://dev.typno.ai", auth_token="tpk-...")
message = client.messages.create(
    model="mistral4-119b",
    max_tokens=1024,
    messages=[{"role": "user", "content": "Hello!"}],
)

Wat werkt

model, messages, system, max_tokens, temperature, top_p, top_k, stop_sequences, stream, tools en tool_choice. Streaming gebruikt de gebeurtenissen van Anthropic. Afbeeldingen gaan mee als image-blokken bij modellen met beeld.

POST /v1/messages/count_tokens geeft een schatting; genoeg voor agents die hun context plannen.

Wat niet werkt

De modellen zijn open modellen, niet Claude. Opties die alleen voor Claude bestaan, worden genegeerd: instellingen voor extended thinking, prompt caching (cache_control), contextbeheer en de servertools van Anthropic zoals web search. Pdf-documenten worden niet als inhoudsblok geaccepteerd.

Voor dit eindpunt is er geen uitwijk naar een tweede datacenter. Gebruik bij een storing de API in OpenAI-stijl of probeer het later opnieuw.