Fouten en limieten
Fouten komen terug in het formaat van de API die je aanroept: {"error": {"message", "type", "code"}} van OpenAI op de eindpunten in OpenAI-stijl, {"type": "error", "error": {...}} van Anthropic op /v1/messages.
Foutcodes
| Status | Code | Betekenis |
|---|---|---|
| 400 | invalid_request, unsupported |
De body klopt niet of vraagt iets dat niet wordt aangeboden |
| 401 | invalid_api_key |
Geen sleutel, of een ingetrokken sleutel |
| 403 | access_disabled |
De AI-dienst is geblokkeerd of opgezegd |
| 404 | model_not_found |
Het model bestaat niet of staat uit |
| 429 | rate_limit_exceeded |
Te veel aanvragen per minuut, of te veel tegelijk |
| 429 | insufficient_quota |
Een maandlimiet is bereikt |
| 502 | upstream_error, upstream_unavailable |
De leverancier van het model gaf een fout of was niet bereikbaar |
| 503 | provider_unavailable |
Het model is nu niet beschikbaar |
Snelheidslimieten
60 aanvragen per minuut per sleutel, en hooguit 8 aanvragen van één AI-dienst tegelijk. Een 429 voor de snelheidslimiet heeft een Retry-After-header.
Bestedingslimieten
Er zijn drie maandlimieten: per organisatie, per dienst en per sleutel. Voordat een aanvraag begint, wordt het slechtste geval afgezet tegen wat er over is. Past het niet, dan wordt max_tokens verlaagd tot wat het budget toelaat; is er niets over, dan krijg je insufficient_quota tot de volgende maand.
Afgebroken streams
Sluit je een stream voortijdig, dan worden de tokens tot dat moment afgerekend.
Beschikbaarheid
Aanvragen gaan naar onze leverancier in de EU. Je organisatie kan in Mijn Typno een uitwijk naar een tweede EU-leverancier aanzetten; standaard staat die uit. Zonder uitwijk geeft een storing een 502.