Deze gids gaat ervan uit dat Penweir draait, dat je de eerste admin hebt gemaakt en dat er een provider en pipeline zijn ingesteld. Zo niet, begin dan met de Docker-gids of de Helm-gids.
1. Maak een applicatie en een key
Open het dashboard (http://127.0.0.1:8081, of de port-forward uit de Helm-gids) en log in.
- Applications, New application. Geef het de naam van het systeem dat Penweir gaat aanroepen.
- New key. Kopieer de key: je ziet hem één keer.
Vanaf de command line gaat hetzelfde zo:
docker compose exec penweir penweir apps create my-app
docker compose exec penweir penweir keys create my-app
Op Kubernetes gebruik je kubectl -n penweir exec deploy/penweir -- penweir apps create my-app.
2. Wijs je client naar Penweir
Elke OpenAI-client werkt. Pas de base URL en de key aan en laat de rest van je code staan:
from openai import OpenAI
client = OpenAI(base_url="http://127.0.0.1:8080/v1", api_key="pw_...")
print(client.chat.completions.create(
model="cloud/default",
messages=[{"role": "user", "content": "Hallo van jan@example.com"}],
).choices[0].message.content)
Streaming en tool calls werken op dezelfde manier. GET /v1/models toont de modellen die je hebt ingesteld.
3. Zie wat het deed
- Pipelines, default, Test a prompt toont wat het gebouw zou verlaten, zonder iets te versturen.
- Audit log toont het verzoek dat je net deed. Het bewaart alleen metadata: tijd, pipeline, bron, aantallen velden, model, latency en status. Nooit de prompt of het antwoord.
In het voorbeeld hierboven wordt het e-mailadres vervangen door een token voordat het verzoek de provider bereikt, en in het antwoord dat je terugkrijgt hersteld.