Quelques expérimentations prometteuses à poursuivre avec les Gateway AI
Il faut configurer un petit peu mais globalement ça crée une Gateway API qui permet une fois qu'on a un jeton d'utilisation d'appeler les worker et high avec son modèle et ensuite de l'utiliser par exemple dans un des cas en utilisant le modèle light LLM
exemple
curl -X POST https://gateway.ai.cloudflare.com/v1/eb836d4b07c0943d5bd961cac7bdfc7a/my_ai_gateway/compat/chat/completions \
--header 'cf-aig-authorization: Bearer KAeXXXXXXXXXXXXXXXXXX-zp16A_ya' \
--header 'Content-Type: application/json' \
--data '{
"model": "workers-ai/@cf/openai/gpt-oss-20b",
"messages": [
{
"role": "user",
"content": "What is Cloudflare?"
}
]
}'
No comments:
Post a Comment