1. Cloudflare Workers AI
Prioritas karena README mencatat @cf/moonshotai/kimi-k2.7-code. Cocok untuk eksplorasi coding-only route tambahan.
free tierSnapshot
Repo sumber adalah katalog, halaman ini adalah layer operasional.
Kita tidak menyalin semua detail mentah. Fokusnya: provider yang layak dites untuk Hermes fallback, coding-only route, dan low-cost automation.
26Total provider di README
13Free providers
13Trial credit providers
5Kandidat prioritas awal
Free providers
Provider gratis yang paling relevan untuk pipeline kita.
Dipilih dari README sumber berdasarkan potensi routing, model coding, speed, dan kemudahan benchmark.
Cloudflare Workers AI
10,000 neurons/day; ada Kimi K2.7 Code, Kimi K2.6, Qwen, gpt-oss, GLM.
coding10,000 neurons/day; ada Kimi K2.7 Code, Kimi K2.6, Qwen, gpt-oss, GLM.
Cerebras
gpt-oss-120b + Llama 3.1 8B; rate limit generous untuk fast inference.
fastgpt-oss-120b + Llama 3.1 8B; rate limit generous untuk fast inference.
Groq
Latency cepat; cocok buat routing ringan, extraction, STT Whisper.
speedLatency cepat; cocok buat routing ringan, extraction, STT Whisper.
OpenRouter Free
Banyak model :free, tapi quota default kecil. Bagus untuk backup/testing.
fallbackBanyak model :free, tapi quota default kecil. Bagus untuk backup/testing.
Google AI Studio
Gemini/Gemma free tier; perlu perhatian data-use policy.
generalGemini/Gemma free tier; perlu perhatian data-use policy.
Mistral Codestral
30 rpm / 2000 rpd; cocok untuk coding bila akses tersedia.
code30 rpm / 2000 rpd; cocok untuk coding bila akses tersedia.
Trial credits
Credit kecil tapi berguna untuk burst benchmark.
Trial bukan fallback permanen, tapi bagus untuk testing quality/latency dan menambah opsi saat provider utama rate-limited.
| Provider | Credit | Use case | Priority |
|---|---|---|---|
| Baseten | $30 | Compute-time experiments, custom model serving. | high |
| AI21 | $10 / 3 months | Jamba family eval. | medium |
| Upstage | $10 / 3 months | Solar Pro/Mini benchmark. | medium |
| SambaNova | $5 / 3 months | DeepSeek, gpt-oss, minimax, Llama. | high |
| Scaleway | 1M tokens | Qwen coder, Mistral, gpt-oss trial. | high |
| Hyperbolic | $1 | Qwen3 Coder / DeepSeek test burst. | medium |
Recommendation
Shortlist untuk langkah berikutnya.
Ini urutan yang paling masuk akal buat Hermes/NusaGoldenTech saat ini.
2. Cerebras
Bagus untuk high-speed fallback. Model gpt-oss-120b dan Llama kecil bisa jadi evaluator/router murah.
free tier3. Groq
Paling cocok untuk latency-sensitive tasks: extraction, rewrite kecil, speech-to-text, dan monitoring summaries.
free tier4. Scaleway/SambaNova
Trial credits cukup menarik buat benchmark model besar tanpa commit cost awal.
trial5. OpenRouter Free
Backup luas, tapi quota default kecil. Tetap berguna untuk model discovery dan smoke test.
free tier6. Vercel AI Gateway
Masuk akal karena infra kita sudah pakai Vercel. Bisa dievaluasi untuk gateway-style routing.
allowance