Membayar AI per permintaan terdengar sederhana sampai kamu melihat kasus pinggirannya: permintaan yang gagal di tengah, dua permintaan berebut rupiah terakhir, percobaan ulang yang tidak boleh ditagih dua kali. Berikut persis apa yang dilakukan Pecutin pada saldomu di setiap panggilan.
Saldonya
Kamu mengisi saldo dalam rupiah, mulai Rp 50.000, lewat QRIS, virtual account, atau transfer bank. Tidak ada biaya kursi bulanan. Saldo hanya bergerak saat permintaan berjalan di upstream berbayar.
Sebelum permintaan: periksa dan tahan
Saat permintaan tiba dengan kunci sk-pc-…, gateway lebih dulu memeriksa apakah saldo cukup, lalu menahan sebagian sebagai reservasi. Bila saldo tidak cukup, permintaan langsung ditolak dengan 402, sebelum penyedia mana pun dipanggil. Untuk pool Bansos yang gratis, penolakan padanannya adalah 429.
Menahan lebih dulu penting saat banyak permintaan datang bersamaan. Tanpa penahanan, sepuluh permintaan paralel bisa sama-sama melihat sisa saldo yang sama dan semuanya diloloskan.
Sesudah permintaan: potong dan catat
Saat jawaban selesai, biaya nyatanya diketahui: model, token masuk dan keluar, harganya. Gateway memotong biaya itu dan menulis satu baris ke ledger, dan keduanya terjadi dalam satu transaksi database. Keduanya tersimpan, atau tidak sama sekali.
Reservasi dilepas pada saat yang sama, jadi penahanan tidak pernah tertinggal di saldomu.
Kenapa satu transaksi itu penting
Ia memberi aturan sederhana yang bisa diperiksa kapan saja: saldo sama dengan jumlah ledger. Ada tepat satu baris ledger per permintaan, jadi permintaan tidak bisa ditagih dua kali atau hilang dari catatan.
Ini diperiksa di bawah beban, bukan diasumsikan. Pada uji tiga menit dengan 2.000 permintaan per detik di mesin produksi, 360.001 permintaan menghasilkan tepat 360.001 baris ledger baru, dan saldo ke-60 akun uji sama dengan jumlah ledgernya.
Pertanyaan yang sering diajukan
- Apa yang terjadi kalau penyedia gagal?
Permintaan yang gagal tidak ditagih sebagai jawaban yang selesai, dan reservasinya dilepas. Routing juga bisa mencoba ulang di upstream lain bila kamu memasang fallback.
- Bisakah saya melihat setiap potongan?
Bisa. Setiap permintaan punya baris ledgernya sendiri lengkap dengan model dan biaya, terlihat di console.