Menyelami pasar gelap jual-beli kredit API AI

Sebuah tulisan blog yang naik ke halaman depan Hacker News memetakan pasar abu-abu yang jarang dilihat engineer: jual-beli kredit API AI yang tak terpakai. Startup yang dapat hibah kredit besar dari penyedia, atau sekadar terlanjur beli banyak, menjual kelebihannya ketimbang membiarkannya hangus. Broker memborong kapasitas ini lalu menjualnya kembali, sering 40 sampai 50 persen di bawah harga resmi, kadang sampai diskon 80 persen.

Penulis menceritakan dihubungi langsung oleh para broker lewat email, sebagian menawarkan kredit API "jutaan" dan satu mengaku punya kapasitas belanja $100.000 per hari. Transaksinya berlangsung lewat situs marketplace khusus seperti AI Credits dan AICreditMart, ditambah channel Telegram dan thread Reddit, dengan listing per item dari $2.500 sampai $200.000. Cara kerjanya beragam. Versi paling kasar menyerahkan key milik orang lain. Broker yang lebih canggih menjalankan proxy yang meneruskan permintaanmu lewat kumpulan key yang berputar, jadi kamu tak pernah memegang kredensial aslinya dan penyedia melihat trafik yang sulit dikaitkan denganmu.

Desain proxy itu yang perlu direnungkan. Mengarahkan trafik produksi lewat perantara tak dikenal berarti prompt dan output-mu melewati server mereka, dan kredit yang kamu pakai bisa jadi diperoleh dengan cara yang melanggar ketentuan penyedia, sehingga seluruh pool key bisa diblokir di tengah permintaan.

Kenapa ini penting

Diskonnya nyata, tapi risikonya juga: kalau kamu tergoda menekan biaya inference lewat broker kredit, kamu mempercayakan data prompt ke perantara anonim dan bertaruh pada kredit yang bisa lenyap begitu penyedia sadar. Bagi kebanyakan tim, tukar-tambah itu tidak sepadan, dan ada baiknya menjelaskan alasannya ke tim engineering.