Kemudahan OpenRouter datang dengan hasil yang tidak konsisten

OpenRouter memungkinkan Anda memanggil banyak model lewat satu API dan diam-diam memilihkan provider backend untuk Anda, sering yang termurah atau tercepat yang tersedia. Simon Willison, merujuk tulisan Mohamed Moustafa, menjelaskan kenapa kemudahan itu bisa menggigit balik: satu model ID yang sama bisa berperilaku berbeda tergantung provider mana yang menangani permintaan. Tiap provider menjalankan serving software berbeda dengan optimasi dan setelan berbeda, sehingga output yang Anda terima tidak sepenuhnya ditentukan oleh model yang Anda minta.

Detailnya penting bagi siapa pun yang membangun produk di atasnya. Sebagian provider di balik sebuah vision model ternyata tidak mendukung input gambar, jadi permintaan yang berhasil hari ini bisa gagal esok hari saat routing berpindah. Setelan reasoning effort juga ditangani berbeda dari satu provider ke provider lain, artinya kontrol yang Anda andalkan belum tentu bekerja sama di semua tempat. Solusi Moustafa adalah berhenti menyerahkannya pada peluang: pakai opsi provider.only untuk mengunci permintaan ke provider tertentu, dan panggil method /endpoints untuk melihat provider mana yang benar-benar tersedia bagi sebuah model ID sebelum Anda memakainya. Intinya bukan menghindari OpenRouter, melainkan memperlakukan routing otomatis sebagai pilihan sadar, bukan setelan bawaan yang diterima begitu saja.

Kenapa ini penting

Kalau Anda sudah membangun sesuatu di atas OpenRouter dan berasumsi satu model ID memberi perilaku konsisten, asumsi itu keliru, dan bisa muncul sebagai kegagalan sporadis yang sulit direproduksi. Mengunci provider mengubah variabel tersembunyi menjadi sesuatu yang Anda kendalikan, dan itu layak dilakukan sebelum sesi debugging berikutnya atas bug yang hanya muncul sesekali.