CPU Nintendo dikompilasi ke dalam bobot Qwen, tanpa training

Proyek nesformer menjalankan prosesor sebuah game Nintendo asli di dalam checkpoint Qwen3.5 biasa, dan tidak ada yang melatihnya. Bobotnya ditulis langsung oleh sebuah compiler. Model ini memuat inti CPU 6502 milik NES, RAM 2 KB, dan program ROM dari kartrid, sementara sebuah program host kecil menangani grafik, kontroler, dan timing. Model memprediksi log eksekusi prosesor satu token setiap langkah, dan hasilnya sama persis dengan emulator referensi di sepanjang jutaan instruksi.

Cara membangunnya yang menarik. Setiap memory head bergaya attention menyimpan matriks state berukuran 128 kali 128, dan proyek ini memperlakukan tiap baris sebagai sel memori, sehingga RAM dan register tersimpan di dalam state model, bukan di penyimpanan luar. Tujuh layer menyusun rangkaiannya: satu melacak state dan counter, satu mengurus program counter dan pengambilan instruksi, sisanya melakukan decode, perhitungan, dan penetapan flag. Checkpoint-nya dimuat dengan panggilan from_pretrained biasa tanpa kode tambahan. Dari 466 juta parameter, hanya 9,3 juta yang bernilai bukan nol, jadi bobot yang dikirim menyusut menjadi 3,3 MB.

Model ini lambat. NES asli berjalan sekitar 700.000 instruksi per detik, sedangkan nesformer paling cepat hanya sekitar 1.650 token per detik, atau 150 sampai 290 kali lebih lambat, sehingga satu frame butuh sekitar satu sampai enam detik. Model ini hanya mendukung kartrid sederhana dan opcode resmi, dan tidak ada suara. Tapi ia berjalan, terverifikasi frame demi frame, dan itulah intinya.

Kenapa ini penting

Kalau kamu membayangkan transformer hanya sebagai sesuatu yang dilatih dari data, ini contoh tandingan yang nyata: arsitektur yang sama bisa dikompilasi secara manual menjadi program yang presisi, sebuah cara berpikir yang berguna saat kamu menimbang apa yang sebenarnya bisa diwakili jaringan seperti ini.