GPT-4: Model Acuan, dan Apa yang Disembunyikannya

GPT-4, dirilis Maret 2023, adalah model multimodal besar pertama OpenAI, menerima masukan gambar dan teks lalu menghasilkan teks. Model ini mencetak hasil setara manusia pada beragam ujian profesional dan akademik, dan disertai proses red-team terdokumentasi yang melibatkan lebih dari lima puluh pakar luar di bidang alignment, keamanan siber, dan risiko biologis. Dua hal membuat rilis ini layak diingat di luar lompatan kemampuannya. Pertama, laporan teknisnya secara terbuka menolak memuat arsitektur, ukuran model, data training, atau metode training, dengan alasan kompetisi dan keamanan. Itu titik balik dalam seberapa terbuka kerja frontier dijelaskan, dan kebanyakan lab mengikutinya. Kedua, system card yang menyertainya luar biasa rinci soal keterbatasan: halusinasi, context window tetap, tidak belajar dari pengalaman, plus analisis konkret soal bias, disinformasi, dan risiko proliferasi. OpenAI tegas bahwa model ini salah dengan percaya diri pada pola yang bisa diprediksi.

Kenapa ini penting

GPT-4 menjadi patokan yang dikejar hampir semua model setelahnya, termasuk yang sepenuhnya terbuka, jadi memahami klaim sebenarnya berguna sebagai konteks. Preseden pelaporannya juga penting: sejak inilah istilah "model frontier" mulai berarti kamu tidak boleh tahu bagaimana ia dibangun.