Ledakan kecerdasan punya penghambat yang jarang dimodelkan: koordinasi

Hampir semua model tentang ledakan kecerdasan berbagi satu asumsi: begitu AI bisa melakukan riset AI, kamu bisa menambah peneliti virtual nyaris tanpa batas, dan kemajuan pun berlipat. Laporan baru dari Epoch AI karya Phil Trammell menilai asumsi itu melewatkan satu penghambat nyata. Menambah peneliti hanya berguna jika pekerjaannya bisa dibagi, dikoordinasikan, lalu hasilnya digabung kembali, dan kemampuan itu sendiri adalah teknologi yang harus terus membaik.

Trammell memaparkan tiga skenario. Jika teknologi koordinasi ini membaik secepat pertumbuhan jumlah peneliti, terjadilah takeoff eksplosif seperti yang diprediksi model standar. Jika ia membaik lebih cepat dari batas depan riset tetapi lebih lambat dari pertambahan jumlah peneliti, ledakan tetap terjadi, hanya lebih bertahap. Jika ia hanya mengimbangi pertumbuhan eksponensial biasa, otomatisasi riset memang mempercepat kemajuan tetapi tidak pernah berubah menjadi percepatan tak terkendali. Ia memakai analogi pabrik robot agar gagasannya konkret: tiap perbaikan tetap harus diidentifikasi, dibangun, lalu diuji secara berurutan, sehingga menggandakan jumlah insinyur tidak bisa memangkas separuh waktu tanpa alat kerja paralel yang ikut membaik.

Nilai laporan ini terletak pada penyebutan variabel yang biasanya diabaikan argumen takeoff. Menurut Epoch, parallelization adalah salah satu parameter penentu apakah dan kapan ledakan terjadi, tetapi ia hampir tak pernah diteliti dalam model ekonomi yang dikutip orang saat memperkirakan timeline.

Kenapa ini penting

Kalau kamu menimbang perkiraan timeline AI untuk perencanaan atau kebijakan, ini memberi satu pertanyaan konkret untuk setiap argumen ledakan: apakah ia diam-diam menganggap koordinasi bisa diskalakan tanpa biaya? Perkiraan yang mengabaikan batas parallelization kemungkinan terlalu agresif soal seberapa cepat riset otomatis bisa berlipat.