Kegelisahan Simon Willison: vibe coding dan engineering sungguhan mulai melebur

Kerangka Simon Willison dulu punya garis bersih. Vibe coding berarti memakai output AI yang tidak kamu pahami, oke untuk tool pribadi tapi tidak bertanggung jawab untuk software yang diandalkan orang lain. Agentic engineering berarti profesional memakai AI untuk membangun sistem yang lebih baik dan lebih cepat sambil menjaga standar. Tulisan barunya terasa tidak nyaman karena garis itu mulai larut di praktiknya sendiri. Begitu agent makin bisa diandalkan, ia mendapati dirinya mengirim kode buatan agent ke produksi tanpa membacanya, dan merasakan rasa bersalah yang menyertainya.

Kekhawatirannya punya nama dari safety engineering: normalization of deviance. Tiap deploy tanpa di-review yang berhasil membuat deploy berikutnya terasa aman, sampai suatu kali tidak. Ia juga mencatat bottleneck-nya bergeser ke hulu, dari menulis kode ke desain dan spesifikasi, yang menata ulang cara kerjanya. Ia tetap optimistis ini menghargai keahlian yang sudah ada ketimbang menghapusnya, tapi ia tidak berpura-pura kegelisahan itu tidak ada. Tulisan lengkapnya di blog Simon Willison.

Kenapa ini penting

Kalau kamu merilis software, ini ajakan menetapkan kebijakan review secara sadar. "Agent biasanya benar" justru begitulah normalization of deviance dimulai. Langkah bergunanya, putuskan sekarang kategori perubahan mana yang tetap wajib di-review manusia, sebelum kebiasaan yang memutuskannya untukmu.