Pendiri Ethereum Vitalik Buterin mengambil ke X ( yang sebelumnya Twitter) pada hari Senin untuk menanggapi dorongan saat ini menuju sistem AI "agen" yang disebut-sebut, model yang dirancang untuk bertindak secara otonom dengan pengawasan manusia minimal. Ia juga mendesak untuk membuat argumen bagi model yang memungkinkan manusia mengarahkan dan mengedit seiring berjalannya waktu. "Mengulang apa yang baru-baru ini dikatakan Andrej Karpathy, saya merasa frustrasi bagaimana banyak pengembangan AI berusaha untuk se-'agen' mungkin," tulis Buterin.
Dia menambahkan bahwa meningkatkan jalur untuk input manusia tidak hanya meningkatkan output tetapi juga "lebih baik untuk keamanan." Salah satu pendiri Ethereum mengatakan bahwa dia "jauh lebih bersemangat tentang model AI dengan bobot terbuka yang memiliki fungsi pengeditan yang baik daripada yang hanya untuk membuat dari awal," dan bahkan menggambarkan harapan jangka menengah: "beberapa hal BCI yang canggih di mana ia menunjukkan kepada saya hal itu saat dihasilkan dan mendeteksi secara real time bagaimana perasaan saya tentang setiap bagiannya dan menyesuaikan dengan sesuai."
Postingan tersebut secara langsung menggemakan pernyataan terbaru dari Andrej Karpathy, yang, dalam sebuah keynote bergengsi dan wawancara lanjutan, telah memperingatkan agar tidak menganggap model bahasa besar sebagai agen otonom yang tidak dapat salah dan mendesak para pengembang untuk menjaga AI "di bawah kendali," menekankan bahwa pengawasan manusia, pemicu yang hati-hati, dan pengembangan bertahap masih sangat penting.
Mengapa Ini Penting Sekarang
Komentar Buterin muncul pada saat ketika laboratorium besar secara publik mengubah sikap mereka terhadap keterbukaan dan kontrol pengguna. Pada awal Agustus, OpenAI mengejutkan banyak orang dengan merilis sekumpulan model open-weights, gpt-oss-120b dan gpt-oss-20b, yang dapat diunduh, diperiksa, dan disesuaikan oleh pengembang luar, sebuah langkah yang dipandang oleh beberapa orang sebagai langkah menuju demokratisasi alat AI yang kuat. Para pendukung mengatakan open weights memudahkan untuk membangun alur kerja yang kustom dan berpusat pada manusia serta memeriksa model untuk masalah keamanan; para kritikus memperingatkan tentang risiko penyalahgunaan dari model-model kuat yang didistribusikan secara luas.
Preferensi publik Buterin untuk "fungsi pengeditan" terikat pada benang yang muncul dalam industri: alih-alih meminta model untuk menghasilkan karya yang selesai dan kemudian mundur, banyak peneliti menginginkan antarmuka yang memungkinkan manusia campur tangan di tengah generasi, memangkas, mengoreksi, atau membimbing keluaran secara real time. Para pendukung berargumen bahwa ini mengurangi halusinasi, menjaga manusia tetap mengontrol niat, dan menghasilkan artefak yang lebih cocok dengan selera dan batasan keamanan manusia. Pembicaraan terbaru Karpathy juga menekankan perlunya alur kerja yang lebih ketat dengan manusia dalam proses.)
BCI + AI Generatif
Keinginan sembarangan Buterin untuk antarmuka otak-komputer (BCI) yang mendeteksi respons emosional saat konten dihasilkan bukanlah fantasi murni. Tahun ini telah menyaksikan geliat kemajuan BCI yang nyata: perusahaan dari Neuralink hingga Synchron dan sekelompok startup meluncurkan uji coba manusia, implan yang kurang invasif, dan perangkat yang berbasis EEG yang ditujukan untuk mendekode perhatian dan keadaan afektif secara real time.
Pekerjaan akademis tentang deteksi emosi berbasis EEG dan "komputasi afektif" juga telah meningkat, menunjukkan bahwa perangkat yang mampu menandai ketika seorang pengguna menyukai, tidak menyukai, atau netral terhadap sesuatu semakin mungkin terjadi. Namun, pengkodean emosi yang sepenuhnya dapat diandalkan untuk konsumen, terutama secara non-invasif, tetap menjadi tantangan penelitian yang aktif.
Apa yang Diungkapkan oleh Debat
Secara keseluruhan, sinyal-sinyal tersebut mengarah pada dua arus simultan dalam pengembangan AI. Satu arus mendorong menuju sistem yang lebih agensif yang dapat menjalankan tugas kompleks dengan sedikit atau tanpa pengawasan manusia; arus lainnya, yang disuarakan oleh tokoh-tokoh seperti Karpathy dan kini didukung oleh Buterin, berargumen untuk alat yang menjaga manusia terikat erat dengan perilaku model, baik melalui antarmuka pengeditan yang lebih baik, verifikasi manusia dalam loop, atau bahkan umpan balik neuroteknologi.
Bagi pengamat industri, keseimbangan antara pendekatan-pendekatan tersebut akan membentuk desain produk, regulasi, dan kepercayaan publik. Rilis open-weights memudahkan tim independen untuk bereksperimen dengan lapisan pengeditan yang berfokus pada manusia, tetapi juga memperluas distribusi model-model kuat, yang dikhawatirkan oleh regulator dan peneliti keselamatan dapat meningkatkan penyalahgunaan.
Sementara itu, seiring kemajuan bertahap BCI dan deteksi afek, antarmuka baru mungkin memang memungkinkan para pencipta untuk "mendorong" model dengan sinyal yang jauh lebih kaya daripada petunjuk yang diketik, mengangkat pertanyaan baru tentang privasi, persetujuan, dan bagaimana keadaan batin diukur dan disimpan. Tweet Vitalik Buterin kurang merupakan cetak biru teknis daripada pernyataan nilai: keluaran yang lebih baik dan sistem yang lebih aman berasal dari menjaga orang-orang dan sinyal preferensi manusia yang rumit dan bernuansa di pusat alur kerja AI.
Entah masa depan itu tiba melalui model terbuka yang dapat diedit hari ini atau antarmuka yang terikat pada otak besok, percakapan sudah mulai bergeser dari otonomi murni menuju kolaborasi manusia-AI yang lebih kaya. Seperti yang diungkapkan Buterin dalam posnya, dia lebih suka melihat sesuatu dilahirkan dan dapat mengarahkannya daripada menyerahkan kendali sepenuhnya.
Lihat Asli
Halaman ini mungkin berisi konten pihak ketiga, yang disediakan untuk tujuan informasi saja (bukan pernyataan/jaminan) dan tidak boleh dianggap sebagai dukungan terhadap pandangannya oleh Gate, atau sebagai nasihat keuangan atau profesional. Lihat Penafian untuk detailnya.
Vitalik Buterin Mengkritik AI Agens, Menyerukan Model yang Dapat Diedit dan Integrasi Neuroteknologi
Pendiri Ethereum Vitalik Buterin mengambil ke X ( yang sebelumnya Twitter) pada hari Senin untuk menanggapi dorongan saat ini menuju sistem AI "agen" yang disebut-sebut, model yang dirancang untuk bertindak secara otonom dengan pengawasan manusia minimal. Ia juga mendesak untuk membuat argumen bagi model yang memungkinkan manusia mengarahkan dan mengedit seiring berjalannya waktu. "Mengulang apa yang baru-baru ini dikatakan Andrej Karpathy, saya merasa frustrasi bagaimana banyak pengembangan AI berusaha untuk se-'agen' mungkin," tulis Buterin.
Dia menambahkan bahwa meningkatkan jalur untuk input manusia tidak hanya meningkatkan output tetapi juga "lebih baik untuk keamanan." Salah satu pendiri Ethereum mengatakan bahwa dia "jauh lebih bersemangat tentang model AI dengan bobot terbuka yang memiliki fungsi pengeditan yang baik daripada yang hanya untuk membuat dari awal," dan bahkan menggambarkan harapan jangka menengah: "beberapa hal BCI yang canggih di mana ia menunjukkan kepada saya hal itu saat dihasilkan dan mendeteksi secara real time bagaimana perasaan saya tentang setiap bagiannya dan menyesuaikan dengan sesuai."
Postingan tersebut secara langsung menggemakan pernyataan terbaru dari Andrej Karpathy, yang, dalam sebuah keynote bergengsi dan wawancara lanjutan, telah memperingatkan agar tidak menganggap model bahasa besar sebagai agen otonom yang tidak dapat salah dan mendesak para pengembang untuk menjaga AI "di bawah kendali," menekankan bahwa pengawasan manusia, pemicu yang hati-hati, dan pengembangan bertahap masih sangat penting.
Mengapa Ini Penting Sekarang
Komentar Buterin muncul pada saat ketika laboratorium besar secara publik mengubah sikap mereka terhadap keterbukaan dan kontrol pengguna. Pada awal Agustus, OpenAI mengejutkan banyak orang dengan merilis sekumpulan model open-weights, gpt-oss-120b dan gpt-oss-20b, yang dapat diunduh, diperiksa, dan disesuaikan oleh pengembang luar, sebuah langkah yang dipandang oleh beberapa orang sebagai langkah menuju demokratisasi alat AI yang kuat. Para pendukung mengatakan open weights memudahkan untuk membangun alur kerja yang kustom dan berpusat pada manusia serta memeriksa model untuk masalah keamanan; para kritikus memperingatkan tentang risiko penyalahgunaan dari model-model kuat yang didistribusikan secara luas.
Preferensi publik Buterin untuk "fungsi pengeditan" terikat pada benang yang muncul dalam industri: alih-alih meminta model untuk menghasilkan karya yang selesai dan kemudian mundur, banyak peneliti menginginkan antarmuka yang memungkinkan manusia campur tangan di tengah generasi, memangkas, mengoreksi, atau membimbing keluaran secara real time. Para pendukung berargumen bahwa ini mengurangi halusinasi, menjaga manusia tetap mengontrol niat, dan menghasilkan artefak yang lebih cocok dengan selera dan batasan keamanan manusia. Pembicaraan terbaru Karpathy juga menekankan perlunya alur kerja yang lebih ketat dengan manusia dalam proses.)
BCI + AI Generatif
Keinginan sembarangan Buterin untuk antarmuka otak-komputer (BCI) yang mendeteksi respons emosional saat konten dihasilkan bukanlah fantasi murni. Tahun ini telah menyaksikan geliat kemajuan BCI yang nyata: perusahaan dari Neuralink hingga Synchron dan sekelompok startup meluncurkan uji coba manusia, implan yang kurang invasif, dan perangkat yang berbasis EEG yang ditujukan untuk mendekode perhatian dan keadaan afektif secara real time.
Pekerjaan akademis tentang deteksi emosi berbasis EEG dan "komputasi afektif" juga telah meningkat, menunjukkan bahwa perangkat yang mampu menandai ketika seorang pengguna menyukai, tidak menyukai, atau netral terhadap sesuatu semakin mungkin terjadi. Namun, pengkodean emosi yang sepenuhnya dapat diandalkan untuk konsumen, terutama secara non-invasif, tetap menjadi tantangan penelitian yang aktif.
Apa yang Diungkapkan oleh Debat
Secara keseluruhan, sinyal-sinyal tersebut mengarah pada dua arus simultan dalam pengembangan AI. Satu arus mendorong menuju sistem yang lebih agensif yang dapat menjalankan tugas kompleks dengan sedikit atau tanpa pengawasan manusia; arus lainnya, yang disuarakan oleh tokoh-tokoh seperti Karpathy dan kini didukung oleh Buterin, berargumen untuk alat yang menjaga manusia terikat erat dengan perilaku model, baik melalui antarmuka pengeditan yang lebih baik, verifikasi manusia dalam loop, atau bahkan umpan balik neuroteknologi.
Bagi pengamat industri, keseimbangan antara pendekatan-pendekatan tersebut akan membentuk desain produk, regulasi, dan kepercayaan publik. Rilis open-weights memudahkan tim independen untuk bereksperimen dengan lapisan pengeditan yang berfokus pada manusia, tetapi juga memperluas distribusi model-model kuat, yang dikhawatirkan oleh regulator dan peneliti keselamatan dapat meningkatkan penyalahgunaan.
Sementara itu, seiring kemajuan bertahap BCI dan deteksi afek, antarmuka baru mungkin memang memungkinkan para pencipta untuk "mendorong" model dengan sinyal yang jauh lebih kaya daripada petunjuk yang diketik, mengangkat pertanyaan baru tentang privasi, persetujuan, dan bagaimana keadaan batin diukur dan disimpan. Tweet Vitalik Buterin kurang merupakan cetak biru teknis daripada pernyataan nilai: keluaran yang lebih baik dan sistem yang lebih aman berasal dari menjaga orang-orang dan sinyal preferensi manusia yang rumit dan bernuansa di pusat alur kerja AI.
Entah masa depan itu tiba melalui model terbuka yang dapat diedit hari ini atau antarmuka yang terikat pada otak besok, percakapan sudah mulai bergeser dari otonomi murni menuju kolaborasi manusia-AI yang lebih kaya. Seperti yang diungkapkan Buterin dalam posnya, dia lebih suka melihat sesuatu dilahirkan dan dapat mengarahkannya daripada menyerahkan kendali sepenuhnya.