Ketika kita pertama kali berbicara tentang mendesentralisasi AI, kita fokus pada komputasi, data, dan model tata kelola – dan itu masih penting.
Namun, saat agen otonom beroperasi di lingkungan dunia nyata seperti perdagangan aset, menjalankan rantai pasokan, dan memoderasi komunitas, kepercayaan adalah tantangan yang menjadi perhatian utama.
Bukan jenis lembut yang manusiawi seperti, "Saya merasa baik tentang merek ini," atau "Pemasaran mereka meyakinkan."
Dalam ekonomi mesin, kepercayaan harus dapat diverifikasi, terukur, dan dapat ditegakkan dengan kecepatan protokol.
Tanpa itu, AI terdesentralisasi berisiko menjadi arena throughput tinggi untuk halusinasi, spam, eksploitasi, dan kegagalan beruntun.
Ini bukan masalah yang bisa kita selesaikan dengan lebih banyak komputasi atau dataset yang lebih bersih. Ini adalah masalah tentang bagaimana kita memutuskan siapa yang berhak bertindak.
Dari kepercayaan informal ke aturan protokol
Dalam Web 2.0, kepercayaan seperti membaca ulasan restoran – baik untuk memilih makan malam tetapi tidak berarti ketika ribuan agen otonom membuat keputusan mendadak yang berdampak tinggi.
Sinyal-sinyal tersebut mudah untuk dipalsukan, tidak mungkin diaudit secara skala besar dan tidak memiliki konsekuensi bawaan untuk pelaku jahat.
Dalam jaringan AI terdesentralisasi, itu tidak cukup. Agen tidak lagi menjadi skrip terisolasi yang berjalan di server seorang hobiis.
Mereka adalah entitas yang meminta sumber daya, mengeksekusi perdagangan, memberikan suara di DAO, dan mengorkestrasi agen lainnya.
Kerusakan terjadi segera dan seringkali tidak dapat diperbaiki jika seseorang bertindak secara jahat atau tidak kompeten.
Jawaban yang muncul dari komunitas penelitian adalah menjadikan kepercayaan itu sendiri sebagai bagian dari infrastruktur.
Salah satu proposal yang mendapatkan perhatian adalah ide token AgentBound – kredensial yang tidak dapat dipindahkan yang bertindak sebagai catatan untuk agen AI, pertama kali diusulkan oleh peneliti Tomer Jordi Chaffer.
ABT – Paspor untuk mesin
ABT adalah kredensial kriptografi yang tidak dapat dipindahtangankan yang mencatat perilaku agen dari waktu ke waktu.
Anggaplah itu sebagai paspor untuk mesin – dicap bukan dengan visa tetapi dengan pekerjaan yang telah diverifikasi, hasil yang disampaikan, dan kegagalan yang tercatat.
Tidak seperti saldo dompet atau jumlah taruhan, ABT tidak dapat dibeli, dijual, atau didelegasikan.
Mereka diperoleh melalui tindakan, diperbarui berdasarkan kinerja yang terverifikasi dan dipotong karena pelanggaran - bukti perilaku.
Ini mengubah default dari bayar-untuk-bermain menjadi buktikan-untuk-bertindak.
Saldo token dapat mengendalikan manusia, tetapi dalam ekonomi mesin, mereka salah menilai risiko – agen dapat dengan mudah dikloning, dapat meminjam modal dan beroperasi pada kecepatan mesin, menciptakan eksternalitas yang jauh melebihi taruhannya.
ABT menutup kesenjangan itu dengan menjadikan kinerja yang terverifikasi sebagai sumber daya yang langka seiring waktu.
Dalam sistem berbasis token, kantong dalam membeli akses – dalam sistem ABT-Gated, hanya rekam jejak yang tahan lama dan transparan yang membuka peran berdampak lebih tinggi.
Keandalan menjadi jaminan operasional.
Melalui loop lima langkah secara real-time, ABT mengubah perilaku agen menjadi modal operasional yang dapat tumbuh, menyusut, atau dipotong.
Pertimbangkan jaringan logistik terdesentralisasi. Agen routing baru dengan ABT tanpa reputasi mulai di bawah pengawasan untuk pengiriman kecil.
Setiap pekerjaan yang terverifikasi mendapatkan pengakuan – kepercayaan terbangun hingga dapat menjalankan suatu wilayah secara otonom.
Pembaruan yang bermasalah kemudian menyebabkan keterlambatan – validator menandainya dan ABT dikenakan sanksi, mengembalikan agen ke tugas berisiko rendah.
Setelah periode percobaan yang bersih, reputasinya pulih.
Itu adalah kepercayaan sebagai sistem hidup yang diperoleh, hilang, dan diperoleh kembali dalam bentuk yang dapat dipahami oleh mesin dan ditegakkan oleh protokol.
Membangun di atas ide yang terikat jiwa
Jika ini terdengar secara konseptual mirip dengan token Soulbound, memang demikian.
Dalam makalah mereka tahun 2022, ‘Decentralized Society – Finding Web 3.0’s Soul,’ Glen Weyl, Puja Ohlhaver, dan Vitalik Buterin mengusulkan SBT sebagai kredensial non-transferable untuk identitas manusia – ijazah, afiliasi, lisensi.
ABT memperluas logika ini ke mesin.
Tapi di mana SBT sebagian besar statis ("orang ini lulus dari X"), ABT bersifat dinamis, memperbarui dengan setiap tindakan yang terverifikasi.
Mereka lebih tentang bagaimana perilaku seorang agen dari waktu ke waktu - dan elemen temporal sangat penting.
Rekor tanpa cacat dari tahun lalu tidak berarti banyak jika model agen telah menurun atau dikompromikan sejak saat itu.
ABT menangkap evolusi itu, menjadikannya sinyal langsung daripada lencana sekali pakai.
Reputation DAOs sebagai lapisan tata kelola
ABT mengelola data, catatan yang tidak dapat diubah tentang apa yang terjadi, tetapi seseorang harus menetapkan aturannya.
Apa itu perilaku baik atau buruk? Seberapa besar bobot yang dimiliki berbagai tindakan? Bagaimana cara menangani sengketa?
Reputasi DAO adalah badan pemerintahan terdesentralisasi yang mendefinisikan, memelihara, dan mengaudit lapisan reputasi.
Mereka memutuskan validator mana yang dapat memperbarui ABT, metrik apa yang penting untuk domain tertentu dan bagaimana reputasi memudar atau pulih seiring waktu.
Mereka juga dapat menetapkan tingkat risiko dalam lingkungan berisiko tinggi – seorang agen moderasi konten membutuhkan satu rekam jejak untuk bertindak secara otonom.
Sebaliknya, bot perdagangan mungkin memerlukan yang lain. Dengan mendekentralisasikan keputusan ini, sistem menghindari baik penangkapan oleh satu otoritas tunggal maupun kekakuan aturan yang dikodekan secara keras.
Reputation DAOs adalah elemen manusia dalam loop untuk kepercayaan terdesentralisasi – bukan mengawasi setiap tindakan – tetapi mengarahkan norma dan parameter yang menjaga lapisan mesin tetap jujur.
Tantangan dalam membuat kepercayaan dapat diprogram
Semua ini tidak mudah untuk diimplementasikan. Masalah yang paling kompleks adalah sosial dan teknis sekaligus.
Serangan Sybil adalah ancaman yang jelas - menciptakan ribuan agen baru untuk mengumpulkan reputasi dalam peran berisiko rendah, kemudian mengerahkan mereka dalam konteks yang lebih berisiko.
Mencegah hal ini memerlukan pengikatan ABT ke identitas terdesentralisasi yang kuat – dan terkadang ke perangkat keras atau lingkungan eksekusi yang tidak dapat direplikasi dengan murah.
Pencucian reputasi adalah risiko lainnya.
Tanpa langkah pencegahan, sistem ABT bisa menjadi pesta kostum berisiko tinggi, di mana agen jahat mengenakan topeng orang lain untuk masuk ke ruang VIP.
Non-transferabilitas tingkat protokol, pengikatan kriptografi ke kunci, dan aturan anti-delegasi yang ketat sangat penting.
Ada juga trade-off antara privasi dan auditabilitas. Untuk mempercayai suatu agen, Anda perlu mengetahui bagaimana kinerjanya.
Namun, menerbitkan log keputusan lengkap mungkin mengekspos data sensitif atau metode kepemilikan.
ZKPs (bukti tanpa pengetahuan) dan metrik aggreGate adalah cara yang menjanjikan untuk menyelesaikan masalah itu.
Dan kemudian ada penangkapan tata kelola – jika sekelompok kecil validator mengontrol sebagian besar pembaruan, mereka dapat memutihkan aktor jahat atau menghukum saingan.
Set validator terbuka, rotasi, dan pemotongan untuk kolusi membantu mendistribusikan kekuasaan itu.
Mengapa ini penting sekarang
Kami berada di titik di mana AI terdesentralisasi dibatasi kurang oleh teknologi dan lebih oleh legitimasi.
Tanpa memutuskan agen mana yang dapat dipercaya untuk peran mana, jaringan baik mengonsolidasikan kontrol atau menerima risiko yang konstan.
ABT dan reputasi DAO menawarkan jalur ketiga – cara untuk mengkodekan kepercayaan langsung ke dalam infrastruktur, menjadikannya semenarik sistem seperti konsensus.
Mereka menjawab pertanyaan itu secara publik dengan mengubah ‘siapa yang mengontrol AI?’ menjadi ‘bagaimana kontrol didefinisikan, diberikan, dan dicabut?’
Gelombang pertama Web 3.0 mengajarkan kita untuk mempercayai orang asing dengan uang.
Yang berikutnya harus mengajarkan kita untuk mempercayai orang asing dalam pengambilan keputusan dengan kecepatan mesin, dengan konsekuensi yang tidak dapat dibalik oleh manusia tepat waktu.
Dalam ekonomi agen, itu bukan pilihan - itu adalah bertahan hidup.
Halaman ini mungkin berisi konten pihak ketiga, yang disediakan untuk tujuan informasi saja (bukan pernyataan/jaminan) dan tidak boleh dianggap sebagai dukungan terhadap pandangannya oleh Gate, atau sebagai nasihat keuangan atau profesional. Lihat Penafian untuk detailnya.
Kepercayaan Mesin – Mengapa Reputasi Adalah Primitif AI Selanjutnya - The Daily Hodl
HodlX Kiriman TamuKirim Kiriman Anda
Ketika kita pertama kali berbicara tentang mendesentralisasi AI, kita fokus pada komputasi, data, dan model tata kelola – dan itu masih penting.
Namun, saat agen otonom beroperasi di lingkungan dunia nyata seperti perdagangan aset, menjalankan rantai pasokan, dan memoderasi komunitas, kepercayaan adalah tantangan yang menjadi perhatian utama.
Bukan jenis lembut yang manusiawi seperti, "Saya merasa baik tentang merek ini," atau "Pemasaran mereka meyakinkan."
Dalam ekonomi mesin, kepercayaan harus dapat diverifikasi, terukur, dan dapat ditegakkan dengan kecepatan protokol.
Tanpa itu, AI terdesentralisasi berisiko menjadi arena throughput tinggi untuk halusinasi, spam, eksploitasi, dan kegagalan beruntun.
Ini bukan masalah yang bisa kita selesaikan dengan lebih banyak komputasi atau dataset yang lebih bersih. Ini adalah masalah tentang bagaimana kita memutuskan siapa yang berhak bertindak.
Dari kepercayaan informal ke aturan protokol
Dalam Web 2.0, kepercayaan seperti membaca ulasan restoran – baik untuk memilih makan malam tetapi tidak berarti ketika ribuan agen otonom membuat keputusan mendadak yang berdampak tinggi.
Sinyal-sinyal tersebut mudah untuk dipalsukan, tidak mungkin diaudit secara skala besar dan tidak memiliki konsekuensi bawaan untuk pelaku jahat.
Dalam jaringan AI terdesentralisasi, itu tidak cukup. Agen tidak lagi menjadi skrip terisolasi yang berjalan di server seorang hobiis.
Mereka adalah entitas yang meminta sumber daya, mengeksekusi perdagangan, memberikan suara di DAO, dan mengorkestrasi agen lainnya.
Kerusakan terjadi segera dan seringkali tidak dapat diperbaiki jika seseorang bertindak secara jahat atau tidak kompeten.
Jawaban yang muncul dari komunitas penelitian adalah menjadikan kepercayaan itu sendiri sebagai bagian dari infrastruktur.
Salah satu proposal yang mendapatkan perhatian adalah ide token AgentBound – kredensial yang tidak dapat dipindahkan yang bertindak sebagai catatan untuk agen AI, pertama kali diusulkan oleh peneliti Tomer Jordi Chaffer.
ABT – Paspor untuk mesin
ABT adalah kredensial kriptografi yang tidak dapat dipindahtangankan yang mencatat perilaku agen dari waktu ke waktu.
Anggaplah itu sebagai paspor untuk mesin – dicap bukan dengan visa tetapi dengan pekerjaan yang telah diverifikasi, hasil yang disampaikan, dan kegagalan yang tercatat.
Tidak seperti saldo dompet atau jumlah taruhan, ABT tidak dapat dibeli, dijual, atau didelegasikan.
Mereka diperoleh melalui tindakan, diperbarui berdasarkan kinerja yang terverifikasi dan dipotong karena pelanggaran - bukti perilaku.
Ini mengubah default dari bayar-untuk-bermain menjadi buktikan-untuk-bertindak.
Saldo token dapat mengendalikan manusia, tetapi dalam ekonomi mesin, mereka salah menilai risiko – agen dapat dengan mudah dikloning, dapat meminjam modal dan beroperasi pada kecepatan mesin, menciptakan eksternalitas yang jauh melebihi taruhannya.
ABT menutup kesenjangan itu dengan menjadikan kinerja yang terverifikasi sebagai sumber daya yang langka seiring waktu.
Dalam sistem berbasis token, kantong dalam membeli akses – dalam sistem ABT-Gated, hanya rekam jejak yang tahan lama dan transparan yang membuka peran berdampak lebih tinggi.
Keandalan menjadi jaminan operasional.
Melalui loop lima langkah secara real-time, ABT mengubah perilaku agen menjadi modal operasional yang dapat tumbuh, menyusut, atau dipotong.
Pertimbangkan jaringan logistik terdesentralisasi. Agen routing baru dengan ABT tanpa reputasi mulai di bawah pengawasan untuk pengiriman kecil.
Setiap pekerjaan yang terverifikasi mendapatkan pengakuan – kepercayaan terbangun hingga dapat menjalankan suatu wilayah secara otonom.
Pembaruan yang bermasalah kemudian menyebabkan keterlambatan – validator menandainya dan ABT dikenakan sanksi, mengembalikan agen ke tugas berisiko rendah.
Setelah periode percobaan yang bersih, reputasinya pulih.
Itu adalah kepercayaan sebagai sistem hidup yang diperoleh, hilang, dan diperoleh kembali dalam bentuk yang dapat dipahami oleh mesin dan ditegakkan oleh protokol.
Membangun di atas ide yang terikat jiwa
Jika ini terdengar secara konseptual mirip dengan token Soulbound, memang demikian.
Dalam makalah mereka tahun 2022, ‘Decentralized Society – Finding Web 3.0’s Soul,’ Glen Weyl, Puja Ohlhaver, dan Vitalik Buterin mengusulkan SBT sebagai kredensial non-transferable untuk identitas manusia – ijazah, afiliasi, lisensi.
ABT memperluas logika ini ke mesin.
Tapi di mana SBT sebagian besar statis ("orang ini lulus dari X"), ABT bersifat dinamis, memperbarui dengan setiap tindakan yang terverifikasi.
Mereka lebih tentang bagaimana perilaku seorang agen dari waktu ke waktu - dan elemen temporal sangat penting.
Rekor tanpa cacat dari tahun lalu tidak berarti banyak jika model agen telah menurun atau dikompromikan sejak saat itu.
ABT menangkap evolusi itu, menjadikannya sinyal langsung daripada lencana sekali pakai.
Reputation DAOs sebagai lapisan tata kelola
ABT mengelola data, catatan yang tidak dapat diubah tentang apa yang terjadi, tetapi seseorang harus menetapkan aturannya.
Apa itu perilaku baik atau buruk? Seberapa besar bobot yang dimiliki berbagai tindakan? Bagaimana cara menangani sengketa?
Reputasi DAO adalah badan pemerintahan terdesentralisasi yang mendefinisikan, memelihara, dan mengaudit lapisan reputasi.
Mereka memutuskan validator mana yang dapat memperbarui ABT, metrik apa yang penting untuk domain tertentu dan bagaimana reputasi memudar atau pulih seiring waktu.
Mereka juga dapat menetapkan tingkat risiko dalam lingkungan berisiko tinggi – seorang agen moderasi konten membutuhkan satu rekam jejak untuk bertindak secara otonom.
Sebaliknya, bot perdagangan mungkin memerlukan yang lain. Dengan mendekentralisasikan keputusan ini, sistem menghindari baik penangkapan oleh satu otoritas tunggal maupun kekakuan aturan yang dikodekan secara keras.
Reputation DAOs adalah elemen manusia dalam loop untuk kepercayaan terdesentralisasi – bukan mengawasi setiap tindakan – tetapi mengarahkan norma dan parameter yang menjaga lapisan mesin tetap jujur.
Tantangan dalam membuat kepercayaan dapat diprogram
Semua ini tidak mudah untuk diimplementasikan. Masalah yang paling kompleks adalah sosial dan teknis sekaligus.
Serangan Sybil adalah ancaman yang jelas - menciptakan ribuan agen baru untuk mengumpulkan reputasi dalam peran berisiko rendah, kemudian mengerahkan mereka dalam konteks yang lebih berisiko.
Mencegah hal ini memerlukan pengikatan ABT ke identitas terdesentralisasi yang kuat – dan terkadang ke perangkat keras atau lingkungan eksekusi yang tidak dapat direplikasi dengan murah.
Pencucian reputasi adalah risiko lainnya.
Tanpa langkah pencegahan, sistem ABT bisa menjadi pesta kostum berisiko tinggi, di mana agen jahat mengenakan topeng orang lain untuk masuk ke ruang VIP.
Non-transferabilitas tingkat protokol, pengikatan kriptografi ke kunci, dan aturan anti-delegasi yang ketat sangat penting.
Ada juga trade-off antara privasi dan auditabilitas. Untuk mempercayai suatu agen, Anda perlu mengetahui bagaimana kinerjanya.
Namun, menerbitkan log keputusan lengkap mungkin mengekspos data sensitif atau metode kepemilikan.
ZKPs (bukti tanpa pengetahuan) dan metrik aggreGate adalah cara yang menjanjikan untuk menyelesaikan masalah itu.
Dan kemudian ada penangkapan tata kelola – jika sekelompok kecil validator mengontrol sebagian besar pembaruan, mereka dapat memutihkan aktor jahat atau menghukum saingan.
Set validator terbuka, rotasi, dan pemotongan untuk kolusi membantu mendistribusikan kekuasaan itu.
Mengapa ini penting sekarang
Kami berada di titik di mana AI terdesentralisasi dibatasi kurang oleh teknologi dan lebih oleh legitimasi.
Tanpa memutuskan agen mana yang dapat dipercaya untuk peran mana, jaringan baik mengonsolidasikan kontrol atau menerima risiko yang konstan.
ABT dan reputasi DAO menawarkan jalur ketiga – cara untuk mengkodekan kepercayaan langsung ke dalam infrastruktur, menjadikannya semenarik sistem seperti konsensus.
Mereka menjawab pertanyaan itu secara publik dengan mengubah ‘siapa yang mengontrol AI?’ menjadi ‘bagaimana kontrol didefinisikan, diberikan, dan dicabut?’
Gelombang pertama Web 3.0 mengajarkan kita untuk mempercayai orang asing dengan uang.
Yang berikutnya harus mengajarkan kita untuk mempercayai orang asing dalam pengambilan keputusan dengan kecepatan mesin, dengan konsekuensi yang tidak dapat dibalik oleh manusia tepat waktu.
Dalam ekonomi agen, itu bukan pilihan - itu adalah bertahan hidup.
Roman Melnyk adalah kepala pemasaran di DeXe.