Decentralize AI hakkında ilk konuştuğumuzda, hesaplama, veri ve yönetişim modellerine odaklandık - ve bunlar hala önemini koruyor.
Ancak, otonom ajanlar ticaret varlıkları, tedarik zincirleri yürütmek ve toplulukları yönetmek gibi gerçek dünya ortamlarında çalışırken, güven, ön plana çıkan zorluktur.
İnsan türünden, "Bu markadan iyi hissediyorum" veya "Pazarlamaları ikna edici" gibi yumuşak ifadeler değil.
Makine ekonomilerinde, güvenin doğrulanabilir, ölçülebilir ve protokol hızında uygulanabilir olması gerekir.
Bunun olmaması durumunda, merkeziyetsiz yapay zeka, halüsinasyonlar, spam, istismar ve ardışık arızalar için yüksek verimli bir arena olma riski taşır.
Bu, daha fazla hesaplama gücü veya daha temiz veri setleri ile çözebileceğimiz bir sorun değil. Bu, kimin hareket etmesine karar verme sorunudur.
Gayri resmi güvenden protokol kurallarına
Web 2.0'da güven, akşam yemeği seçmek için restoran incelemelerine bakmak gibiydi – iyi ama binlerce otonom ajanın anlık, yüksek etkili kararlar aldığı durumlarda manasızdı.
Bu sinyalleri sahtelemek kolaydır, ölçekli olarak denetlenmesi imkansızdır ve kötü niyetli aktörler için yerleşik sonuçlar taşımaz.
Merkeziyetsiz AI ağlarında, bu yeterli olmayacak. Ajanlar artık bir hobi sahibinin sunucusunda çalışan izole betikler değil.
Kaynak talep eden, ticaret yapan, DAO'larda oy kullanan ve diğer ajanları yönlendiren varlıklardır.
Kötü niyetli veya yetersiz davranıldığında zarar anında meydana gelir ve genellikle geri dönüşümsüzdür.
Araştırma topluluğundan ortaya çıkan cevap, güvenin kendisini altyapının bir parçası haline getirmektir.
Güç kazanan bir öneri, araştırmacı Tomer Jordi Chaffer tarafından ilk olarak önerilen, AI ajanları için bir takip kaydı olarak işlev gören devredilemeyen kimlikler olan AgentBound tokenları fikridir.
ABT – Makineler için Pasaportlar
ABT, bir ajanının zaman içindeki davranışını kaydeden, devredilemeyen bir kriptografik kimliktir.
Bunu makineler için bir pasaport olarak düşünün - vizelerle değil, tamamlanan doğrulanmış işler, elde edilen sonuçlar ve kaydedilen başarısızlıklarla damgalanmış.
Cüzdan bakiyeleri veya stake miktarlarının aksine, ABT'ler satın alınamaz, satılamaz veya devredilemez.
Eylemlerle kazanılır, doğrulanmış performansa göre güncellenir ve kötü davranışlar için kesilir - davranış kanıtı.
Bu, varsayılan durumu oyna-öde'den kanıtla-hareket et'e çeviriyor.
Token bakiyeleri insanları kontrol edebilir, ancak makine ekonomilerinde riskleri yanlış fiyatlandırırlar – ajanlar ucuzca klonlanabilir, sermaye borçlanabilir ve makine hızında çalışabilirler, paylarından çok daha büyük dışsallıklar yaratırlar.
ABT'ler, doğrulanmış performansı zamanla kıt bir kaynak haline getirerek bu açığı kapatır.
Token ağırlıklı sistemlerde, derin cüzdanlar erişim satın alır - ABT-Gated sistemlerde ise yalnızca dayanıklı, şeffaf bir geçmiş daha yüksek etki yaratan rolleri açar.
Güvenilirlik, operasyonel teminat haline gelir.
Gerçek zamanlı beş adımlı bir döngü aracılığıyla, ABT'ler ajan davranışını büyüyebilen, azalabilen veya kesilebilen operasyonel sermayeye dönüştürür.
Merkeziyetsiz bir lojistik ağı düşünün. Sıfır itibara sahip bir ABT ile yeni bir yönlendirme ajansı, küçük gönderimler üzerinde gözetim altında başlar.
Her onaylanmış iş, doğrulamalar kazanır - güven, bir bölgeyi otonom olarak yönetene kadar inşa edilir.
Hatalı bir güncelleme daha sonra gecikmelere yol açar - doğrulayıcılar bunu işaretler ve ABT ceza alır, bu da ajanı düşük riskli görevlere geri döndürür.
Temiz bir deneme süresinin ardından, itibarı geri kazanır.
Bu, makinelerin anlayabileceği ve protokollerin uygulayabileceği bir biçimde kazanılan, kaybedilen ve yeniden kazanılan bir yaşam sistemi olarak güvendir.
Ruh bağlı fikrini geliştirmek
Eğer bu, kavramsal olarak Soulbound token'lara yakın bir şey gibi geliyorsa, öyledir.
2022 tarihli ‘Merkeziyetsiz Toplum – Web 3.0’ın Ruhunu Bulmak’ adlı makalelerinde, Glen Weyl, Puja Ohlhaver ve Vitalik Buterin, SBT’leri insan kimliği için devredilemeyen kimlik belgeleri – diplomalar, üyelikler, lisanslar olarak önerdiler.
ABT'ler bu mantığı makinelere genişletir.
Ama SBT'ler çoğunlukla statik ("bu kişi X'ten mezun oldu"), ABT'ler dinamik olup, her doğrulanan eylemle güncellenir.
Bir ajanın kim olduğundan çok, zaman içinde nasıl davrandığı ile ilgilidir – ve zamansal unsur kritik öneme sahiptir.
Geçen yıldan itibaren lekesiz bir kayıt, eğer ajanın modeli o zamandan beri bozulmuş veya tehlikeye girmişse pek bir anlam ifade etmez.
ABT'ler bu evrimi yakalar, onları tek seferlik bir rozet yerine canlı bir sinyal haline getirir.
İtibar DAO'ları bir yönetişim katmanı olarak
ABT'ler verileri, ne olduğunu gösteren değiştirilemez kaydı işler, ancak kuralları birinin belirlemesi gerekir.
İyi veya kötü davranış nedir? Çeşitli eylemlerin ne kadar ağırlığı var? Anlaşmazlıkları nasıl çözmeliyiz?
Reputation DAO'ları, itibar katmanını tanımlayan, sürdüren ve denetleyen merkeziyetsiz yönetim organlarıdır.
Hangi doğrulayıcıların ABT'leri güncelleyebileceğine, belirli bir alan için hangi metriklerin önemli olduğuna ve itibarın zamanla nasıl azalacağı veya toparlanacağına karar verirler.
Yüksek riskli ortamlarda risk katmanları da ayarlayabilirler - bir içerik moderasyon ajanının otonom olarak hareket etmesi için bir geçmişe ihtiyacı vardır.
Buna karşılık, bir ticaret botu başka birine ihtiyaç duyabilir. Bu kararları merkeziyetsizleştirerek, sistem hem tek bir otoritenin kontrolüne girmeyi hem de katı kodlanmış kuralların sertliğini önler.
Reputasyon DAO'ları, merkeziyetsiz güven için insan etkileşimi unsuru olup – her eylemi mikro yönetmek değil – makine katmanını dürüst tutan normları ve parametreleri yönlendirmektedir.
Güveni programlanabilir hale getirmenin zorlukları
Bunların hiçbiri uygulanması basit değil. En karmaşık problemler aynı anda sosyal ve teknik.
Sybil saldırıları, düşük riskli rollerde itibar kazanmak için binlerce yeni ajan yaratarak ardından daha yüksek riskli bağlamlarda konuşlandırılmasıyla açık bir tehdittir.
Bunun önlenmesi, ABT'leri güçlü merkeziyetsiz kimliklere bağlamayı gerektirir - ve bazen de ucuz bir şekilde kopyalanamayan donanım veya yürütme ortamlarına.
İtibar yıkama başka bir risktir.
Önlemler olmadan, bir ABT sistemi yüksek riskli bir kostüm partisine dönüşebilir; kötü niyetli ajanlar başka birinin maskesini takarak VIP odaya girebilir.
Protokol düzeyinde devredilemezlik, anahtarlara kriptografik bağlanma ve katı delege etmeme kuralları gereklidir.
Ayrıca gizlilik-denetlenebilirlik dengesi de var. Bir ajana güvenmek için, onun nasıl performans gösterdiğini bilmeniz gerekir.
Ancak, tam karar günlüklerini yayınlamak hassas verileri veya özel yöntemleri açığa çıkarabilir.
ZKP'ler (sıfır bilgisi kanıtları) ve aggreGate metrikleri bu çelişkiyi çözmenin umut verici yollarıdır.
Ve sonra yönetişim ele geçirme var – eğer küçük bir doğrulayıcı grubu çoğu güncellemeyi kontrol ederse, kötü aktörleri beyaz listeye alabilir veya rakipleri cezalandırabilirler.
Açık doğrulayıcı setleri, döngü ve işbirliği için ceza, bu gücü dağıtmaya yardımcı olur.
Bunun önemi şimdi
Artık merkeziyetsiz yapay zekanın daha az teknoloji tarafından ve daha çok meşruiyet tarafından kısıtlandığı bir noktadayız.
Hangi ajanların hangi rollerde güvenilir olduğunu belirlemeden, ağlar ya kontrolü merkezileştirir ya da sürekli riski kabul eder.
ABT'ler ve itibar DAO'ları, güveni doğrudan altyapıya kodlamanın bir yolunu sunarak, bunu sistemin konsensüsü kadar yerel hale getiren üçüncü bir yol sunar.
Bu soruya kamuya açık bir şekilde cevap veriyorlar; ‘AI'yi kim kontrol ediyor?’ sorusunu ‘kontrol nasıl tanımlanır, verilir ve geri alınır?’ haline getiriyorlar.
Web 3.0'ın ilk dalgası, bize parayla yabancılara güvenmeyi öğretti.
Sonraki, bize yabancılara makine hızında kararlar vermeyi öğretmeli, bunun sonuçları ise hiçbir insanın zamanında geri alamayacağı sonuçlar.
Bir ajan ekonomisinde bu seçenek değil - hayatta kalmaktır.
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
Makine Güveni – Neden İtibar Bir Sonraki AI Temeli Olacak - The Daily Hodl
HodlX Konuk GönderiPostanızı Gönderin
Decentralize AI hakkında ilk konuştuğumuzda, hesaplama, veri ve yönetişim modellerine odaklandık - ve bunlar hala önemini koruyor.
Ancak, otonom ajanlar ticaret varlıkları, tedarik zincirleri yürütmek ve toplulukları yönetmek gibi gerçek dünya ortamlarında çalışırken, güven, ön plana çıkan zorluktur.
İnsan türünden, "Bu markadan iyi hissediyorum" veya "Pazarlamaları ikna edici" gibi yumuşak ifadeler değil.
Makine ekonomilerinde, güvenin doğrulanabilir, ölçülebilir ve protokol hızında uygulanabilir olması gerekir.
Bunun olmaması durumunda, merkeziyetsiz yapay zeka, halüsinasyonlar, spam, istismar ve ardışık arızalar için yüksek verimli bir arena olma riski taşır.
Bu, daha fazla hesaplama gücü veya daha temiz veri setleri ile çözebileceğimiz bir sorun değil. Bu, kimin hareket etmesine karar verme sorunudur.
Gayri resmi güvenden protokol kurallarına
Web 2.0'da güven, akşam yemeği seçmek için restoran incelemelerine bakmak gibiydi – iyi ama binlerce otonom ajanın anlık, yüksek etkili kararlar aldığı durumlarda manasızdı.
Bu sinyalleri sahtelemek kolaydır, ölçekli olarak denetlenmesi imkansızdır ve kötü niyetli aktörler için yerleşik sonuçlar taşımaz.
Merkeziyetsiz AI ağlarında, bu yeterli olmayacak. Ajanlar artık bir hobi sahibinin sunucusunda çalışan izole betikler değil.
Kaynak talep eden, ticaret yapan, DAO'larda oy kullanan ve diğer ajanları yönlendiren varlıklardır.
Kötü niyetli veya yetersiz davranıldığında zarar anında meydana gelir ve genellikle geri dönüşümsüzdür.
Araştırma topluluğundan ortaya çıkan cevap, güvenin kendisini altyapının bir parçası haline getirmektir.
Güç kazanan bir öneri, araştırmacı Tomer Jordi Chaffer tarafından ilk olarak önerilen, AI ajanları için bir takip kaydı olarak işlev gören devredilemeyen kimlikler olan AgentBound tokenları fikridir.
ABT – Makineler için Pasaportlar
ABT, bir ajanının zaman içindeki davranışını kaydeden, devredilemeyen bir kriptografik kimliktir.
Bunu makineler için bir pasaport olarak düşünün - vizelerle değil, tamamlanan doğrulanmış işler, elde edilen sonuçlar ve kaydedilen başarısızlıklarla damgalanmış.
Cüzdan bakiyeleri veya stake miktarlarının aksine, ABT'ler satın alınamaz, satılamaz veya devredilemez.
Eylemlerle kazanılır, doğrulanmış performansa göre güncellenir ve kötü davranışlar için kesilir - davranış kanıtı.
Bu, varsayılan durumu oyna-öde'den kanıtla-hareket et'e çeviriyor.
Token bakiyeleri insanları kontrol edebilir, ancak makine ekonomilerinde riskleri yanlış fiyatlandırırlar – ajanlar ucuzca klonlanabilir, sermaye borçlanabilir ve makine hızında çalışabilirler, paylarından çok daha büyük dışsallıklar yaratırlar.
ABT'ler, doğrulanmış performansı zamanla kıt bir kaynak haline getirerek bu açığı kapatır.
Token ağırlıklı sistemlerde, derin cüzdanlar erişim satın alır - ABT-Gated sistemlerde ise yalnızca dayanıklı, şeffaf bir geçmiş daha yüksek etki yaratan rolleri açar.
Güvenilirlik, operasyonel teminat haline gelir.
Gerçek zamanlı beş adımlı bir döngü aracılığıyla, ABT'ler ajan davranışını büyüyebilen, azalabilen veya kesilebilen operasyonel sermayeye dönüştürür.
Merkeziyetsiz bir lojistik ağı düşünün. Sıfır itibara sahip bir ABT ile yeni bir yönlendirme ajansı, küçük gönderimler üzerinde gözetim altında başlar.
Her onaylanmış iş, doğrulamalar kazanır - güven, bir bölgeyi otonom olarak yönetene kadar inşa edilir.
Hatalı bir güncelleme daha sonra gecikmelere yol açar - doğrulayıcılar bunu işaretler ve ABT ceza alır, bu da ajanı düşük riskli görevlere geri döndürür.
Temiz bir deneme süresinin ardından, itibarı geri kazanır.
Bu, makinelerin anlayabileceği ve protokollerin uygulayabileceği bir biçimde kazanılan, kaybedilen ve yeniden kazanılan bir yaşam sistemi olarak güvendir.
Ruh bağlı fikrini geliştirmek
Eğer bu, kavramsal olarak Soulbound token'lara yakın bir şey gibi geliyorsa, öyledir.
2022 tarihli ‘Merkeziyetsiz Toplum – Web 3.0’ın Ruhunu Bulmak’ adlı makalelerinde, Glen Weyl, Puja Ohlhaver ve Vitalik Buterin, SBT’leri insan kimliği için devredilemeyen kimlik belgeleri – diplomalar, üyelikler, lisanslar olarak önerdiler.
ABT'ler bu mantığı makinelere genişletir.
Ama SBT'ler çoğunlukla statik ("bu kişi X'ten mezun oldu"), ABT'ler dinamik olup, her doğrulanan eylemle güncellenir.
Bir ajanın kim olduğundan çok, zaman içinde nasıl davrandığı ile ilgilidir – ve zamansal unsur kritik öneme sahiptir.
Geçen yıldan itibaren lekesiz bir kayıt, eğer ajanın modeli o zamandan beri bozulmuş veya tehlikeye girmişse pek bir anlam ifade etmez.
ABT'ler bu evrimi yakalar, onları tek seferlik bir rozet yerine canlı bir sinyal haline getirir.
İtibar DAO'ları bir yönetişim katmanı olarak
ABT'ler verileri, ne olduğunu gösteren değiştirilemez kaydı işler, ancak kuralları birinin belirlemesi gerekir.
İyi veya kötü davranış nedir? Çeşitli eylemlerin ne kadar ağırlığı var? Anlaşmazlıkları nasıl çözmeliyiz?
Reputation DAO'ları, itibar katmanını tanımlayan, sürdüren ve denetleyen merkeziyetsiz yönetim organlarıdır.
Hangi doğrulayıcıların ABT'leri güncelleyebileceğine, belirli bir alan için hangi metriklerin önemli olduğuna ve itibarın zamanla nasıl azalacağı veya toparlanacağına karar verirler.
Yüksek riskli ortamlarda risk katmanları da ayarlayabilirler - bir içerik moderasyon ajanının otonom olarak hareket etmesi için bir geçmişe ihtiyacı vardır.
Buna karşılık, bir ticaret botu başka birine ihtiyaç duyabilir. Bu kararları merkeziyetsizleştirerek, sistem hem tek bir otoritenin kontrolüne girmeyi hem de katı kodlanmış kuralların sertliğini önler.
Reputasyon DAO'ları, merkeziyetsiz güven için insan etkileşimi unsuru olup – her eylemi mikro yönetmek değil – makine katmanını dürüst tutan normları ve parametreleri yönlendirmektedir.
Güveni programlanabilir hale getirmenin zorlukları
Bunların hiçbiri uygulanması basit değil. En karmaşık problemler aynı anda sosyal ve teknik.
Sybil saldırıları, düşük riskli rollerde itibar kazanmak için binlerce yeni ajan yaratarak ardından daha yüksek riskli bağlamlarda konuşlandırılmasıyla açık bir tehdittir.
Bunun önlenmesi, ABT'leri güçlü merkeziyetsiz kimliklere bağlamayı gerektirir - ve bazen de ucuz bir şekilde kopyalanamayan donanım veya yürütme ortamlarına.
İtibar yıkama başka bir risktir.
Önlemler olmadan, bir ABT sistemi yüksek riskli bir kostüm partisine dönüşebilir; kötü niyetli ajanlar başka birinin maskesini takarak VIP odaya girebilir.
Protokol düzeyinde devredilemezlik, anahtarlara kriptografik bağlanma ve katı delege etmeme kuralları gereklidir.
Ayrıca gizlilik-denetlenebilirlik dengesi de var. Bir ajana güvenmek için, onun nasıl performans gösterdiğini bilmeniz gerekir.
Ancak, tam karar günlüklerini yayınlamak hassas verileri veya özel yöntemleri açığa çıkarabilir.
ZKP'ler (sıfır bilgisi kanıtları) ve aggreGate metrikleri bu çelişkiyi çözmenin umut verici yollarıdır.
Ve sonra yönetişim ele geçirme var – eğer küçük bir doğrulayıcı grubu çoğu güncellemeyi kontrol ederse, kötü aktörleri beyaz listeye alabilir veya rakipleri cezalandırabilirler.
Açık doğrulayıcı setleri, döngü ve işbirliği için ceza, bu gücü dağıtmaya yardımcı olur.
Bunun önemi şimdi
Artık merkeziyetsiz yapay zekanın daha az teknoloji tarafından ve daha çok meşruiyet tarafından kısıtlandığı bir noktadayız.
Hangi ajanların hangi rollerde güvenilir olduğunu belirlemeden, ağlar ya kontrolü merkezileştirir ya da sürekli riski kabul eder.
ABT'ler ve itibar DAO'ları, güveni doğrudan altyapıya kodlamanın bir yolunu sunarak, bunu sistemin konsensüsü kadar yerel hale getiren üçüncü bir yol sunar.
Bu soruya kamuya açık bir şekilde cevap veriyorlar; ‘AI'yi kim kontrol ediyor?’ sorusunu ‘kontrol nasıl tanımlanır, verilir ve geri alınır?’ haline getiriyorlar.
Web 3.0'ın ilk dalgası, bize parayla yabancılara güvenmeyi öğretti.
Sonraki, bize yabancılara makine hızında kararlar vermeyi öğretmeli, bunun sonuçları ise hiçbir insanın zamanında geri alamayacağı sonuçlar.
Bir ajan ekonomisinde bu seçenek değil - hayatta kalmaktır.
Roman Melnyk, DeXe'de pazarlama müdürü.