Upaya Baru untuk Lapisan Kepercayaan AI: Peluncuran Testnet Publik Jaringan Mira
Baru-baru ini, sebuah jaringan uji publik bernama Mira resmi diluncurkan. Tujuan proyek ini adalah untuk membangun lapisan kepercayaan bagi AI, untuk mengatasi beberapa tantangan kunci yang dihadapi sistem AI saat ini. Jadi, mengapa AI perlu membangun kepercayaan, dan bagaimana Mira menangani masalah ini?
Di bidang AI, orang sering lebih fokus pada kemampuan hebatnya. Namun, sebuah pertanyaan menarik yang jarang dibahas adalah "ilusi" atau bias AI. Yang disebut "ilusi" AI, secara sederhana, adalah bahwa AI terkadang "mengada-ada" informasi, seolah-olah memberikan penjelasan yang masuk akal tetapi sebenarnya tidak berdasar. Misalnya, jika Anda bertanya kepada AI mengapa bulan berwarna pink, ia mungkin memberikan serangkaian penjelasan yang tampaknya masuk akal tetapi sebenarnya tidak ada dasarnya.
Kemunculan "ilusi" atau bias pada AI berkaitan dengan beberapa jalur teknologi AI saat ini. Misalnya, AI generatif mencapai koherensi dan kewajaran output dengan memprediksi konten yang "paling mungkin", tetapi metode ini kadang-kadang sulit untuk memverifikasi kebenarannya. Selain itu, data pelatihan itu sendiri mungkin mengandung kesalahan, bias, atau bahkan konten fiktif, yang semuanya dapat mempengaruhi kualitas output AI. Dengan kata lain, AI belajar dari pola bahasa manusia, bukan dari fakta itu sendiri.
Mekanisme generasi probabilitas dan model berbasis data saat ini hampir tidak terhindarkan menghasilkan "ilusi" dari AI. Untuk pengetahuan umum atau konten hiburan, output yang bias atau ilusif ini mungkin tidak langsung menimbulkan konsekuensi. Namun, jika terjadi di bidang-bidang yang memerlukan ketelitian tinggi seperti medis, hukum, penerbangan, dan keuangan, itu dapat menghasilkan konsekuensi yang serius. Oleh karena itu, bagaimana menyelesaikan masalah ilusi dan bias AI menjadi salah satu masalah inti dalam proses pengembangan AI.
Saat ini, di industri telah tersedia berbagai solusi. Beberapa menggunakan teknologi generasi yang ditingkatkan dengan pencarian, menggabungkan AI dengan database waktu nyata, dan mengutamakan output fakta yang telah diverifikasi. Beberapa lainnya memperkenalkan umpan balik manusia, melalui penandaan dan pengawasan manual untuk memperbaiki kesalahan model.
Proyek Mira juga sedang berusaha untuk mengatasi masalah bias dan ilusi AI. Inti pemikirannya adalah dengan membangun lapisan kepercayaan AI, untuk mengurangi bias dan ilusi AI, serta meningkatkan keandalan AI. Lalu, bagaimana Mira mencapai tujuan ini?
Gagasan inti Mira adalah untuk memverifikasi output AI melalui konsensus dari beberapa model AI. Mira pada dasarnya adalah jaringan verifikasi yang memanfaatkan konsensus dari beberapa model AI untuk memverifikasi keandalan output AI. Selain itu, Mira juga memperkenalkan konsensus terdesentralisasi untuk melakukan verifikasi.
Kunci dari jaringan Mira terletak pada verifikasi konsensus yang terdesentralisasi. Metode ini mengadopsi teknologi dari bidang kripto, sambil memanfaatkan keunggulan kolaborasi multi-model, untuk mengurangi bias dan ilusi melalui model verifikasi kolektif.
Dalam hal arsitektur verifikasi, protokol Mira mendukung konversi konten kompleks menjadi pernyataan yang dapat diverifikasi secara independen. Pernyataan ini memerlukan partisipasi operator node dalam proses verifikasi. Untuk memastikan kejujuran operator node, Mira mengadopsi mekanisme insentif/hukuman ekonomi kriptografi. Berbagai model AI dan operator node terdesentralisasi berkolaborasi untuk menjamin keandalan hasil verifikasi.
Arsitektur jaringan Mira mencakup konversi konten, verifikasi terdistribusi, dan mekanisme konsensus untuk mencapai keandalan verifikasi. Dalam arsitektur ini, konversi konten adalah langkah penting. Jaringan Mira pertama-tama memecah konten yang diusulkan (biasanya diajukan oleh klien) menjadi berbagai pernyataan yang dapat diverifikasi untuk memastikan model dapat memahami konten dalam konteks yang sama. Pernyataan ini didistribusikan oleh sistem ke node untuk diverifikasi, guna menentukan validitas pernyataan, dan mengumpulkan hasil untuk mencapai konsensus. Akhirnya, hasil dan konsensus ini akan dikembalikan kepada klien. Untuk melindungi privasi klien, konten yang diusulkan diubah menjadi pasangan pernyataan dan didistribusikan ke berbagai node dengan cara pengacakan, untuk mencegah kebocoran informasi selama proses verifikasi.
Operator node bertanggung jawab untuk menjalankan model validator, memproses klaim, dan mengirimkan hasil verifikasi. Mereka bersedia terlibat dalam verifikasi karena dapat memperoleh imbalan. Imbalan ini berasal dari nilai yang diciptakan untuk klien. Tujuan jaringan Mira adalah mengurangi tingkat kesalahan AI (mengurangi ilusi dan bias), dan setelah tujuan ini tercapai, dapat menghasilkan nilai besar di bidang kesehatan, hukum, penerbangan, dan keuangan. Oleh karena itu, klien bersedia membayar untuk ini. Tentu saja, keberlanjutan dan skala pembayaran tergantung pada apakah jaringan Mira dapat terus memberikan nilai kepada klien. Untuk mencegah perilaku spekulatif dari respons acak node, node yang terus menyimpang dari konsensus akan dikenakan pemotongan token yang dipertaruhkan. Secara keseluruhan, Mira memastikan operator node berpartisipasi secara jujur dalam verifikasi melalui permainan mekanisme ekonomi.
Mira memberikan pendekatan baru untuk mencapai keandalan AI: membangun jaringan verifikasi konsensus terdesentralisasi di atas banyak model AI, yang memberikan layanan AI yang lebih andal kepada pelanggan, mengurangi bias dan ilusi AI, serta memenuhi kebutuhan pelanggan akan akurasi dan presisi yang lebih tinggi. Secara bersamaan, di atas nilai yang diberikan kepada pelanggan, juga memberikan keuntungan bagi para peserta jaringan Mira. Singkatnya, Mira sedang mencoba membangun lapisan kepercayaan untuk AI, yang akan mendorong perkembangan aplikasi AI yang lebih mendalam.
Saat ini, pengguna dapat berpartisipasi dalam Testnet Mira melalui Klok. Klok adalah aplikasi obrolan LLM yang berbasis di Mira, di mana pengguna dapat merasakan keluaran AI yang telah diverifikasi dan membandingkannya dengan keluaran AI yang belum diverifikasi. Peserta juga dapat memperoleh poin Mira, meskipun penggunaan masa depan poin ini belum diumumkan.
Lihat Asli
Halaman ini mungkin berisi konten pihak ketiga, yang disediakan untuk tujuan informasi saja (bukan pernyataan/jaminan) dan tidak boleh dianggap sebagai dukungan terhadap pandangannya oleh Gate, atau sebagai nasihat keuangan atau profesional. Lihat Penafian untuk detailnya.
Peluncuran uji beta jaringan Mira membangun lapisan kepercayaan AI untuk mengurangi bias dan ilusi
Upaya Baru untuk Lapisan Kepercayaan AI: Peluncuran Testnet Publik Jaringan Mira
Baru-baru ini, sebuah jaringan uji publik bernama Mira resmi diluncurkan. Tujuan proyek ini adalah untuk membangun lapisan kepercayaan bagi AI, untuk mengatasi beberapa tantangan kunci yang dihadapi sistem AI saat ini. Jadi, mengapa AI perlu membangun kepercayaan, dan bagaimana Mira menangani masalah ini?
Di bidang AI, orang sering lebih fokus pada kemampuan hebatnya. Namun, sebuah pertanyaan menarik yang jarang dibahas adalah "ilusi" atau bias AI. Yang disebut "ilusi" AI, secara sederhana, adalah bahwa AI terkadang "mengada-ada" informasi, seolah-olah memberikan penjelasan yang masuk akal tetapi sebenarnya tidak berdasar. Misalnya, jika Anda bertanya kepada AI mengapa bulan berwarna pink, ia mungkin memberikan serangkaian penjelasan yang tampaknya masuk akal tetapi sebenarnya tidak ada dasarnya.
Kemunculan "ilusi" atau bias pada AI berkaitan dengan beberapa jalur teknologi AI saat ini. Misalnya, AI generatif mencapai koherensi dan kewajaran output dengan memprediksi konten yang "paling mungkin", tetapi metode ini kadang-kadang sulit untuk memverifikasi kebenarannya. Selain itu, data pelatihan itu sendiri mungkin mengandung kesalahan, bias, atau bahkan konten fiktif, yang semuanya dapat mempengaruhi kualitas output AI. Dengan kata lain, AI belajar dari pola bahasa manusia, bukan dari fakta itu sendiri.
Mekanisme generasi probabilitas dan model berbasis data saat ini hampir tidak terhindarkan menghasilkan "ilusi" dari AI. Untuk pengetahuan umum atau konten hiburan, output yang bias atau ilusif ini mungkin tidak langsung menimbulkan konsekuensi. Namun, jika terjadi di bidang-bidang yang memerlukan ketelitian tinggi seperti medis, hukum, penerbangan, dan keuangan, itu dapat menghasilkan konsekuensi yang serius. Oleh karena itu, bagaimana menyelesaikan masalah ilusi dan bias AI menjadi salah satu masalah inti dalam proses pengembangan AI.
Saat ini, di industri telah tersedia berbagai solusi. Beberapa menggunakan teknologi generasi yang ditingkatkan dengan pencarian, menggabungkan AI dengan database waktu nyata, dan mengutamakan output fakta yang telah diverifikasi. Beberapa lainnya memperkenalkan umpan balik manusia, melalui penandaan dan pengawasan manual untuk memperbaiki kesalahan model.
Proyek Mira juga sedang berusaha untuk mengatasi masalah bias dan ilusi AI. Inti pemikirannya adalah dengan membangun lapisan kepercayaan AI, untuk mengurangi bias dan ilusi AI, serta meningkatkan keandalan AI. Lalu, bagaimana Mira mencapai tujuan ini?
Gagasan inti Mira adalah untuk memverifikasi output AI melalui konsensus dari beberapa model AI. Mira pada dasarnya adalah jaringan verifikasi yang memanfaatkan konsensus dari beberapa model AI untuk memverifikasi keandalan output AI. Selain itu, Mira juga memperkenalkan konsensus terdesentralisasi untuk melakukan verifikasi.
Kunci dari jaringan Mira terletak pada verifikasi konsensus yang terdesentralisasi. Metode ini mengadopsi teknologi dari bidang kripto, sambil memanfaatkan keunggulan kolaborasi multi-model, untuk mengurangi bias dan ilusi melalui model verifikasi kolektif.
Dalam hal arsitektur verifikasi, protokol Mira mendukung konversi konten kompleks menjadi pernyataan yang dapat diverifikasi secara independen. Pernyataan ini memerlukan partisipasi operator node dalam proses verifikasi. Untuk memastikan kejujuran operator node, Mira mengadopsi mekanisme insentif/hukuman ekonomi kriptografi. Berbagai model AI dan operator node terdesentralisasi berkolaborasi untuk menjamin keandalan hasil verifikasi.
Arsitektur jaringan Mira mencakup konversi konten, verifikasi terdistribusi, dan mekanisme konsensus untuk mencapai keandalan verifikasi. Dalam arsitektur ini, konversi konten adalah langkah penting. Jaringan Mira pertama-tama memecah konten yang diusulkan (biasanya diajukan oleh klien) menjadi berbagai pernyataan yang dapat diverifikasi untuk memastikan model dapat memahami konten dalam konteks yang sama. Pernyataan ini didistribusikan oleh sistem ke node untuk diverifikasi, guna menentukan validitas pernyataan, dan mengumpulkan hasil untuk mencapai konsensus. Akhirnya, hasil dan konsensus ini akan dikembalikan kepada klien. Untuk melindungi privasi klien, konten yang diusulkan diubah menjadi pasangan pernyataan dan didistribusikan ke berbagai node dengan cara pengacakan, untuk mencegah kebocoran informasi selama proses verifikasi.
Operator node bertanggung jawab untuk menjalankan model validator, memproses klaim, dan mengirimkan hasil verifikasi. Mereka bersedia terlibat dalam verifikasi karena dapat memperoleh imbalan. Imbalan ini berasal dari nilai yang diciptakan untuk klien. Tujuan jaringan Mira adalah mengurangi tingkat kesalahan AI (mengurangi ilusi dan bias), dan setelah tujuan ini tercapai, dapat menghasilkan nilai besar di bidang kesehatan, hukum, penerbangan, dan keuangan. Oleh karena itu, klien bersedia membayar untuk ini. Tentu saja, keberlanjutan dan skala pembayaran tergantung pada apakah jaringan Mira dapat terus memberikan nilai kepada klien. Untuk mencegah perilaku spekulatif dari respons acak node, node yang terus menyimpang dari konsensus akan dikenakan pemotongan token yang dipertaruhkan. Secara keseluruhan, Mira memastikan operator node berpartisipasi secara jujur dalam verifikasi melalui permainan mekanisme ekonomi.
Mira memberikan pendekatan baru untuk mencapai keandalan AI: membangun jaringan verifikasi konsensus terdesentralisasi di atas banyak model AI, yang memberikan layanan AI yang lebih andal kepada pelanggan, mengurangi bias dan ilusi AI, serta memenuhi kebutuhan pelanggan akan akurasi dan presisi yang lebih tinggi. Secara bersamaan, di atas nilai yang diberikan kepada pelanggan, juga memberikan keuntungan bagi para peserta jaringan Mira. Singkatnya, Mira sedang mencoba membangun lapisan kepercayaan untuk AI, yang akan mendorong perkembangan aplikasi AI yang lebih mendalam.
Saat ini, pengguna dapat berpartisipasi dalam Testnet Mira melalui Klok. Klok adalah aplikasi obrolan LLM yang berbasis di Mira, di mana pengguna dapat merasakan keluaran AI yang telah diverifikasi dan membandingkannya dengan keluaran AI yang belum diverifikasi. Peserta juga dapat memperoleh poin Mira, meskipun penggunaan masa depan poin ini belum diumumkan.