Новий експеримент з довірою AI: Запуск публічної тестової мережі Mira
Нещодавно запустилася публічна тестова мережа під назвою Mira. Мета цього проєкту полягає в тому, щоб створити рівень довіри для ШІ, щоб вирішити деякі ключові виклики, з якими стикаються сучасні системи ШІ. Отже, чому ШІ потрібно встановлювати довіру, і як Mira вирішує цю проблему?
У сфері ШІ люди часто більше зосереджуються на його потужних можливостях. Однак цікавим, але менш обговорюваним питанням є "ілюзії" або упередження ШІ. Що стосується "ілюзій" ШІ, простими словами це означає, що ШІ іноді може "вигадувати" інформацію, здаючись раціональним, але насправді говорячи безпідставні речі. Наприклад, якщо ви запитаєте ШІ, чому місяць рожевий, він може надати ряд на вигляд обґрунтованих, але насправді безпідставних пояснень.
Виникнення "галюцинацій" або упереджень у ШІ пов'язано з деякими поточними технологічними шляхами ШІ. Наприклад, генеративний ШІ досягає зв'язності та обґрунтованості виходу, прогнозуючи "найімовірніший" контент, але цей метод іноді важко перевірити на справжність. Крім того, самі навчальні дані можуть містити помилки, упередження або навіть вигадані матеріали, що все це вплине на якість виходу ШІ. Іншими словами, ШІ навчається мовним моделям людей, а не самим фактам.
Актуальний механізм генерації ймовірностей та модель, що базується на даних, майже неминуче призводить до того, що ШІ виробляє "ілюзії". Для загальних знань або розважального контенту такі упереджені чи ілюзорні результати можуть тимчасово не мати прямих наслідків. Але якщо це відбувається в таких сферах, як медицина, право, авіація, фінанси, що вимагають високої точності, це може призвести до серйозних наслідків. Тому вирішення проблеми ілюзій і упереджень ШІ стало одним з ключових питань у процесі розвитку ШІ.
Наразі в галузі існує кілька рішень. Деякі використовують технології покращеного генерації запитів, поєднуючи ШІ з реальними базами даних, щоб першочергово надавати перевірені факти. Інші залучають людський зворотний зв'язок, використовують ручне маркування та нагляд для виправлення помилок моделі.
Проект Mira також намагається вирішити проблеми упередженості та ілюзій в AI. Його основна ідея полягає в тому, щоб зменшити упередженість і ілюзії AI, підвищивши надійність AI шляхом побудови шару довіри до AI. Отже, як Mira реалізує цю мету?
Основна ідея Mira полягає в перевірці виходу ШІ за допомогою консенсусу кількох моделей ШІ. Mira по суті є мережею перевірки, яка використовує консенсус кількох моделей ШІ для перевірки надійності виходу ШІ. Крім того, Mira також вводить децентралізований консенсус для проведення перевірки.
Ключем мережі Mira є децентралізована валідація консенсусу. Цей підхід запозичує технології з криптовалютної сфери, одночасно використовуючи переваги багатомодельної координації, щоб зменшити упередженість і ілюзії через колективну валідацію.
У контексті архітектури верифікації протокол Mira підтримує перетворення складного контенту на незалежні верифіковані заяви. Ці заяви вимагають участі операторів вузлів у верифікації. Для забезпечення чесності операторів вузлів Mira використовує механізм криптоекономічних стимулів/покарань. Різні моделі ШІ та децентралізовані оператори вузлів спільно беруть участь у забезпеченні надійності результатів верифікації.
Мережа Mira має архітектуру, що включає перетворення контенту, розподілену верифікацію та механізм консенсусу, щоб забезпечити надійність верифікації. У цій архітектурі перетворення контенту є важливою ланкою. Спочатку мережа Mira розділяє кандидатський контент (зазвичай поданий клієнтом) на різні перевіряємі заяви, щоб забезпечити, що модель може зрозуміти контент в однаковому контексті. Ці заяви розподіляються системою між вузлами для верифікації, щоб визначити дійсність заяви, а результати узагальнюються для досягнення консенсусу. В результаті ці результати та консенсус повертаються клієнту. Щоб захистити конфіденційність клієнта, кандидатський контент перетворюється на пари заяв і розподіляється між різними вузлами у випадкових фрагментах, щоб запобігти витоку інформації під час процесу верифікації.
Оператори вузлів відповідають за запуск моделей валідації, обробку заявок і подання результатів валідації. Вони бажають брати участь у валідації, оскільки можуть отримати прибуток. Ці доходи походять від цінності, створеної для клієнтів. Мета мережі Mira полягає в зниженні рівня помилок ШІ (зменшення ілюзій та упереджень); як тільки ця мета буде досягнута, це зможе створити величезну цінність у таких сферах, як медицина, право, авіація, фінанси тощо. Тому клієнти готові за це платити. Звичайно, стійкість і масштаб платіжних зобов’язань залежать від того, чи зможе мережа Mira продовжувати приносити цінність клієнтам. Щоб запобігти спекулятивній поведінці випадкових відповідей вузлів, вузли, які постійно відхиляються від консенсусу, будуть позбавлені частини своїх стейкінгових токенів. Загалом, Mira забезпечує чесну участь операторів вузлів у валідації через економічний механізм ігор.
Mira пропонує новий підхід до забезпечення надійності ШІ: побудова децентралізованої мережі верифікації консенсусу на основі кількох моделей ШІ, що забезпечує вищу надійність для послуг ШІ клієнтів, зменшує упередженість і ілюзії ШІ, задовольняючи потреби клієнтів у більшій точності та прецизійності. Одночасно, на основі надання цінності клієнтам, мережа Mira приносить прибуток учасникам. Іншими словами, Mira намагається створити рівень довіри для ШІ, що буде сприяти глибшому розвитку застосувань ШІ.
На даний момент користувачі можуть долучитися до публічної Тестової мережі Mira через Klok. Klok - це чат-додаток на основі Mira, в якому користувачі можуть випробувати перевірені AI-виводи та порівняти їх з неперевіреними AI-виводами. Учасники також можуть заробляти бали Mira, хоча майбутнє використання цих балів наразі не оголошено.
Переглянути оригінал
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
Запуск публічного тестування мережі Mira для створення довірчого рівня AI, зменшення упереджень і ілюзій
Новий експеримент з довірою AI: Запуск публічної тестової мережі Mira
Нещодавно запустилася публічна тестова мережа під назвою Mira. Мета цього проєкту полягає в тому, щоб створити рівень довіри для ШІ, щоб вирішити деякі ключові виклики, з якими стикаються сучасні системи ШІ. Отже, чому ШІ потрібно встановлювати довіру, і як Mira вирішує цю проблему?
У сфері ШІ люди часто більше зосереджуються на його потужних можливостях. Однак цікавим, але менш обговорюваним питанням є "ілюзії" або упередження ШІ. Що стосується "ілюзій" ШІ, простими словами це означає, що ШІ іноді може "вигадувати" інформацію, здаючись раціональним, але насправді говорячи безпідставні речі. Наприклад, якщо ви запитаєте ШІ, чому місяць рожевий, він може надати ряд на вигляд обґрунтованих, але насправді безпідставних пояснень.
Виникнення "галюцинацій" або упереджень у ШІ пов'язано з деякими поточними технологічними шляхами ШІ. Наприклад, генеративний ШІ досягає зв'язності та обґрунтованості виходу, прогнозуючи "найімовірніший" контент, але цей метод іноді важко перевірити на справжність. Крім того, самі навчальні дані можуть містити помилки, упередження або навіть вигадані матеріали, що все це вплине на якість виходу ШІ. Іншими словами, ШІ навчається мовним моделям людей, а не самим фактам.
Актуальний механізм генерації ймовірностей та модель, що базується на даних, майже неминуче призводить до того, що ШІ виробляє "ілюзії". Для загальних знань або розважального контенту такі упереджені чи ілюзорні результати можуть тимчасово не мати прямих наслідків. Але якщо це відбувається в таких сферах, як медицина, право, авіація, фінанси, що вимагають високої точності, це може призвести до серйозних наслідків. Тому вирішення проблеми ілюзій і упереджень ШІ стало одним з ключових питань у процесі розвитку ШІ.
Наразі в галузі існує кілька рішень. Деякі використовують технології покращеного генерації запитів, поєднуючи ШІ з реальними базами даних, щоб першочергово надавати перевірені факти. Інші залучають людський зворотний зв'язок, використовують ручне маркування та нагляд для виправлення помилок моделі.
Проект Mira також намагається вирішити проблеми упередженості та ілюзій в AI. Його основна ідея полягає в тому, щоб зменшити упередженість і ілюзії AI, підвищивши надійність AI шляхом побудови шару довіри до AI. Отже, як Mira реалізує цю мету?
Основна ідея Mira полягає в перевірці виходу ШІ за допомогою консенсусу кількох моделей ШІ. Mira по суті є мережею перевірки, яка використовує консенсус кількох моделей ШІ для перевірки надійності виходу ШІ. Крім того, Mira також вводить децентралізований консенсус для проведення перевірки.
Ключем мережі Mira є децентралізована валідація консенсусу. Цей підхід запозичує технології з криптовалютної сфери, одночасно використовуючи переваги багатомодельної координації, щоб зменшити упередженість і ілюзії через колективну валідацію.
У контексті архітектури верифікації протокол Mira підтримує перетворення складного контенту на незалежні верифіковані заяви. Ці заяви вимагають участі операторів вузлів у верифікації. Для забезпечення чесності операторів вузлів Mira використовує механізм криптоекономічних стимулів/покарань. Різні моделі ШІ та децентралізовані оператори вузлів спільно беруть участь у забезпеченні надійності результатів верифікації.
Мережа Mira має архітектуру, що включає перетворення контенту, розподілену верифікацію та механізм консенсусу, щоб забезпечити надійність верифікації. У цій архітектурі перетворення контенту є важливою ланкою. Спочатку мережа Mira розділяє кандидатський контент (зазвичай поданий клієнтом) на різні перевіряємі заяви, щоб забезпечити, що модель може зрозуміти контент в однаковому контексті. Ці заяви розподіляються системою між вузлами для верифікації, щоб визначити дійсність заяви, а результати узагальнюються для досягнення консенсусу. В результаті ці результати та консенсус повертаються клієнту. Щоб захистити конфіденційність клієнта, кандидатський контент перетворюється на пари заяв і розподіляється між різними вузлами у випадкових фрагментах, щоб запобігти витоку інформації під час процесу верифікації.
Оператори вузлів відповідають за запуск моделей валідації, обробку заявок і подання результатів валідації. Вони бажають брати участь у валідації, оскільки можуть отримати прибуток. Ці доходи походять від цінності, створеної для клієнтів. Мета мережі Mira полягає в зниженні рівня помилок ШІ (зменшення ілюзій та упереджень); як тільки ця мета буде досягнута, це зможе створити величезну цінність у таких сферах, як медицина, право, авіація, фінанси тощо. Тому клієнти готові за це платити. Звичайно, стійкість і масштаб платіжних зобов’язань залежать від того, чи зможе мережа Mira продовжувати приносити цінність клієнтам. Щоб запобігти спекулятивній поведінці випадкових відповідей вузлів, вузли, які постійно відхиляються від консенсусу, будуть позбавлені частини своїх стейкінгових токенів. Загалом, Mira забезпечує чесну участь операторів вузлів у валідації через економічний механізм ігор.
Mira пропонує новий підхід до забезпечення надійності ШІ: побудова децентралізованої мережі верифікації консенсусу на основі кількох моделей ШІ, що забезпечує вищу надійність для послуг ШІ клієнтів, зменшує упередженість і ілюзії ШІ, задовольняючи потреби клієнтів у більшій точності та прецизійності. Одночасно, на основі надання цінності клієнтам, мережа Mira приносить прибуток учасникам. Іншими словами, Mira намагається створити рівень довіри для ШІ, що буде сприяти глибшому розвитку застосувань ШІ.
На даний момент користувачі можуть долучитися до публічної Тестової мережі Mira через Klok. Klok - це чат-додаток на основі Mira, в якому користувачі можуть випробувати перевірені AI-виводи та порівняти їх з неперевіреними AI-виводами. Учасники також можуть заробляти бали Mira, хоча майбутнє використання цих балів наразі не оголошено.