Thử nghiệm mới của lớp tin cậy AI: Khởi động mạng thử nghiệm công cộng Mira
Gần đây, một mạng thử nghiệm công cộng có tên là Mira đã chính thức ra mắt. Mục tiêu của dự án này là xây dựng một lớp tin cậy cho AI, nhằm giải quyết một số thách thức quan trọng mà hệ thống AI đang phải đối mặt hiện nay. Vậy tại sao AI cần xây dựng lòng tin, và Mira đã giải quyết vấn đề này như thế nào?
Trong lĩnh vực AI, mọi người thường chú ý nhiều hơn đến khả năng mạnh mẽ của nó. Tuy nhiên, một vấn đề thú vị nhưng ít được thảo luận là "ảo giác" hoặc thiên kiến của AI. Cái gọi là "ảo giác" của AI, nói một cách đơn giản, là AI thỉnh thoảng có thể "bịa" ra thông tin, nói năng có vẻ hợp lý nhưng thực ra lại vô căn cứ. Ví dụ, nếu bạn hỏi AI tại sao mặt trăng lại màu hồng, nó có thể đưa ra một loạt các giải thích có vẻ hợp lý nhưng thực tế là không có cơ sở.
Sự xuất hiện của "ảo giác" hoặc thiên kiến trong AI liên quan đến một số con đường công nghệ AI hiện tại. Chẳng hạn, AI sinh ra đạt được sự nhất quán và hợp lý trong đầu ra bằng cách dự đoán nội dung "có khả năng nhất", nhưng phương pháp này đôi khi khó xác minh tính xác thực. Hơn nữa, chính dữ liệu huấn luyện có thể chứa lỗi, thiên kiến hoặc thậm chí nội dung hư cấu, tất cả những điều này đều ảnh hưởng đến chất lượng đầu ra của AI. Nói cách khác, AI học các mẫu ngôn ngữ của con người, chứ không phải sự thật bản thân.
Cơ chế tạo ra xác suất hiện tại và mô hình dựa trên dữ liệu gần như không thể tránh khỏi dẫn đến việc AI tạo ra "ảo giác". Đối với kiến thức phổ thông hoặc nội dung giải trí, đầu ra có thiên kiến hoặc ảo giác này có thể tạm thời không gây ra hậu quả trực tiếp. Nhưng nếu xảy ra trong các lĩnh vực yêu cầu tính chính xác cao như y tế, pháp lý, hàng không, tài chính, thì có thể gây ra hậu quả nghiêm trọng. Do đó, cách giải quyết vấn đề ảo giác và thiên kiến của AI đã trở thành một trong những vấn đề cốt lõi trong quá trình phát triển AI.
Hiện tại, trong ngành đã có nhiều phương án ứng phó. Một số sử dụng công nghệ tạo ra nội dung được tăng cường bằng tìm kiếm, kết hợp AI với cơ sở dữ liệu thời gian thực, ưu tiên xuất ra các sự thật đã được xác minh. Một số khác đưa phản hồi từ con người vào, thông qua việc gán nhãn và giám sát thủ công để sửa chữa lỗi của mô hình.
Dự án Mira cũng đang cố gắng giải quyết vấn đề thiên lệch và ảo giác trong AI. Ý tưởng cốt lõi của nó là giảm thiểu thiên lệch và ảo giác của AI bằng cách xây dựng một lớp tin cậy cho AI, từ đó nâng cao độ tin cậy của AI. Vậy, Mira đã thực hiện mục tiêu này như thế nào?
Ý tưởng cốt lõi của Mira là xác thực đầu ra AI thông qua sự đồng thuận của nhiều mô hình AI. Mira về bản chất là một mạng lưới xác thực, nó sử dụng sự đồng thuận của nhiều mô hình AI để xác thực độ tin cậy của đầu ra AI. Hơn nữa, Mira còn giới thiệu sự đồng thuận phi tập trung để tiến hành xác thực.
Điểm mấu chốt của mạng Mira là xác thực đồng thuận phi tập trung. Phương pháp này học hỏi từ các công nghệ trong lĩnh vực tiền mã hóa, đồng thời tận dụng lợi thế của sự hợp tác đa mô hình, thông qua mô hình xác thực tập thể để giảm thiên lệch và ảo giác.
Về mặt kiến trúc xác minh, giao thức Mira hỗ trợ chuyển đổi nội dung phức tạp thành các tuyên bố có thể xác minh độc lập. Các tuyên bố này yêu cầu sự tham gia của các nhà điều hành nút để xác minh. Để đảm bảo tính trung thực của các nhà điều hành nút, Mira đã áp dụng cơ chế khuyến khích/đền bù kinh tế mã hóa. Các mô hình AI khác nhau và các nhà điều hành nút phân tán cùng tham gia để đảm bảo độ tin cậy của kết quả xác minh.
Kiến trúc mạng của Mira bao gồm chuyển đổi nội dung, xác minh phân tán và cơ chế đồng thuận, từ đó đạt được độ tin cậy của việc xác minh. Trong kiến trúc này, chuyển đổi nội dung là giai đoạn quan trọng. Mạng Mira trước tiên phân tách nội dung ứng cử (thường do khách hàng gửi) thành các tuyên bố có thể xác minh khác nhau để đảm bảo mô hình có thể hiểu nội dung trong cùng một bối cảnh. Những tuyên bố này được hệ thống phân phối cho các nút để xác minh, để xác định tính hợp lệ của tuyên bố và tổng hợp kết quả để đạt được sự đồng thuận. Cuối cùng, những kết quả và sự đồng thuận này sẽ được trả lại cho khách hàng. Để bảo vệ quyền riêng tư của khách hàng, nội dung ứng cử được chuyển đổi thành các cặp tuyên bố và được phân phối cho các nút khác nhau theo cách phân mảnh ngẫu nhiên, nhằm ngăn chặn việc rò rỉ thông tin trong quá trình xác minh.
Các nhà điều hành nút chịu trách nhiệm vận hành mô hình xác thực, xử lý tuyên bố và nộp kết quả xác thực. Họ tham gia xác thực vì có thể kiếm được lợi nhuận. Những lợi nhuận này đến từ giá trị mà họ tạo ra cho khách hàng. Mục tiêu của mạng lưới Mira là giảm tỷ lệ lỗi AI (giảm ảo giác và thiên kiến), một khi đạt được mục tiêu này, nó có thể tạo ra giá trị to lớn trong các lĩnh vực như y tế, pháp luật, hàng không và tài chính. Do đó, khách hàng sẵn sàng trả tiền cho điều này. Tất nhiên, khả năng chi trả bền vững và quy mô phụ thuộc vào việc mạng lưới Mira có thể liên tục mang lại giá trị cho khách hàng hay không. Để ngăn chặn hành vi đầu cơ của các nút phản ứng ngẫu nhiên, các nút liên tục lệch khỏi sự đồng thuận sẽ bị giảm bớt token đặt cọc. Tổng thể, Mira đảm bảo rằng các nhà điều hành nút tham gia xác thực một cách trung thực thông qua cơ chế kinh tế của trò chơi.
Mira đã cung cấp một cách tiếp cận mới để đảm bảo độ tin cậy của AI: xây dựng một mạng lưới xác thực đồng thuận phi tập trung dựa trên nhiều mô hình AI, mang lại độ tin cậy cao hơn cho dịch vụ AI của khách hàng, giảm thiểu sự thiên lệch và ảo giác của AI, đáp ứng nhu cầu về độ chính xác và tỷ lệ chính xác cao hơn của khách hàng. Đồng thời, dựa trên việc cung cấp giá trị cho khách hàng, mang lại lợi nhuận cho những người tham gia mạng lưới Mira. Nói tóm lại, Mira đang cố gắng xây dựng một lớp tin cậy cho AI, điều này sẽ thúc đẩy sự phát triển sâu hơn của các ứng dụng AI.
Hiện tại, người dùng có thể tham gia vào Testnet Mira thông qua Klok. Klok là một ứng dụng trò chuyện LLM dựa trên Mira, cho phép người dùng trải nghiệm đầu ra AI đã được xác minh và so sánh nó với đầu ra AI chưa được xác minh. Người tham gia cũng có thể kiếm điểm Mira, tuy nhiên, mục đích sử dụng trong tương lai của những điểm này hiện vẫn chưa được công bố.
Xem bản gốc
Trang này có thể chứa nội dung của bên thứ ba, được cung cấp chỉ nhằm mục đích thông tin (không phải là tuyên bố/bảo đảm) và không được coi là sự chứng thực cho quan điểm của Gate hoặc là lời khuyên về tài chính hoặc chuyên môn. Xem Tuyên bố từ chối trách nhiệm để biết chi tiết.
Mira mạng lưới khởi động thử nghiệm công khai, xây dựng lớp tin cậy AI giảm thiểu thiên kiến và ảo giác.
Thử nghiệm mới của lớp tin cậy AI: Khởi động mạng thử nghiệm công cộng Mira
Gần đây, một mạng thử nghiệm công cộng có tên là Mira đã chính thức ra mắt. Mục tiêu của dự án này là xây dựng một lớp tin cậy cho AI, nhằm giải quyết một số thách thức quan trọng mà hệ thống AI đang phải đối mặt hiện nay. Vậy tại sao AI cần xây dựng lòng tin, và Mira đã giải quyết vấn đề này như thế nào?
Trong lĩnh vực AI, mọi người thường chú ý nhiều hơn đến khả năng mạnh mẽ của nó. Tuy nhiên, một vấn đề thú vị nhưng ít được thảo luận là "ảo giác" hoặc thiên kiến của AI. Cái gọi là "ảo giác" của AI, nói một cách đơn giản, là AI thỉnh thoảng có thể "bịa" ra thông tin, nói năng có vẻ hợp lý nhưng thực ra lại vô căn cứ. Ví dụ, nếu bạn hỏi AI tại sao mặt trăng lại màu hồng, nó có thể đưa ra một loạt các giải thích có vẻ hợp lý nhưng thực tế là không có cơ sở.
Sự xuất hiện của "ảo giác" hoặc thiên kiến trong AI liên quan đến một số con đường công nghệ AI hiện tại. Chẳng hạn, AI sinh ra đạt được sự nhất quán và hợp lý trong đầu ra bằng cách dự đoán nội dung "có khả năng nhất", nhưng phương pháp này đôi khi khó xác minh tính xác thực. Hơn nữa, chính dữ liệu huấn luyện có thể chứa lỗi, thiên kiến hoặc thậm chí nội dung hư cấu, tất cả những điều này đều ảnh hưởng đến chất lượng đầu ra của AI. Nói cách khác, AI học các mẫu ngôn ngữ của con người, chứ không phải sự thật bản thân.
Cơ chế tạo ra xác suất hiện tại và mô hình dựa trên dữ liệu gần như không thể tránh khỏi dẫn đến việc AI tạo ra "ảo giác". Đối với kiến thức phổ thông hoặc nội dung giải trí, đầu ra có thiên kiến hoặc ảo giác này có thể tạm thời không gây ra hậu quả trực tiếp. Nhưng nếu xảy ra trong các lĩnh vực yêu cầu tính chính xác cao như y tế, pháp lý, hàng không, tài chính, thì có thể gây ra hậu quả nghiêm trọng. Do đó, cách giải quyết vấn đề ảo giác và thiên kiến của AI đã trở thành một trong những vấn đề cốt lõi trong quá trình phát triển AI.
Hiện tại, trong ngành đã có nhiều phương án ứng phó. Một số sử dụng công nghệ tạo ra nội dung được tăng cường bằng tìm kiếm, kết hợp AI với cơ sở dữ liệu thời gian thực, ưu tiên xuất ra các sự thật đã được xác minh. Một số khác đưa phản hồi từ con người vào, thông qua việc gán nhãn và giám sát thủ công để sửa chữa lỗi của mô hình.
Dự án Mira cũng đang cố gắng giải quyết vấn đề thiên lệch và ảo giác trong AI. Ý tưởng cốt lõi của nó là giảm thiểu thiên lệch và ảo giác của AI bằng cách xây dựng một lớp tin cậy cho AI, từ đó nâng cao độ tin cậy của AI. Vậy, Mira đã thực hiện mục tiêu này như thế nào?
Ý tưởng cốt lõi của Mira là xác thực đầu ra AI thông qua sự đồng thuận của nhiều mô hình AI. Mira về bản chất là một mạng lưới xác thực, nó sử dụng sự đồng thuận của nhiều mô hình AI để xác thực độ tin cậy của đầu ra AI. Hơn nữa, Mira còn giới thiệu sự đồng thuận phi tập trung để tiến hành xác thực.
Điểm mấu chốt của mạng Mira là xác thực đồng thuận phi tập trung. Phương pháp này học hỏi từ các công nghệ trong lĩnh vực tiền mã hóa, đồng thời tận dụng lợi thế của sự hợp tác đa mô hình, thông qua mô hình xác thực tập thể để giảm thiên lệch và ảo giác.
Về mặt kiến trúc xác minh, giao thức Mira hỗ trợ chuyển đổi nội dung phức tạp thành các tuyên bố có thể xác minh độc lập. Các tuyên bố này yêu cầu sự tham gia của các nhà điều hành nút để xác minh. Để đảm bảo tính trung thực của các nhà điều hành nút, Mira đã áp dụng cơ chế khuyến khích/đền bù kinh tế mã hóa. Các mô hình AI khác nhau và các nhà điều hành nút phân tán cùng tham gia để đảm bảo độ tin cậy của kết quả xác minh.
Kiến trúc mạng của Mira bao gồm chuyển đổi nội dung, xác minh phân tán và cơ chế đồng thuận, từ đó đạt được độ tin cậy của việc xác minh. Trong kiến trúc này, chuyển đổi nội dung là giai đoạn quan trọng. Mạng Mira trước tiên phân tách nội dung ứng cử (thường do khách hàng gửi) thành các tuyên bố có thể xác minh khác nhau để đảm bảo mô hình có thể hiểu nội dung trong cùng một bối cảnh. Những tuyên bố này được hệ thống phân phối cho các nút để xác minh, để xác định tính hợp lệ của tuyên bố và tổng hợp kết quả để đạt được sự đồng thuận. Cuối cùng, những kết quả và sự đồng thuận này sẽ được trả lại cho khách hàng. Để bảo vệ quyền riêng tư của khách hàng, nội dung ứng cử được chuyển đổi thành các cặp tuyên bố và được phân phối cho các nút khác nhau theo cách phân mảnh ngẫu nhiên, nhằm ngăn chặn việc rò rỉ thông tin trong quá trình xác minh.
Các nhà điều hành nút chịu trách nhiệm vận hành mô hình xác thực, xử lý tuyên bố và nộp kết quả xác thực. Họ tham gia xác thực vì có thể kiếm được lợi nhuận. Những lợi nhuận này đến từ giá trị mà họ tạo ra cho khách hàng. Mục tiêu của mạng lưới Mira là giảm tỷ lệ lỗi AI (giảm ảo giác và thiên kiến), một khi đạt được mục tiêu này, nó có thể tạo ra giá trị to lớn trong các lĩnh vực như y tế, pháp luật, hàng không và tài chính. Do đó, khách hàng sẵn sàng trả tiền cho điều này. Tất nhiên, khả năng chi trả bền vững và quy mô phụ thuộc vào việc mạng lưới Mira có thể liên tục mang lại giá trị cho khách hàng hay không. Để ngăn chặn hành vi đầu cơ của các nút phản ứng ngẫu nhiên, các nút liên tục lệch khỏi sự đồng thuận sẽ bị giảm bớt token đặt cọc. Tổng thể, Mira đảm bảo rằng các nhà điều hành nút tham gia xác thực một cách trung thực thông qua cơ chế kinh tế của trò chơi.
Mira đã cung cấp một cách tiếp cận mới để đảm bảo độ tin cậy của AI: xây dựng một mạng lưới xác thực đồng thuận phi tập trung dựa trên nhiều mô hình AI, mang lại độ tin cậy cao hơn cho dịch vụ AI của khách hàng, giảm thiểu sự thiên lệch và ảo giác của AI, đáp ứng nhu cầu về độ chính xác và tỷ lệ chính xác cao hơn của khách hàng. Đồng thời, dựa trên việc cung cấp giá trị cho khách hàng, mang lại lợi nhuận cho những người tham gia mạng lưới Mira. Nói tóm lại, Mira đang cố gắng xây dựng một lớp tin cậy cho AI, điều này sẽ thúc đẩy sự phát triển sâu hơn của các ứng dụng AI.
Hiện tại, người dùng có thể tham gia vào Testnet Mira thông qua Klok. Klok là một ứng dụng trò chuyện LLM dựa trên Mira, cho phép người dùng trải nghiệm đầu ra AI đã được xác minh và so sánh nó với đầu ra AI chưa được xác minh. Người tham gia cũng có thể kiếm điểm Mira, tuy nhiên, mục đích sử dụng trong tương lai của những điểm này hiện vẫn chưa được công bố.