محاولة جديدة في طبقة الثقة للذكاء الاصطناعي: إطلاق شبكة ميرا العامة للاختبار
مؤخراً، تم إطلاق شبكة اختبار عامة جديدة تُدعى Mira. الهدف من هذا المشروع هو بناء طبقة ثقة للذكاء الاصطناعي، لمعالجة بعض التحديات الأساسية التي تواجه أنظمة الذكاء الاصطناعي الحالية. إذن، لماذا يحتاج الذكاء الاصطناعي إلى بناء الثقة، وكيف تتعامل Mira مع هذه المشكلة؟
في مجال الذكاء الاصطناعي، غالبًا ما يركز الناس أكثر على قدراته القوية. ومع ذلك، فإن مسألة "هلوسة" أو تحيز الذكاء الاصطناعي هي مسألة مثيرة للاهتمام ولكنها نادراً ما يتم مناقشتها. فما يسمى بـ "هلوسة" الذكاء الاصطناعي، ببساطة، يعني أن الذكاء الاصطناعي أحيانًا يقوم بـ "اختلاق" معلومات، ويتحدث بشكل يبدو منطقيًا لكنه في الحقيقة غير مستند إلى أي أساس. على سبيل المثال، إذا سألت الذكاء الاصطناعي لماذا القمر وردي، فقد يقدم سلسلة من التفسيرات التي تبدو معقولة لكنها في الواقع لا تستند إلى أي حقائق.
تتعلق ظاهرة "الهلاوس" أو التحيز في الذكاء الاصطناعي ببعض المسارات التقنية الحالية. على سبيل المثال، يحقق الذكاء الاصطناعي التوليدي اتساق وملاءمة المخرجات من خلال التنبؤ بالمحتوى "الأكثر احتمالاً"، لكن هذه الطريقة قد تكون أحيانًا صعبة التحقق من صحتها. بالإضافة إلى ذلك، قد تحتوي بيانات التدريب نفسها على أخطاء أو تحيزات أو حتى محتوى مختلق، وكل ذلك يمكن أن يؤثر على جودة مخرجات الذكاء الاصطناعي. بعبارة أخرى، يتعلم الذكاء الاصطناعي أنماط اللغة البشرية، وليس الحقائق نفسها.
إن آلية توليد الاحتمالات الحالية ونموذج البيانات المدفوعة تؤدي تقريبًا بلا شك إلى ظهور "هلوسة" من قبل الذكاء الاصطناعي. بالنسبة للمحتوى المعرفي العام أو الترفيهي، قد لا تكون هذه المخرجات المتحيزة أو الهلوسة لها عواقب مباشرة على المدى القصير. ولكن إذا حدث ذلك في مجالات تتطلب دقة عالية مثل الطب أو القانون أو الطيران أو المالية، فقد يؤدي ذلك إلى عواقب وخيمة. لذلك، فإن كيفية معالجة مشكلة هلوسة وتحيز الذكاء الاصطناعي أصبحت واحدة من القضايا الرئيسية في عملية تطوير الذكاء الاصطناعي.
حاليًا، هناك العديد من الحلول في الصناعة. يستخدم البعض تقنيات تعزيز البحث والتوليد، حيث يتم دمج الذكاء الاصطناعي مع قواعد البيانات في الوقت الحقيقي، مما يجعل الحقائق المعتمدة تظهر أولاً. بينما يقوم البعض الآخر بإدخال تغذية راجعة بشرية، من خلال التوصيف البشري والإشراف لتصحيح أخطاء النموذج.
يعمل مشروع ميرا أيضًا على حل مشكلات تحيزات الذكاء الاصطناعي والهلوسة. الفكرة الأساسية هي تقليل تحيزات الذكاء الاصطناعي والهلوسة من خلال بناء طبقة ثقة للذكاء الاصطناعي، مما يعزز موثوقية الذكاء الاصطناعي. إذن، كيف تحقق ميرا هذا الهدف؟
تتمثل الفكرة الأساسية لـ Mira في التحقق من مخرجات الذكاء الاصطناعي من خلال توافق عدة نماذج ذكاء اصطناعي. تعتبر Mira في جوهرها شبكة للتحقق، تستخدم توافق عدة نماذج ذكاء اصطناعي للتحقق من موثوقية مخرجات الذكاء الاصطناعي. بالإضافة إلى ذلك، تقدم Mira أيضًا توافقًا لامركزيًا لإجراء عملية التحقق.
تتمثل النقطة الأساسية في شبكة ميرا في التحقق من الإجماع اللامركزي. تستند هذه الطريقة إلى تقنيات من مجال التشفير، بينما تستفيد من مزايا التعاون متعدد النماذج، من خلال نموذج التحقق الجماعي لتقليل التحيز والأوهام.
فيما يتعلق بهيكل التحقق، يدعم بروتوكول ميرا تحويل المحتوى المعقد إلى بيانات قابلة للتحقق بشكل مستقل. تحتاج هذه البيانات إلى مشاركة مشغلي العقد في التحقق. لضمان نزاهة مشغلي العقد، يعتمد ميرا على آلية تحفيز/عقاب اقتصادية مشفرة. تشارك نماذج الذكاء الاصطناعي المختلفة ومشغلو العقد الموزعة معاً لضمان موثوقية نتائج التحقق.
يتضمن هيكل شبكة ميرا تحويل المحتوى، والتحقق الموزع، وآلية الإجماع، لتحقيق موثوقية التحقق. في هذا الهيكل، يُعتبر تحويل المحتوى مرحلة مهمة. تقوم شبكة ميرا أولاً بتفكيك المحتوى المرشح (الذي يتم تقديمه عادةً من قبل العملاء) إلى تصريحات قابلة للتحقق مختلفة، لضمان أن يتمكن النموذج من فهم المحتوى في نفس السياق. يتم توزيع هذه التصريحات بواسطة النظام على العقد للتحقق، لتحديد صلاحية التصريحات، وجمع النتائج للتوصل إلى إجماع. في النهاية، يتم إرجاع هذه النتائج والإجماع إلى العملاء. لحماية خصوصية العملاء، يتم تحويل المحتوى المرشح إلى أزواج من التصريحات وتوزيعها على عقد مختلفة بطريقة التجزئة العشوائية، لمنع تسرب المعلومات أثناء عملية التحقق.
تتحمل مشغلي العقد مسؤولية تشغيل نموذج المصدقين، ومعالجة التصريحات ورفع نتائج التحقق. إنهم مستعدون للمشاركة في التحقق لأنهم يمكنهم الحصول على عوائد. تأتي هذه العوائد من القيمة التي يتم إنشاؤها للعملاء. الهدف من شبكة ميرا هو تقليل معدل الأخطاء في الذكاء الاصطناعي (تقليل الوهم والتحيز)، وبمجرد تحقيق هذا الهدف، يمكن أن يحقق قيمة كبيرة في مجالات مثل الطب والقانون والطيران والتمويل. لذلك، يرغب العملاء في الدفع مقابل ذلك. بالطبع، يعتمد استدامة وحجم الدفع على ما إذا كانت شبكة ميرا تستطيع الاستمرار في تقديم القيمة للعملاء. لمنع سلوك المضاربة من خلال الاستجابة العشوائية من العقد، سيتم خصم الرموز المميزة المرهونة من العقد التي تبتعد عن الإجماع بشكل مستمر. بشكل عام، تضمن ميرا من خلال آلية الاقتصاد أن يشارك مشغلي العقد بصدق في التحقق.
تقدم Mira فكرة جديدة لتحقيق موثوقية الذكاء الاصطناعي: بناء شبكة تحقق توافق لامركزية على أساس نماذج متعددة من الذكاء الاصطناعي، مما يضيف موثوقية أعلى لخدمات الذكاء الاصطناعي للعملاء، ويقلل من التحيز والأوهام في الذكاء الاصطناعي، ويلبي متطلبات العملاء للحصول على دقة أعلى ومعدل دقة أعلى. في الوقت نفسه، تقدم قيمة للعملاء وتحقق أرباحًا لمشاركي شبكة Mira. باختصار، تحاول Mira بناء طبقة ثقة للذكاء الاصطناعي، مما سيدفع التطور العميق لتطبيقات الذكاء الاصطناعي.
حالياً، يمكن للمستخدمين المشاركة في شبكة اختبار Mira العامة من خلال Klok. Klok هو تطبيق محادثة LLM قائم على Mira، حيث يمكن للمستخدمين تجربة نواتج الذكاء الاصطناعي الموثوقة ومقارنة ذلك مع نواتج الذكاء الاصطناعي غير الموثوقة. يمكن للمشاركين أيضاً كسب نقاط Mira، لكن الاستخدام المستقبلي لهذه النقاط لم يُعلن عنه بعد.
شاهد النسخة الأصلية
قد تحتوي هذه الصفحة على محتوى من جهات خارجية، يتم تقديمه لأغراض إعلامية فقط (وليس كإقرارات/ضمانات)، ولا ينبغي اعتباره موافقة على آرائه من قبل Gate، ولا بمثابة نصيحة مالية أو مهنية. انظر إلى إخلاء المسؤولية للحصول على التفاصيل.
إطلاق اختبار شبكة ميرا العامة لبناء طبقة الثقة بالذكاء الاصطناعي لتقليل التحيز والأوهام
محاولة جديدة في طبقة الثقة للذكاء الاصطناعي: إطلاق شبكة ميرا العامة للاختبار
مؤخراً، تم إطلاق شبكة اختبار عامة جديدة تُدعى Mira. الهدف من هذا المشروع هو بناء طبقة ثقة للذكاء الاصطناعي، لمعالجة بعض التحديات الأساسية التي تواجه أنظمة الذكاء الاصطناعي الحالية. إذن، لماذا يحتاج الذكاء الاصطناعي إلى بناء الثقة، وكيف تتعامل Mira مع هذه المشكلة؟
في مجال الذكاء الاصطناعي، غالبًا ما يركز الناس أكثر على قدراته القوية. ومع ذلك، فإن مسألة "هلوسة" أو تحيز الذكاء الاصطناعي هي مسألة مثيرة للاهتمام ولكنها نادراً ما يتم مناقشتها. فما يسمى بـ "هلوسة" الذكاء الاصطناعي، ببساطة، يعني أن الذكاء الاصطناعي أحيانًا يقوم بـ "اختلاق" معلومات، ويتحدث بشكل يبدو منطقيًا لكنه في الحقيقة غير مستند إلى أي أساس. على سبيل المثال، إذا سألت الذكاء الاصطناعي لماذا القمر وردي، فقد يقدم سلسلة من التفسيرات التي تبدو معقولة لكنها في الواقع لا تستند إلى أي حقائق.
تتعلق ظاهرة "الهلاوس" أو التحيز في الذكاء الاصطناعي ببعض المسارات التقنية الحالية. على سبيل المثال، يحقق الذكاء الاصطناعي التوليدي اتساق وملاءمة المخرجات من خلال التنبؤ بالمحتوى "الأكثر احتمالاً"، لكن هذه الطريقة قد تكون أحيانًا صعبة التحقق من صحتها. بالإضافة إلى ذلك، قد تحتوي بيانات التدريب نفسها على أخطاء أو تحيزات أو حتى محتوى مختلق، وكل ذلك يمكن أن يؤثر على جودة مخرجات الذكاء الاصطناعي. بعبارة أخرى، يتعلم الذكاء الاصطناعي أنماط اللغة البشرية، وليس الحقائق نفسها.
إن آلية توليد الاحتمالات الحالية ونموذج البيانات المدفوعة تؤدي تقريبًا بلا شك إلى ظهور "هلوسة" من قبل الذكاء الاصطناعي. بالنسبة للمحتوى المعرفي العام أو الترفيهي، قد لا تكون هذه المخرجات المتحيزة أو الهلوسة لها عواقب مباشرة على المدى القصير. ولكن إذا حدث ذلك في مجالات تتطلب دقة عالية مثل الطب أو القانون أو الطيران أو المالية، فقد يؤدي ذلك إلى عواقب وخيمة. لذلك، فإن كيفية معالجة مشكلة هلوسة وتحيز الذكاء الاصطناعي أصبحت واحدة من القضايا الرئيسية في عملية تطوير الذكاء الاصطناعي.
حاليًا، هناك العديد من الحلول في الصناعة. يستخدم البعض تقنيات تعزيز البحث والتوليد، حيث يتم دمج الذكاء الاصطناعي مع قواعد البيانات في الوقت الحقيقي، مما يجعل الحقائق المعتمدة تظهر أولاً. بينما يقوم البعض الآخر بإدخال تغذية راجعة بشرية، من خلال التوصيف البشري والإشراف لتصحيح أخطاء النموذج.
يعمل مشروع ميرا أيضًا على حل مشكلات تحيزات الذكاء الاصطناعي والهلوسة. الفكرة الأساسية هي تقليل تحيزات الذكاء الاصطناعي والهلوسة من خلال بناء طبقة ثقة للذكاء الاصطناعي، مما يعزز موثوقية الذكاء الاصطناعي. إذن، كيف تحقق ميرا هذا الهدف؟
تتمثل الفكرة الأساسية لـ Mira في التحقق من مخرجات الذكاء الاصطناعي من خلال توافق عدة نماذج ذكاء اصطناعي. تعتبر Mira في جوهرها شبكة للتحقق، تستخدم توافق عدة نماذج ذكاء اصطناعي للتحقق من موثوقية مخرجات الذكاء الاصطناعي. بالإضافة إلى ذلك، تقدم Mira أيضًا توافقًا لامركزيًا لإجراء عملية التحقق.
تتمثل النقطة الأساسية في شبكة ميرا في التحقق من الإجماع اللامركزي. تستند هذه الطريقة إلى تقنيات من مجال التشفير، بينما تستفيد من مزايا التعاون متعدد النماذج، من خلال نموذج التحقق الجماعي لتقليل التحيز والأوهام.
فيما يتعلق بهيكل التحقق، يدعم بروتوكول ميرا تحويل المحتوى المعقد إلى بيانات قابلة للتحقق بشكل مستقل. تحتاج هذه البيانات إلى مشاركة مشغلي العقد في التحقق. لضمان نزاهة مشغلي العقد، يعتمد ميرا على آلية تحفيز/عقاب اقتصادية مشفرة. تشارك نماذج الذكاء الاصطناعي المختلفة ومشغلو العقد الموزعة معاً لضمان موثوقية نتائج التحقق.
يتضمن هيكل شبكة ميرا تحويل المحتوى، والتحقق الموزع، وآلية الإجماع، لتحقيق موثوقية التحقق. في هذا الهيكل، يُعتبر تحويل المحتوى مرحلة مهمة. تقوم شبكة ميرا أولاً بتفكيك المحتوى المرشح (الذي يتم تقديمه عادةً من قبل العملاء) إلى تصريحات قابلة للتحقق مختلفة، لضمان أن يتمكن النموذج من فهم المحتوى في نفس السياق. يتم توزيع هذه التصريحات بواسطة النظام على العقد للتحقق، لتحديد صلاحية التصريحات، وجمع النتائج للتوصل إلى إجماع. في النهاية، يتم إرجاع هذه النتائج والإجماع إلى العملاء. لحماية خصوصية العملاء، يتم تحويل المحتوى المرشح إلى أزواج من التصريحات وتوزيعها على عقد مختلفة بطريقة التجزئة العشوائية، لمنع تسرب المعلومات أثناء عملية التحقق.
تتحمل مشغلي العقد مسؤولية تشغيل نموذج المصدقين، ومعالجة التصريحات ورفع نتائج التحقق. إنهم مستعدون للمشاركة في التحقق لأنهم يمكنهم الحصول على عوائد. تأتي هذه العوائد من القيمة التي يتم إنشاؤها للعملاء. الهدف من شبكة ميرا هو تقليل معدل الأخطاء في الذكاء الاصطناعي (تقليل الوهم والتحيز)، وبمجرد تحقيق هذا الهدف، يمكن أن يحقق قيمة كبيرة في مجالات مثل الطب والقانون والطيران والتمويل. لذلك، يرغب العملاء في الدفع مقابل ذلك. بالطبع، يعتمد استدامة وحجم الدفع على ما إذا كانت شبكة ميرا تستطيع الاستمرار في تقديم القيمة للعملاء. لمنع سلوك المضاربة من خلال الاستجابة العشوائية من العقد، سيتم خصم الرموز المميزة المرهونة من العقد التي تبتعد عن الإجماع بشكل مستمر. بشكل عام، تضمن ميرا من خلال آلية الاقتصاد أن يشارك مشغلي العقد بصدق في التحقق.
تقدم Mira فكرة جديدة لتحقيق موثوقية الذكاء الاصطناعي: بناء شبكة تحقق توافق لامركزية على أساس نماذج متعددة من الذكاء الاصطناعي، مما يضيف موثوقية أعلى لخدمات الذكاء الاصطناعي للعملاء، ويقلل من التحيز والأوهام في الذكاء الاصطناعي، ويلبي متطلبات العملاء للحصول على دقة أعلى ومعدل دقة أعلى. في الوقت نفسه، تقدم قيمة للعملاء وتحقق أرباحًا لمشاركي شبكة Mira. باختصار، تحاول Mira بناء طبقة ثقة للذكاء الاصطناعي، مما سيدفع التطور العميق لتطبيقات الذكاء الاصطناعي.
حالياً، يمكن للمستخدمين المشاركة في شبكة اختبار Mira العامة من خلال Klok. Klok هو تطبيق محادثة LLM قائم على Mira، حيث يمكن للمستخدمين تجربة نواتج الذكاء الاصطناعي الموثوقة ومقارنة ذلك مع نواتج الذكاء الاصطناعي غير الموثوقة. يمكن للمشاركين أيضاً كسب نقاط Mira، لكن الاستخدام المستقبلي لهذه النقاط لم يُعلن عنه بعد.