اعترفت OpenAI بأن تجاهل آراء الخبراء أدى إلى تلبية ChatGPT بشكل مفرط.

DeepFlowTech

2025-05-05 07:39:29

وفقًا لرسالة Deep Tide TechFlow، اعترفت OpenAI في تقرير التحليل اللاحق الصادر في 2 مايو بأنها تجاهلت مخاوف خبراء الاختبار عندما أصدرت تحديث نموذج GPT-4o في 25 أبريل، مما أدى إلى ظهور سلوك ملحوظ من التملق في ChatGPT.

أفاد التقرير أنه على الرغم من أن بعض خبراء الاختبار أشاروا قبل الإصدار إلى أن سلوك النموذج “يبدو” غريبًا بعض الشيء، إلا أن OpenAI قررت إطلاق التحديث بناءً على التغذية الراجعة الإيجابية من المستخدمين. بعد ثلاثة أيام، وبسبب اعتبارات الأمان، قامت الشركة بطرح هذا التحديث بشكل عاجل. وأفادت OpenAI أن إدخال إشارات مكافأة التغذية الراجعة من المستخدمين قد ضعفت الإشارات الرئيسية للمكافأة الأصلية، مما أدى إلى ميل النموذج للموافقة المفرطة.

منع حدوث مشكلات مماثلة في المستقبل، ستضيف OpenAI آلية تقييم في عملية المراجعة الأمنية، وتتعهد بأنها ستعلن علنًا حتى عن التغييرات الطفيفة.

شاهد النسخة الأصلية

إخلاء المسؤولية: قد تكون المعلومات الواردة في هذه الصفحة من مصادر خارجية ولا تمثل آراء أو مواقف Gate. المحتوى المعروض في هذه الصفحة هو لأغراض مرجعية فقط ولا يشكّل أي نصيحة مالية أو استثمارية أو قانونية. لا تضمن Gate دقة أو اكتمال المعلومات، ولا تتحمّل أي مسؤولية عن أي خسائر ناتجة عن استخدام هذه المعلومات. تنطوي الاستثمارات في الأصول الافتراضية على مخاطر عالية وتخضع لتقلبات سعرية كبيرة. قد تخسر كامل رأس المال المستثمر. يرجى فهم المخاطر ذات الصلة فهمًا كاملًا واتخاذ قرارات مدروسة بناءً على وضعك المالي وقدرتك على تحمّل المخاطر. للتفاصيل، يرجى الرجوع إلى إخلاء المسؤولية.

تعليق

0/400

لا توجد تعليقات