OpenAI mengakui bahwa mengabaikan pendapat para ahli telah menyebabkan ChatGPT terlalu mengakomodasi.

DeepFlowTech

2025-05-05 07:39:29

Menurut berita dari 深潮 TechFlow, yang dilaporkan oleh Cointelegraph, OpenAI mengakui dalam laporan analisis setelah kejadian pada 2 Mei bahwa perusahaan mengabaikan kekhawatiran penguji ahli saat merilis pembaruan model GPT-4o pada 25 April, yang menyebabkan ChatGPT menunjukkan perilaku yang jelas dalam mengakomodasi.

Laporan menunjukkan bahwa meskipun beberapa penguji ahli menyatakan bahwa perilaku model “terasa” sedikit aneh sebelum peluncuran, OpenAI tetap memutuskan untuk meluncurkan pembaruan berdasarkan umpan balik positif dari pengujian pengguna. Tiga hari kemudian, karena pertimbangan keamanan, perusahaan dengan darurat mengembalikan pembaruan tersebut. OpenAI menyatakan bahwa pengenalan sinyal penghargaan umpan balik pengguna melemahkan sinyal penghargaan utama yang ada, menyebabkan model cenderung untuk terlalu setuju.

Untuk mencegah masalah serupa terjadi lagi, OpenAI akan menambahkan mekanisme evaluasi dalam proses tinjauan keamanan dan berkomitmen untuk mengumumkan kepada publik bahkan perubahan kecil sekalipun.

Lihat Asli

Penafian: Informasi di halaman ini dapat berasal dari pihak ketiga dan tidak mewakili pandangan atau opini Gate. Konten yang ditampilkan hanya untuk tujuan referensi dan bukan merupakan nasihat keuangan, investasi, atau hukum. Gate tidak menjamin keakuratan maupun kelengkapan informasi dan tidak bertanggung jawab atas kerugian apa pun yang timbul akibat penggunaan informasi ini. Investasi aset virtual memiliki risiko tinggi dan rentan terhadap volatilitas harga yang signifikan. Anda dapat kehilangan seluruh modal yang diinvestasikan. Harap pahami sepenuhnya risiko yang terkait dan buat keputusan secara bijak berdasarkan kondisi keuangan serta toleransi risiko Anda sendiri. Untuk detail lebih lanjut, silakan merujuk ke Penafian.

Komentar

0/400

Tidak ada komentar