OpenAI đã công bố Model Spec: cách kiểm soát nội dung người lớn và nội dung nhạy cảm khác

Phòng thí nghiệm trí tuệ nhân tạo của OpenAI đã công bố phiên bản đầu tiên của tài liệu Model Spec, trong đó xác định các nguyên tắc hành xử cho các mô hình AI. Tài liệu bao gồm hướng dẫn chi tiết về cách làm việc có trách nhiệm với nội dung nhạy cảm, bao gồm các vấn đề quản lý nội dung khiêu dâm AI và các loại nội dung khác mang tính thẳng thắn. Đây là một bước quan trọng của công ty trong việc thúc đẩy phát triển trí tuệ nhân tạo một cách đạo đức.

Các nguyên tắc cơ bản về quản lý hành vi của các mô hình AI

OpenAI đã đề ra ba nguyên tắc cốt lõi nhằm hướng dẫn hoạt động của các hệ thống AI. Thứ nhất, các mô hình AI cần được thiết kế sao cho giúp các nhà phát triển và người dùng cuối nhận được các câu trả lời hữu ích phù hợp với hướng dẫn của họ. Thứ hai, các thuật toán phải hoạt động nhằm mang lại lợi ích cho nhân loại, đồng thời giảm thiểu các mối đe dọa tiềm tàng. Thứ ba, các mô hình AI phải phản ánh các giá trị và nguyên tắc của OpenAI liên quan đến chuẩn mực xã hội và pháp luật hiện hành.

Ba nền tảng này tạo thành nền tảng cho tất cả các khuyến nghị khác trong Model Spec. Công ty hy vọng rằng cách tiếp cận có cấu trúc này sẽ giúp tạo ra một môi trường làm việc với công nghệ AI dự đoán được và an toàn hơn.

Nội dung NSFW và trách nhiệm trong sáng tạo: quan điểm của OpenAI

Một trong những phần được thảo luận nhiều nhất trong tài liệu là phần dành riêng cho quản lý nội dung thẳng thắn. OpenAI không cấm hoàn toàn việc xử lý nội dung khiêu dâm AI, mà đề xuất một cách tiếp cận có kiểm soát. Công ty “khám phá khả năng cung cấp khả năng tạo ra dữ liệu như vậy một cách có trách nhiệm trong các bối cảnh phù hợp với độ tuổi, thông qua API và nền tảng ChatGPT”.

Cách tiếp cận này nhằm cho phép các công ty và người dùng tự do lựa chọn mức độ “gợi cảm” của các mô hình AI của họ. Điều này có nghĩa là các nhà phát triển có thể điều chỉnh các tham số hoạt động của hệ thống trí tuệ nhân tạo dựa trên nhu cầu và đối tượng mục tiêu của mình. Quản lý sản phẩm Joan Jang giải thích rằng mục tiêu của tài liệu là thu thập phản hồi từ cộng đồng về cách các mô hình nên hành xử, đồng thời phân định rõ ràng giữa hành động cố ý của thuật toán và các lỗi không chủ ý.

Năm quy tắc chính dành cho nhà phát triển

Model Spec thiết lập một bộ quy tắc bắt buộc mà tất cả các nhà phát triển khi làm việc với hệ thống AI của OpenAI phải tuân thủ. Các nhà phát triển cần tuân thủ thứ tự ưu tiên của các hướng dẫn, phù hợp với pháp luật hiện hành và tránh tạo ra các mối đe dọa thông tin. Ngoài ra, cần tôn trọng quyền tác giả và sở hữu trí tuệ, bảo vệ quyền riêng tư của người dùng, và tránh tạo ra nội dung NSFW mà không có các hạn chế và sự cho phép phù hợp.

Những quy tắc này áp dụng cả cho việc xử lý nội dung khiêu dâm AI lẫn các loại nội dung nhạy cảm khác. Tài liệu cũng khuyến nghị các mô hình mặc định giả định người dùng có ý tốt, đặt câu hỏi làm rõ khi cần thiết, không vượt quá giới hạn đã đặt, duy trì quan điểm khách quan và thể hiện sự không chắc chắn khi phù hợp.

Ảnh hưởng của các mô hình AI hiện có

Điều cần lưu ý là hiện tại, Model Spec sẽ không ảnh hưởng đến các sản phẩm đã phát hành của OpenAI như GPT-4 và DALL-E 3. Chúng sẽ tiếp tục hoạt động theo các chính sách sử dụng hiện hành. Tuy nhiên, tài liệu này được thiết kế như một “công cụ linh hoạt”, dự kiến sẽ thường xuyên cập nhật dựa trên phản hồi của cộng đồng, các nhà lập pháp, các tổ chức học thuật và các chuyên gia trong nhiều lĩnh vực.

Công ty mong muốn nhận được ý kiến từ tất cả các bên liên quan, bao gồm cả người dùng dịch vụ của OpenAI. Hiện vẫn chưa rõ các phản hồi nào sẽ được xem xét và ai sẽ quyết định các thay đổi cần thiết trong tài liệu. Thông tin về việc phát hành phiên bản thứ hai của Model Spec cũng chưa được công bố.

Triển vọng phát triển: nội dung khiêu dâm AI và các tiêu chuẩn mới

Model Spec là một bước quan trọng trong việc chuẩn hóa cách quản lý hành vi của các hệ thống AI. Tài liệu cho thấy OpenAI nghiêm túc trong việc xử lý các vấn đề đạo đức và an toàn khi phát triển trí tuệ nhân tạo, bao gồm các vấn đề nhạy cảm liên quan đến nội dung khiêu dâm AI và nội dung thẳng thắn. Thay vì cấm hoàn toàn, công ty chọn con đường quản lý có trách nhiệm, cho phép các nhà phát triển đưa ra các quyết định dựa trên cơ sở hợp lý.

Quyết định này phản ánh nhận thức ngày càng tăng trong ngành rằng việc kiểm soát hoàn toàn nội dung là không khả thi và thường phản tác dụng. Thay vào đó, phương pháp hiệu quả hơn là dựa trên sự minh bạch, trách nhiệm và sự tham gia của các bên liên quan. Khi trí tuệ nhân tạo ngày càng trở nên phổ biến hơn như một công cụ, các tài liệu như Model Spec sẽ đóng vai trò ngày càng quan trọng trong việc thiết lập các tiêu chuẩn và thực hành về nội dung khiêu dâm AI và các nội dung nhạy cảm khác trên phạm vi toàn cầu.