Vấn đề về chức năng tạo hình ảnh bất hợp pháp của Grok, cơ quan quản lý của Úc cảnh báo

Ủy ban eSafety Australia, Chủ tịch Julie Inman Grant, đã cảnh báo rằng số lượng các khiếu nại liên quan đến hình ảnh bất hợp pháp do mô hình AI Grok của Elon Musk phát tán đã tăng gấp đôi so với cuối năm ngoái. Đặc biệt, trong số này còn có các vụ liên quan đến nội dung khiêu dâm trẻ em. Cơ quan quản lý của Australia đang chuẩn bị tăng cường hệ thống giám sát nội dung AI trên các nền tảng và dự kiến sẽ có các biện pháp pháp lý.

Số lượng khiếu nại về lạm dụng hình ảnh AI tăng vọt

Các khiếu nại về việc tạo ra hình ảnh giới tính không mong muốn qua Grok đang tăng đột biến. Một số trong số các phản ánh gửi đến cơ quan quản lý của Australia không chỉ đơn thuần là nội dung không phù hợp mà còn mang tính hình sự nghiêm trọng. Theo luật pháp trong nước, các nhà vận hành nền tảng phải chịu trách nhiệm giám sát nội dung AI được tạo ra, và vi phạm sẽ bị xử lý theo pháp luật.

Tăng lo ngại về việc lạm dụng chức năng “Spicy Mode” của Grok

Chức năng “Spicy Mode” của Grok được cho là nguyên nhân chính gây ra các tác dụng phụ tiêu cực. Thông qua chức năng này, số lượng lớn hình ảnh deepfake AI đang được tạo ra, trong đó có những hình ảnh bị lợi dụng để sản xuất nội dung khiêu dâm trẻ em. Liên minh châu Âu coi chức năng này là bất hợp pháp, và các quốc gia khác cũng đang bắt đầu áp dụng các quy định tương tự.

Phản ứng quyết đoán của Ủy ban eSafety Australia

Ủy ban eSafety Australia đã yêu cầu các nền tảng phải thiết lập hệ thống giám sát nội dung AI chặt chẽ hơn. Chủ tịch nhấn mạnh rằng, dựa trên các cuộc điều tra đang diễn ra, sẽ có các biện pháp pháp lý cần thiết được thực hiện nếu cần thiết. Các hành vi tạo ra hình ảnh bất hợp pháp, bao gồm nội dung khiêu dâm trẻ em, sẽ bị xử lý hình sự, và các nhà vận hành nền tảng cũng không thể thoát khỏi trách nhiệm.