Quảng cáo ứng dụng chỉnh sửa AI bị cấm vì nói có thể “xóa bỏ bất cứ thứ gì”

9 giờ trước

Chia sẻLưu

Daniel Thomas Phóng viên công nghệ cao cấp

Chia sẻLưu

Getty Images

Một quảng cáo cho công cụ chỉnh sửa video và hình ảnh ám chỉ người xem có thể loại bỏ quần áo của phụ nữ bằng kỹ thuật số đã bị cơ quan quản lý quảng cáo của Vương quốc Anh cấm.

Quảng cáo trên YouTube cho PixVideo - AI Video Maker, xuất hiện vào tháng Giêng, cho thấy hình ảnh “trước” và “sau” của một cô gái trẻ, với vẽ nguệch ngoạc màu đỏ trên bụng trong hình ban đầu, và phần da trần của cô ấy lộ ra trong hình sau.

Chữ viết ở dưới cùng của hình ảnh ghi: “Xóa bỏ bất cứ thứ gì” kèm theo biểu tượng cảm xúc mắt hình trái tim.

Tám người đã phản ánh với Cơ quan Tiêu chuẩn Quảng cáo (ASA) rằng quảng cáo này đã làm nữ giới trở nên tình dục hóa và bị xem là vật thể hóa, đồng thời là hành động thiếu trách nhiệm, xúc phạm và gây hại.

Chưa rõ hình ảnh trong quảng cáo có phải của người thật hay do AI tạo ra, ASA cho biết việc đánh giá này chưa phải là phần của cuộc điều tra của họ.

Cơ quan quản lý cho biết PixVideo không cho phép người dùng loại bỏ quần áo khỏi hình ảnh kỹ thuật số để tạo nội dung khiêu dâm, nhưng người xem có thể đã hiểu nhầm rằng công cụ này làm được điều đó.

“Vì quảng cáo ngụ ý rằng người xem có thể sử dụng ứng dụng để loại bỏ quần áo của phụ nữ, chúng tôi cho rằng nó đã ủng hộ việc chỉnh sửa kỹ thuật số và phơi bày cơ thể phụ nữ mà không có sự đồng ý của họ,” cơ quan cho biết trong một tuyên bố.

Nó còn nói rằng quảng cáo này “thiếu trách nhiệm, chứa đựng định kiến giới có hại và có khả năng gây xúc phạm nghiêm trọng.”

Saeta Tech, chủ sở hữu của PixVideo, cho biết họ hiểu lý do tại sao quảng cáo này có thể gây xúc phạm, nhưng đổ lỗi cho cách trình bày và thông điệp của nó, chứ không phải mục đích sử dụng sản phẩm.

Họ nói rằng họ cấm tạo nội dung nude hoặc khiêu dâm và đã có các công cụ tự động phát hiện và chặn để ngăn chặn việc tạo ra hình ảnh như vậy.

Công ty đã đồng ý không trình chiếu lại quảng cáo này và đã tạm dừng tất cả các hoạt động quảng cáo trong khi tiến hành xem xét nội bộ.

Vấn đề về các ứng dụng “lột đồ” phụ nữ và trẻ em mà không có sự đồng ý đã gây chú ý vào tháng Giêng, khi chatbot Grok của Elon Musk bị sử dụng để tràn ngập X bằng các hình ảnh mang tính chất tình dục.

Sau phản ứng dữ dội toàn cầu, Musk đã chặn Grok tạo ra các hình ảnh như vậy ở những khu vực pháp lý cấm, nhưng X vẫn đang đối mặt với các cuộc điều tra và kiện tụng trên toàn thế giới.

Chính phủ Vương quốc Anh đã công bố vào tháng 12 rằng sẽ cấm việc tạo ra và cung cấp các công cụ AI cho phép người dùng chỉnh sửa hình ảnh để dường như loại bỏ quần áo của người khác.

Các quy định mới này sẽ dựa trên các quy tắc hiện hành về deepfake khiêu dâm và lạm dụng hình ảnh riêng tư.

Vương quốc Anh sẽ cấm các ứng dụng AI “lột xác” deepfake

TikTok loại bỏ quảng cáo giảm cân bằng AI từ tài khoản giả mạo Boots

Đăng ký nhận bản tin Tech Decoded để theo dõi các câu chuyện và xu hướng công nghệ hàng đầu thế giới. Không ở Vương quốc Anh? Đăng ký tại đây.

Trí tuệ nhân tạo