Bạn có bao giờ nghĩ về việc kỳ diệu như thế nào khi một thứ vô hại như thơ ca có thể phá vỡ an ninh AI? Ừ, các nhà nghiên cứu vừa phát hiện ra rằng những kẻ tấn công thực sự đang sử dụng các định dạng thơ ca để vượt qua các giao thức an toàn. Không phải mã độc hại—chỉ là những vần điệu và mẫu nhịp mà bằng cách nào đó làm rối loạn các rào cản mà các hệ thống này phụ thuộc vào. Khiến bạn tự hỏi có những cách sáng tạo nào khác đang ẩn nấp ở đó ngay trước mắt.
Xem bản gốc
Trang này có thể chứa nội dung của bên thứ ba, được cung cấp chỉ nhằm mục đích thông tin (không phải là tuyên bố/bảo đảm) và không được coi là sự chứng thực cho quan điểm của Gate hoặc là lời khuyên về tài chính hoặc chuyên môn. Xem Tuyên bố từ chối trách nhiệm để biết chi tiết.
15 thích
Phần thưởng
15
5
Đăng lại
Retweed
Bình luận
0/400
DevChive
· 9giờ trước
Ê, bây giờ ngay cả poetry cũng trở thành vũ khí rồi, hàng rào phòng thủ của AI đúng là hổ giấy thật.
Xem bản gốcTrả lời0
ser_we_are_ngmi
· 9giờ trước
Việc jailbreak thơ ca quả thật tuyệt vời, có vẻ như phải dạy AI thuộc vài bài thơ Đường rồi.
Xem bản gốcTrả lời0
TommyTeacher
· 9giờ trước
Vãi thật, thơ mà cũng có thể phá vỡ an ninh AI à? Quá phi lý luôn, xem ra mấy ông làm an ninh này phải học lại từ đầu rồi.
Xem bản gốcTrả lời0
DeepRabbitHole
· 9giờ trước
Việc jailbreak thơ thật sự rất tuyệt, cảm giác như bảo vệ của AI chỉ là hổ giấy.
Xem bản gốcTrả lời0
GasFeeCrier
· 9giờ trước
Thơ vượt ngục haha đám kỹ sư an ninh này chắc ngại lắm đây
Bạn có bao giờ nghĩ về việc kỳ diệu như thế nào khi một thứ vô hại như thơ ca có thể phá vỡ an ninh AI? Ừ, các nhà nghiên cứu vừa phát hiện ra rằng những kẻ tấn công thực sự đang sử dụng các định dạng thơ ca để vượt qua các giao thức an toàn. Không phải mã độc hại—chỉ là những vần điệu và mẫu nhịp mà bằng cách nào đó làm rối loạn các rào cản mà các hệ thống này phụ thuộc vào. Khiến bạn tự hỏi có những cách sáng tạo nào khác đang ẩn nấp ở đó ngay trước mắt.