Hiç, zararsız bir şeyin, şiirin, yapay zeka güvenliğini nasıl kırabileceğini düşündün mü? Evet, araştırmacılar, saldırganların gerçekten de güvenlik protokollerinden geçmek için şiirsel formatlar kullandığını buldular. Kötü niyetli kod değil—sadece dizeler ve ritim kalıpları, bu sistemlerin dayandığı güvenlik engellerini bir şekilde karıştırıyor. Başka hangi yaratıcı geçişlerin açıkta beklediğini merak ettiriyor.
View Original
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
15 Likes
Reward
15
5
Repost
Share
Comment
0/400
DevChive
· 6h ago
Şimdi poetry bile bir silah oldu, AI'nin savunması gerçekten kağıttan kaplanmış gibi.
View OriginalReply0
ser_we_are_ngmi
· 6h ago
Şiir hapishanesinden kurtulma meselesi gerçekten müthiş, görünüyor ki AI'ye birkaç Tang şiiri ezberletmem gerekecek.
View OriginalReply0
TommyTeacher
· 6h ago
Vay be, şiirle bile AI güvenliği aşılabiliyor mu? Ne kadar saçma bir şey bu, demek ki bu güvenlikçilerin baştan eğitilmesi lazım.
View OriginalReply0
DeepRabbitHole
· 6h ago
Şiir hapsini aşmak gerçekten harika bir şey, AI'nın koruması kağıt kaplan gibi görünüyor.
View OriginalReply0
GasFeeCrier
· 6h ago
Şiir kaçışı haha bu güvenlik mühendisleri ne kadar da mahcup olmalı
Hiç, zararsız bir şeyin, şiirin, yapay zeka güvenliğini nasıl kırabileceğini düşündün mü? Evet, araştırmacılar, saldırganların gerçekten de güvenlik protokollerinden geçmek için şiirsel formatlar kullandığını buldular. Kötü niyetli kod değil—sadece dizeler ve ritim kalıpları, bu sistemlerin dayandığı güvenlik engellerini bir şekilde karıştırıyor. Başka hangi yaratıcı geçişlerin açıkta beklediğini merak ettiriyor.